前往小程序,Get更优阅读体验!
立即前往
发布
社区首页 >专栏 >大数据面试题百日更新_Hadoop专题(Day02)

大数据面试题百日更新_Hadoop专题(Day02)

作者头像
Maynor
发布2021-04-09 15:31:30
发布2021-04-09 15:31:30
4620
举报

文章目录

    • 2. HDFS 在读取文件的时候,如果其中一个块突然损坏了怎么办
    • 3. HDFS 在上传文件的时候,如果其中一个 DataNode 突然挂掉了怎么办

2. HDFS 在读取文件的时候,如果其中一个块突然损坏了怎么办

客户端读取完 DataNode 上的块之后会进行 checksum 验证,也就是把客户端读 取到本地的块与 HDFS 上的原始块进行校验,如果发现校验结果不一致,客户端 会通知 NameNode,然后再从下一个拥有该 block 副本的 DataNode 继续读

3. HDFS 在上传文件的时候,如果其中一个 DataNode 突然挂掉了怎么办

客户端上传文件时与DataNode建立pipeline管道,管道正向是客户端向DataNode 发送的数据包,管道反向是 DataNode 向客户端发送 ack 确认,也就是正确接收到数据包之后发送一个已确认接收到的应答,当 DataNode 突然挂掉了,客户端 接收不到这个 DataNode 发送的 ack 确认 ,客户端会通知 NameNode,NameNode 检查该块的副本与规定的不符, NameNode 会通知 DataNode 去复制副本,并将挂掉的 DataNode 作下线处理,不 再让它参与文件上传与下载。

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2021/03/22 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 文章目录
  • 2. HDFS 在读取文件的时候,如果其中一个块突然损坏了怎么办
  • 3. HDFS 在上传文件的时候,如果其中一个 DataNode 突然挂掉了怎么办
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档