一、DataNode工作机制

image.png

  • 一个数据块在 DataNode 上以文件形式存储在磁盘上，包括两个文件，一个是数据本 身，一个是元数据包括数据块的长度，块数据的校验和，以及时间戳。
  • DataNode 启动后向 NameNode 注册，通过后，周期性(1 小时)的向 NameNode 上 报所有的块信息。
  • 心跳是每 3 秒一次，心跳返回结果带有 NameNode 给该 DataNode 的命令如复制块数据到另一台机器，或删除某个数据块。如果超过 10 分钟没有收到某个 DataNode 的心跳，则认为该节点不可用。
  • 集群运行中可以安全加入和退出一些机器

二、数据完整性

思考:如果电脑磁盘里面存储的数据是控制高铁信号灯的红灯信号(1)和绿灯信号(0)， 但是存储该数据的磁盘坏了，一直显示是绿灯，是否很危险?同理 DataNode 节点上的数据 损坏了，却没有发现，是否也很危险，那么如何解决呢? 如下是 DataNode 节点保证数据完整性的方法。

  • 当 DataNode 读取 Block 的时候，它会计算 CheckSum。

  • 如果计算后的 CheckSum，与 Block 创建时值不一样，说明 Block 已经损坏。

  • Client 读取其他 DataNode 上的 Block。

  • DataNode 在其文件创建后周期验证 CheckSum，如下图所示：

image.png

三、掉线时参数设置

  • DataNode进程死亡或 者网络故障造成DataNode 无法与NameNode通信
  • NameNode不会立即把该节点判定 为死亡，要经过一段时间，这段时间 暂称作超时时长。
  • HDFS默认的超时时长为10分钟+30秒

如果定义超时时间为TimeOut，则超时时长的计算公式为:
TimeOut = 2 dfs.namenode.heartbeat.recheck-interval + 10 dfs.heartbeat.interval。
而默认的dfs.namenode.heartbeat.recheck-interval 大小为5分钟，dfs.heartbeat.interval默认为3秒。

需要注意的是 hdfs-site.xml 配置文件中的 heartbeat.recheck.interval 的单位为毫秒， dfs.heartbeat.interval 的单位为秒。

  1. <property>
  2.     <name>dfs.namenode.heartbeat.recheck-interval</name> 
  3.    <value>300000</value>
  4. </property>
  5. <property>
  6.     <name>dfs.heartbeat.interval</name>
  7.    <value>3</value>
  8. </property>
  1. <br />

四、服役新数据节点、下线旧数据节点

4.1、服役新数据节点

随着公司业务的增长，数据量越来越大，原有的数据节点的容量已经不能满足存储数据 的需求，需要在原有集群基础上动态添加新的数据节点。

4.1.1、环境准备

  • 在 hadoop104 主机上再克隆一台 hadoop105 主机

  • 修改 IP 地址和主机名称

  • 删除原来 HDFS 文件系统留存的文件(/opt/module/hadoop-2.7.2/data 和 log)

  • source 一下配置文件

  1. $ source /etc/profile

4.1.2、服役新节点步骤

  • 在hadoop105 机器上，直接启动 DataNode，即可关联到集群

    1. $ sbin/hadoop-daemon.sh start datanode
    2. $ sbin/yarn-daemon.sh start nodemanager

  • 测试上传文件

    1. $ hadoop fs -put /opt/module/hadoop-2.7.2/LICENSE.txt /

  • 如果数据不均衡，可以用命令实现集群的再平衡

    1. $ ./start-balancer.sh

4.2、退役旧数据节点

4.2.1、添加白名单

添加到白名单的主机节点，都允许访问 NameNode，不在白名单的主机节点，都会被退出。
配置白名单的具体步骤如下：

  • 在 NameNode 的/opt/module/hadoop-2.7.2/etc/hadoop 目录下创建 dfs.hosts 文件

    1. $ pwd /opt/module/hadoop-2.7.2/etc/hadoop
    2. $ touch dfs.hosts
    3. $ vi dfs.hosts

  • 在 NameNode 的 hdfs-site.xml 配置文件中增加 dfs.hosts 属性

    1. <property>
    2.   <name>dfs.hosts</name> 
    3.   <value>/opt/module/hadoop-2.7.2/etc/hadoop/dfs.hosts</value> 
    4. </property>

  • 配置文件分发

  1. $ xsync hdfs-site.xml
  1. 刷新 NameNode
  1. $ hdfs dfsadmin -refreshNodes
  2.     Refresh nodes successful

  • 更新 ResourceManager 节点

    1. $ yarn rmadmin -refreshNodes

  • 在 web 浏览器上查看

  1. <br />如果数据不均衡，可以用命令实现集群的再平衡：
  1. $ ./start-balancer.sh

4.2.2、黑名单退役

在黑名单上面的主机都会被强制退出。

  • 在 NameNode 的 /opt/module/hadoop-2.7.2/etc/hadoop 目 录 下 创 建 dfs.hosts.exclude 文件
  1. $ pwd 
  2.     /opt/module/hadoop-2.7.2/etc/hadoop
  3. $ touch dfs.hosts.exclude 
  4. $ vi dfs.hosts.exclude

  • 在 NameNode 的 hdfs-site.xml 配置文件中增加 dfs.hosts.exclude 属性

    1. <property> 
    2.   <name>dfs.hosts.exclude</name>
    3.   <value>/opt/module/hadoop- 2.7.2/etc/hadoop/dfs.hosts.exclude</value> 
    4. </property>

  • 刷新 NameNode、刷新 ResourceManager

    1. $ hdfs dfsadmin -refreshNodes 
    2.   Refresh nodes successful
    3. $ yarn rmadmin -refreshNodes

  • 检查 Web 浏览器，退役节点的状态为 decommission in progress(退役中)， 说明数据节点正在复制块到其他节点

  • 等待退役节点状态为 decommissioned(所有块已经复制完成)，停止该节点及 节点资源管理器。注意:如果副本数是 3，服役的节点小于等于 3，是不能退役 成功的，需要修改副本数后才能退役

  1. $ sbin/hadoop-daemon.sh stop datanode
  2.     stopping datanode
  3. $ sbin/yarn-daemon.sh stop nodemanager
  4.     stopping nodemanager

如果数据不均衡，可以用命令实现集群的再平衡：

  1. $ ./start-balancer.sh

五、Datanode 多目录配置

DataNode 也可以配置成多个目录，每个目录存储的数据不一样。即:数据不是副本，具体配置如下：
hdfs-site.xml

  1. <property> 
  2.     <name>dfs.datanode.data.dir</name>
  3.     <value>file:///${hadoop.tmp.dir}/dfs/data1,file:///${hadoop.tm p.dir}/dfs/data2</value>
  4. </property>