当前位置: 萬仟网 > IT编程>软件设计>领域驱动 > 带你了解HDFS的Namenode 高可用机制

带你了解HDFS的Namenode 高可用机制

2021年08月23日 领域驱动 我要评论
目录hdfs namenode 高可用hadoop namenode 高可用架构namenode 高可用的实现隔离(fencing)qjm共享存储hdfs namenode 高可用在 hadoop 2

hdfs namenode 高可用

在 hadoop 2.0.0 之前,一个集群只有一个namenode,这将面临单点故障问题。如果 namenode 机器挂掉了,整个集群就用不了了。只有重启 namenode ,才能恢复集群。另外正常计划维护集群的时候,还必须先停用整个集群,这样没办法达到 7 * 24小时可用状态。hadoop 2.0 及之后版本增加了 namenode 高可用机制,下面详细介绍。

hadoop namenode 高可用架构


hadoop 2.0 克服了 namenode 单点故障问题,即在一个集群中有2个 namenode 节点,一个是活动的namenode节点(active namenode),即主节点,一个是备用 namenode(passive namenode),即备用节点,而且支持热备份和故障切换。

活动 namenode:负责处理集群中所有客户端请求。
备用 namenode:备用节点,拥有和活动的 namenode 一样的元数据。在活动 namenode 失效后,会接管它的工作。

活动 namenode 和备用 namenode 之间是如何同步数据的呢?即他们是怎么保持一致性的,主要有下面几点:

  • 活动和备用 namenode 两者总是同步的,例如,他们存储着一样的元数据,这可以把集群恢复到系统奔溃时的状态。而且基于此还能实现自动故障切换。
  • 同一时间,集群只能有一个活动的 namenode 节点,否则,两个 namenode 会导致数据发生错乱并且无法恢复。我们把这种情况称为“脑裂”现象,即一个集群被分成两个小集群,并且两边都认为自己是唯一活动的集群。zookeeper 社区对这种问题的解决方法叫做 fencing,中文翻译为隔离,也就是想办法把旧的 活动 namenode 隔离起来,使它不能正常对外提供服务,使集群始终只有一个活动的 namenode。

了解完 hadoop 高可用架构之后,让我们来看一下 hadoop namenode 高可用是怎么实现的。

namenode 高可用的实现

这里主要介绍通过隔离(fencing)和quorum journal manager(qjm)共享存储实现的 hdfs 高可用。

隔离(fencing)

隔离(fencing)是为了防止脑裂,就是保证在任何时候hdfs只有一个active nn,主要包括三个方面:

  • 共享存储fencing:确保只有一个nn可以写入edits。qjm中每一个journalnode中均有一个epochnumber,匹配epochnumber的qjm才有权限更新 jn。当 namenode 由 standby 状态切换成 active 状态时,会重新生成一个 epochnumber,并更新 jn 中的 epochnumber,以至于以前的 active namenode 中的qjm 中的 epoch number 和 jn 的 epochnumber 不匹配,故而原 active namenode上的 qjm 没法往 jn 中写入数据(后面会介绍源码),即形成了 fencing。
  • 客户端f encing:确保只有一个 namenode 可以响应客户端的请求。
  • datanode fencing:确保只有一个 namenode 可以向 datanode 下发命令,譬如删除块,复制块,等等。

qjm 的 fencing 方案只能让原来的 active namenode 失去对 jn 的写权限,但是原来的 active namenode 还是可以响应客户端的请求,对 datanode 进行读。对客户端和 datanode 的 fence 是通过配置 dfs.ha.fencing.methods 实现的。

hadoop 公共库中有两种fencing实现:sshfence、shell

  • sshfence:ssh到原active nn上,使用fuser结束进程(通过tcp端口号定位进程 pid,该方法比 jps 命令更准确)。
  • shell:即执行一个用户事先定义的shell命令(脚本)完成隔离。

qjm共享存储

qurom journal manager(qjm)是一个基于 paxos 算法实现的 hdfs 元数据共享存储的方案。qjm 的基本原理就是用 2n+1 台 journalnode 存储 editlog,每次写数据操作有大多数(>=n+1)返回成功时即认为该次写成功,数据不会丢失。这个算法所能容忍的是最多有 n 台机器挂掉,如果多于 n 台挂掉,这个算法就失效了。这个原理是基于 paxos 算法的。

用qjm的方式来实现ha的主要好处有:

  • 不需要配置额外的高共享存储,这样对于基于商用硬件的云计算数据中心来说,降低了复杂度和维护成本;
  • 不在需要单独配置 fencing 实现,因为 qjm 本身内置了 fencing 的功能;
  • 不存在单点故障问题;
  • 系统鲁棒性的程度是可配置的( qjm 基于 paxos 算法,所以如果配置 2n+1 台 journalnode 组成的集群,能容忍最多 n 台机器挂掉);
  • qjm 中存储日志的 journalnode 不会因为其中一台的延迟而影响整体的延迟,而且也不会因为 journalnode 的数量增多而影响性能(因为 namenode 向 journalnode 发送日志是并行的)。

以上就是带你连接hdfs的namenode 高可用机制的详细内容,更多关于hdfs namenode 高可用的资料请关注萬仟网其它相关文章!

(1)
打赏 微信扫一扫 微信扫一扫

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。

发表评论

验证码:
Copyright © 2017-2022  萬仟网 保留所有权利. 粤ICP备17035492号