千家信息网

怎么进行hadoop2.x namenode ha 架构的原理分析

发表于:2024-11-26 作者:千家信息网编辑
千家信息网最后更新 2024年11月26日,怎么进行hadoop2.x namenode ha 架构的原理分析,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。在2.x版本的ha的架构
千家信息网最后更新 2024年11月26日怎么进行hadoop2.x namenode ha 架构的原理分析

怎么进行hadoop2.x namenode ha 架构的原理分析,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。

在2.x版本的ha的架构图中



看以看到为了完成对两个NN的无缝切换,DN需要同时在Block信息发给两个NN,而NN之间需要做的是元数据信息的同步。

这里就涉及到同步的问题,共享存储。

在可靠性方面,在每一个NN上启动了DFSZKFailoverController来监听本地NN的运行状态,以便做出相应的判断处理。

而zookeeper就算为了实现一个分布式lock,防止同时出现两个active NN,以及一些数据的共享。

我们可以在看这幅比较原理基本的架构图。


可以看到每一个NN上,是有HADeamon进程,定时和DFSZKFailoverController的HealthMonitor进行心跳检测。

DFSZKFailoverController其中包含了ActiveStandbyElector来选举active以及standby。

元数据信息通过QJM来实时更新。

我们可以把standby NN看成是一个safemode下的NN,不提供对外服务,但是却可以更新相应的元数据信息修改,block数据上报更新等一系列操作。

看完上述内容,你们掌握怎么进行hadoop2.x namenode ha 架构的原理分析的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注行业资讯频道,感谢各位的阅读!

0