千家信息网

hadoop2.6.4搭建HA集群之后不能自动切换namenode怎么办

发表于:2025-02-03 作者:千家信息网编辑
千家信息网最后更新 2025年02月03日,这篇文章主要为大家展示了"hadoop2.6.4搭建HA集群之后不能自动切换namenode怎么办",内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下"hadoo
千家信息网最后更新 2025年02月03日hadoop2.6.4搭建HA集群之后不能自动切换namenode怎么办

这篇文章主要为大家展示了"hadoop2.6.4搭建HA集群之后不能自动切换namenode怎么办",内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下"hadoop2.6.4搭建HA集群之后不能自动切换namenode怎么办"这篇文章吧。

在搭好HA集群之后,想测试一下集群的高可用性,于是先把active的namenode给停掉:

hadoop-daemon.sh stop namenode

或者直接kill掉该节点namenode的对应进程也可。

但是通过hdfs haadmin -getServiceState master1 查看,发现standby的namenode并没有自动切换成active,直到我把之前kill掉的namenode手动启动才会切换,但是这样就达不到高可用的目的啊。

在网上找了好久才发现原因,原来是在hdfs-site.xml通过参数dfs.ha.fencing.methods来实现,出现故障时通过哪种方式登录到另一个namenode上进行接管工作。如果采用默认的值sshfence的话,设置集群就无法自动切换(下面单独解释)。log信息的是无法连接到standby的namenode。

                  dfs.ha.fencing.methods          shell(/bin/true)        

修改成上面的值后,问题解决,active的namenode被停掉后秒切到standby的namenode.

扩展阅读:dfs.ha.fencing.methods参数

系统在任何时候只有一个namenode节点处于active状态。在主备切换的时候,standby namenode会变成active状态,原来的active namenode就不能再处于active状态了,否则两个namenode同时处于active状态会有问题。所以在failover的时候要设置防止2个namenode都处于active状态的方法,可以是java类或者脚本。

fencing的方法目前有两种,sshfence和shell

sshfence方法是指通过ssh登陆到active namenode节点杀掉namenode进程,所以你需要设置ssh无密码登陆,还要保证有杀掉namenode进程的权限。

shell方法是指运行一个shell脚本/命令来防止两个namenode同时处于active,脚本需要自己写。

注意,QJM方式本身就有fencing功能,能保证只有一个namenode能往journalnode上写edits文件,所以是不需要设置fencing的方法就能的。但是,在发生failover的时候,原来的active namenode可能还在接受客户端的读请求,这样客户端很可能读到一些过时的数据(因为新的active namenode的数据已经实时更新了)。因此,还是建议设置fencing方法。如果确实不想设置fencing方法,可以设置一个能返回成功(没有fencing作用)的方法,如"shell(/bin/true)"。这个纯粹为了fencing方法能够成功返回,并不需要真的有fencing作用。这样可以提高系统的可用性,即使在fencing机制失败的时候还能保持系统的可用性。

以上是"hadoop2.6.4搭建HA集群之后不能自动切换namenode怎么办"这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注行业资讯频道!

方法 切换 集群 时候 状态 怎么办 内容 可用性 篇文章 系统 脚本 节点 进程 成功 两个 作用 参数 只有 同时 客户 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 数据库怎么找配置 升利扬科技软件开发怎么样 网络技术与应用专业可以考研吗 广东腾科网络技术 橙云主机怎么设置数据库 苹果有可能重新开启服务器吗 网络安全教育讲话 数据库自动回滚 软件开发流程 英语怎么说 设备软件开发平台 成都专业软件开发大概要多少钱 软件开发公司选址怎么找 打好网络安全防御战 服务器没有连接显卡 福建省锋浪网络技术 服务器IDC运维 北京开源软件开发询问报价 网络技术在生活中的作用 工业互联网龙头东土科技 软件开发与运维技术学习 办公app软件开发需要多少钱 网赌游戏软件开发app 0基础转行学软件开发靠谱吗 闻泰科技服务器事业部有多少人 陕西卫视网络安全特别晚会 图书馆数据库系统的改进地方 数据库怎么建立相关性 oracle查询数据库备份 如何理解维护国家网络安全的意义 具有代理功能的服务器软件是
0