千家信息网

hadoop cluster decommission node (下线节点,超级实用)

发表于:2024-11-25 作者:千家信息网编辑
千家信息网最后更新 2024年11月25日,一、描述为了节约成本,避免资源浪费,下线集群中的一个节点,也就是把一台云主机回收喽。centos 6.6_64bithadoop 2.6.0二、操作步骤(动态下线)下线节点主机名如下,在hadoop用
千家信息网最后更新 2024年11月25日hadoop cluster decommission node (下线节点,超级实用)


一、描述

为了节约成本,避免资源浪费,下线集群中的一个节点,也就是把一台云主机回收喽。

centos 6.6_64bit

hadoop 2.6.0


二、操作步骤(动态下线)

下线节点主机名如下,在hadoop用户下操作,配置文件都在conf目录下

host-10-10-10-10 ##一看就在云上是不是


1.在conf目录下创建文件

touch excludes

echo "host-10-10-10-10" > exclude

less exclude ##要有验证



2.修改配置文件hdfs-site.conf

vi hdfs-site.xml

添加如下内容,路径根据自己的实际情况

dfs.hosts.exclude

/usr/local/RoilandGroup/hadoop-2.6.0/etc/hadoop/excludes


3.修改配置文件 yarn-site.conf

添加如下内容,路径根据自己的实际情况

yarn.resourcemanager.nodes.exclude-path

/usr/local/RoilandGroup/hadoop-2.6.0/etc/hadoop/excludes


4.刷新hdfs节点(namenode active操作)

hdfs dfsadmin -refreshNodes

hdfs dfsadmin -report ##观察节点是否decommission


5.刷新nodemanager节点(resourcemanager active操作)

yarn rmadmin -refreshNodes


6.修改slave文件

注释掉主机名

#host-10-10-10-10


7.同步exclude文件和slave文件

scp exclude 到namenode/resourcemanager 的 standby节点


8.再次验证,确保是我们想要的结果,通知运维同事可以回收云主机。



三、注意事项


1.生产环境操作之前一定要做好测试

2.查看官方文档,要知道自己修改的文件对系统有多大影响,做到心里有数。











文件 节点 主机 下线 配置 内容 实际 情况 目录 路径 验证 有数 心里有数 也就是 事项 再次 动态 同事 官方 成本 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 服务器攻击方式 各大银行社招软件开发待遇 服务器系统7.6是linux吗 积累科技名词如互联网和科技等 王牌战争用的什么服务器 午夜猎魂你被提出了服务器 如何用手机开mc服务器网站 网络安全 经济学 龙之谷数据库速度 上海应用软件开发哪家可靠 如何将两个数据库互为备份 达梦数据库系统处于状态切换中 吴江区选择网络技术专业服务 五四巡礼节软件开发协会推文 无人机网络技术专业大学排名 数据库的数据安全和完整性 福州网络技术学院排名 辽宁省大学生网络安全宣传周 周村网络审批oa软件开发 湖北蓝狐网络技术有限责任公司 互联网网络安全特殊性 魔兽世界寒冰之王服务器公会 tomcat是应用服务器 自建翻墙服务器 广西品质软件开发设施价格优惠 hp服务器1797报错 mhp3数据库 app php服务器 h5 什么数据库可以高并发 汽车网络技术 开拓视野
0