千家信息网

HDFS均衡操作的启动和退出方法

发表于:2024-11-22 作者:千家信息网编辑
千家信息网最后更新 2024年11月22日,这篇文章主要介绍"HDFS均衡操作的启动和退出方法",在日常操作中,相信很多人在HDFS均衡操作的启动和退出方法问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答"HDFS均
千家信息网最后更新 2024年11月22日HDFS均衡操作的启动和退出方法

这篇文章主要介绍"HDFS均衡操作的启动和退出方法",在日常操作中,相信很多人在HDFS均衡操作的启动和退出方法问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答"HDFS均衡操作的启动和退出方法"的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

HDFS均衡操作的启动

使用HDFS的balancer命令,可以配置一个Threshold来平衡每一个DataNode磁盘利用率。命令如下:

start-balancer.sh -threshold 8

运行之后,会有Balancer进程出现:

上述命令设置了Threshold为8%,那么执行balancer命令的时候,首先统计所有DataNode的磁盘利用率的均值,然后判断如果某一个DataNode的磁盘利用率超过这个均值Threshold,那么将会把这个DataNode的block转移到磁盘利用率低的DataNode,这对于新节点的加入来说十分有用。Threshold的值为1到100之间,不显示的进行参数设置的话,默认是10。

范围超出之后,会有异常抛出:

java.lang.IllegalArgumentException: Numberout of range: threshold = 0.07

atorg.apache.hadoop.hdfs.server.balancer.Balancer$Cli.parse(Balancer.java:1535)

atorg.apache.hadoop.hdfs.server.balancer.Balancer$Cli.run(Balancer.java:1510)

atorg.apache.hadoop.util.ToolRunner.run(ToolRunner.java:70)

atorg.apache.hadoop.hdfs.server.balancer.Balancer.main(Balancer.java:1582)

2012-12-19 16:28:33,299 ERRORorg.apache.hadoop.hdfs.server.balancer.Balancer: Exiting balancer due anexception

java.lang.IllegalArgumentException: Numberout of range: threshold = 110.0

atorg.apache.hadoop.hdfs.server.balancer.Balancer$Cli.parse(Balancer.java:1535)

atorg.apache.hadoop.hdfs.server.balancer.Balancer$Cli.run(Balancer.java:1510)

atorg.apache.hadoop.util.ToolRunner.run(ToolRunner.java:70)

atorg.apache.hadoop.hdfs.server.balancer.Balancer.main(Balancer.java:1582)

如果参数值设置的越小,花费的时间就越长。使用此命令时,会反复的从磁盘使用率高的节点上,把块转移到磁盘使用率低的磁盘上,每次移动不超过10G大小,每次移动不超过20分钟。

在做均衡的时候,会对网络带宽有影响,可在配置文件中对均衡操作的带宽做限制:

dfs.balance.bandwidthPerSec

1048576

Specifies themaximum bandwidth that each datanode can utilize for the balancing purpose interm of the number of bytes per second.

若不设置,则balance操作时,速度默认为1M/S大小。参数重启时生效。不允许在集群中使用多个均衡同时操作。

HDFS均衡操作的退出

除了在命令行直接使用stop-balancer.sh脚本来执行退出均衡操作之外,当发生以下几种情况时,当前执行的均衡操作也会退出:

(1)集群已经达到均衡状态;

(2)没有块可以再被移动;

(3)连续五次迭代操作时没有块移动;

(4)和NameNode通信时出现IOException;

(5)另外一个均衡操作启动;

到此,关于"HDFS均衡操作的启动和退出方法"的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注网站,小编会继续努力为大家带来更多实用的文章!

均衡 磁盘 命令 方法 利用率 学习 移动 参数 使用率 均值 大小 带宽 时候 更多 节点 集群 帮助 配置 实用 接下来 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 小鱼米飞网络技术 免费的数据库管理工具mysql 怎么查看以前玩金铲铲的服务器 贵池区现代软件开发服务质量保证 公安调取阿里巴巴服务器数据 阿里云定制服务器 授予网络安全示范学校 专业技术人员网络安全5e 账号密码是直接上传数据库 数据库中表有哪几种类型sql 淮安商城软件开发外包公司 网络安全为人民网络靠人民感悟 宜都馗裂网络技术有限公司 dm数据库启动报错 怀旧服怎么看服务器 顺义区运营网络技术咨询软件 2019网络安全犯罪案例 戴尔服务器一按开机就不启动 思科网络技术方案 数据库和数据系统架构 服务器浏览器降低安全级别 帕奇维克服务器什么时候开始注册 常州源昇软件开发 数据库安全与权限 计算机网络技术学啥的 网服务器上传文件很慢 pg数据库组件 您的团队链接了一个外部服务器 ukg打卡需要服务器 机房服务器搭建流程
0