千家信息网

hadoop中yarn如何配置

发表于:2025-02-03 作者:千家信息网编辑
千家信息网最后更新 2025年02月03日,这篇文章将为大家详细讲解有关hadoop中yarn如何配置,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。namenode节点上配置Map/Reduce计算引擎跑在y
千家信息网最后更新 2025年02月03日hadoop中yarn如何配置

这篇文章将为大家详细讲解有关hadoop中yarn如何配置,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。

namenode节点上配置Map/Reduce计算引擎跑在yarn这个资源调度平台上;

mapreduce.framework.name
yarn

namenode配置yarn-site.xml文件

指定resourcemanager在master节点上


yarn.resourcemanager.hostname
master

配置计算mapreduce相关的


yarn.nodemanager.aux-services
mapreduce_shuffle


yarn.nodemanager.aux-services.mapreduce_shuffle.class
org.apache.hadoop.mapred.ShuffleHandler

执行示例
hadoop jar /usr/local/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar wordcount 10803060234.txt /output

关于"hadoop中yarn如何配置"这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。

0