千家信息网

Mapreduce中怎么设置Map的数量

发表于:2025-01-23 作者:千家信息网编辑
千家信息网最后更新 2025年01月23日,这篇文章将为大家详细讲解有关Mapreduce中怎么设置Map的数量,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。描述如下:在新版MapReduce
千家信息网最后更新 2025年01月23日Mapreduce中怎么设置Map的数量

这篇文章将为大家详细讲解有关Mapreduce中怎么设置Map的数量,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。

描述如下:

在新版MapReduce 中即 MR on yarn中,不支持设置Map数量。

Map的数量是由MinInputSplitSize决定的,公式:

Map的数量 = TotalSize / MinInputSplitSize

要想控制Map的数量,可以通过控制MinInputSplitSize大小来控制Map数量。

如果设置的MinInputSplitSize大于BlockSize,MinInputSplitSize即为设置的值; 反之设置的MinInputSplitSize小于BlockSize,MinInputSplitSize的值会置为BlockSize。

如果保持默认设置的话,MinInputSplitSize则为BlockSize,

关于Mapreduce中怎么设置Map的数量就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。

0