千家信息网

MapReduce映射怎么定义

发表于:2025-02-01 作者:千家信息网编辑
千家信息网最后更新 2025年02月01日,本篇内容主要讲解"MapReduce映射怎么定义",感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习"MapReduce映射怎么定义"吧!定义map:俗称--映射
千家信息网最后更新 2025年02月01日MapReduce映射怎么定义

本篇内容主要讲解"MapReduce映射怎么定义",感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习"MapReduce映射怎么定义"吧!

  1. 定义

    map:俗称--映射,map之后元素个数不变

    如:

    x --> (x,1)
    y --> (y,1)
    z --> (z,1)

    reduce:俗称--规约,reduce之后元素个数<=当前个数(把key相同的元素,拉倒一起)

    如:

    x --> (x,1)
    x --> (x,1) -->>(x,1+1+1)
    x --> (x,1)

  2. mapReduce架构

    MR job提交到Yarn的工作流程==Yarn架构设计==Yarn工作流程

  3. shuffle

    map->shuffle->reduce

    理解:key相同的元素通过网络IO放到一起,进行业务计算


  4. 常用命令

    mapred

到此,相信大家对"MapReduce映射怎么定义"有了更深的了解,不妨来实际操作一番吧!这里是网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!

0