Hadoop如何实现HelloWorld
发表于:2024-11-30 作者:千家信息网编辑
千家信息网最后更新 2024年11月30日,这篇文章给大家分享的是有关Hadoop如何实现HelloWorld的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。目的:将输入文件的中的Hello,World输出到文件为Wo
千家信息网最后更新 2024年11月30日Hadoop如何实现HelloWorld
这篇文章给大家分享的是有关Hadoop如何实现HelloWorld的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。
目的:将输入文件的中的Hello,World输出到文件为World Hello.
输入文件内容:
代码实例:
import java.io.IOException;import java.text.SimpleDateFormat;import java.util.Date;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.Path;import org.apache.hadoop.io.LongWritable;import org.apache.hadoop.io.Text;import org.apache.hadoop.mapreduce.Job;import org.apache.hadoop.mapreduce.Mapper;import org.apache.hadoop.mapreduce.Reducer;import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;import org.apache.hadoop.mapreduce.lib.input.TextInputFormat;import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;/** * HelloWorld Job * 将输入文件中的Hello,World, 以World Hello输出到文件 */public class HelloWorld { /** * 映射器 * 用于将我们的数据进行预处理 */ private static class MyMapper extends Mapper{ @Override protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException { System.out.println("mapper running..."); System.out.println("key=" + key.get()); System.out.println("value=" + value.toString()); String[] strValue = value.toString().split(","); context.write(new Text(strValue[1]), new Text(strValue[0])); } } /** * 处理器 * 用于将mapper预处理的数据记录进行业务计算,然后输出 */ private static class MyReducer extends Reducer { @Override protected void reduce(Text key, Iterable values, Context context) throws IOException, InterruptedException { System.out.println("reducer running..."); System.out.println("key=" + key.toString()); String val = values.iterator().next().toString(); System.out.println("value=" + val); context.write(key, new Text(val)); } } public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException { Configuration configuration = new Configuration(); Job job = new Job(configuration, "helloworld_job"); job.setJarByClass(HelloWorld.class); job.setMapperClass(MyMapper.class); job.setReducerClass(MyReducer.class); job.setInputFormatClass(TextInputFormat.class); job.setOutputKeyClass(Text.class); job.setOutputValueClass(Text.class); FileInputFormat.addInputPath(job, new Path("hdfs://hadoopmaster:9000/in/helloworld.txt")); String outFileExt = "_" + new SimpleDateFormat("yyyyMMddHHmmss").format(new Date()); FileOutputFormat.setOutputPath(job, new Path("hdfs://hadoopmaster:9000/out/helloworld"+outFileExt)); System.out.println(job.waitForCompletion(true)); }}
将代码打包, 拷贝到hadoopmaster上:
执行jar包:
hadoop jar helloworld.jar
得到输出文件:
感谢各位的阅读!关于"Hadoop如何实现HelloWorld"这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识,如果觉得文章不错,可以把它分享出去让更多的人看到吧!
文件
输出
内容
输入
代码
数据
更多
篇文章
预处理
不错
实用
业务
处理器
实例
射器
拷贝
文章
目的
看吧
知识
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
中兴机顶盒服务器
网络安全和手机安全
数据库样本下载
门禁软件开发需求
5秒采集一次到数据库
超星全文数据库包括
腾讯云服务器屏幕登录密码多少
普陀区网络技术服务业务流程
华为od云计算和数据库
app软件开发咨询
电力软件开发龙头
电信猫虚拟服务器
北京软件开发驻场要多少钱
服务器硬盘是蓝紫色灯
王者荣耀服务器崩溃主播都怎么了
互联网科技行业禁业协议
戴尔如何远程管理服务器
四川拓为网络技术有限公司
500数据库多大
网络技术的新思想和新发现
华为云服务器价格配置表
网络安全中心工作内容
广电行业数据库安全
国际服mc服务器怎么弄
2019网络安全教育宣传片
心理健康及网络安全教育
上海系统软件开发平台
怎么看自己的网络安全密匙
计算机网络技术功能包括
加强网络安全高层次人才