Hadoop如何实现HelloWorld
发表于:2025-02-07 作者:千家信息网编辑
千家信息网最后更新 2025年02月07日,这篇文章给大家分享的是有关Hadoop如何实现HelloWorld的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。目的:将输入文件的中的Hello,World输出到文件为Wo
千家信息网最后更新 2025年02月07日Hadoop如何实现HelloWorld
这篇文章给大家分享的是有关Hadoop如何实现HelloWorld的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。
目的:将输入文件的中的Hello,World输出到文件为World Hello.
输入文件内容:
代码实例:
import java.io.IOException;import java.text.SimpleDateFormat;import java.util.Date;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.Path;import org.apache.hadoop.io.LongWritable;import org.apache.hadoop.io.Text;import org.apache.hadoop.mapreduce.Job;import org.apache.hadoop.mapreduce.Mapper;import org.apache.hadoop.mapreduce.Reducer;import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;import org.apache.hadoop.mapreduce.lib.input.TextInputFormat;import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;/** * HelloWorld Job * 将输入文件中的Hello,World, 以World Hello输出到文件 */public class HelloWorld { /** * 映射器 * 用于将我们的数据进行预处理 */ private static class MyMapper extends Mapper{ @Override protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException { System.out.println("mapper running..."); System.out.println("key=" + key.get()); System.out.println("value=" + value.toString()); String[] strValue = value.toString().split(","); context.write(new Text(strValue[1]), new Text(strValue[0])); } } /** * 处理器 * 用于将mapper预处理的数据记录进行业务计算,然后输出 */ private static class MyReducer extends Reducer { @Override protected void reduce(Text key, Iterable values, Context context) throws IOException, InterruptedException { System.out.println("reducer running..."); System.out.println("key=" + key.toString()); String val = values.iterator().next().toString(); System.out.println("value=" + val); context.write(key, new Text(val)); } } public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException { Configuration configuration = new Configuration(); Job job = new Job(configuration, "helloworld_job"); job.setJarByClass(HelloWorld.class); job.setMapperClass(MyMapper.class); job.setReducerClass(MyReducer.class); job.setInputFormatClass(TextInputFormat.class); job.setOutputKeyClass(Text.class); job.setOutputValueClass(Text.class); FileInputFormat.addInputPath(job, new Path("hdfs://hadoopmaster:9000/in/helloworld.txt")); String outFileExt = "_" + new SimpleDateFormat("yyyyMMddHHmmss").format(new Date()); FileOutputFormat.setOutputPath(job, new Path("hdfs://hadoopmaster:9000/out/helloworld"+outFileExt)); System.out.println(job.waitForCompletion(true)); }}
将代码打包, 拷贝到hadoopmaster上:
执行jar包:
hadoop jar helloworld.jar
得到输出文件:
感谢各位的阅读!关于"Hadoop如何实现HelloWorld"这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识,如果觉得文章不错,可以把它分享出去让更多的人看到吧!
文件
输出
内容
输入
代码
数据
更多
篇文章
预处理
不错
实用
业务
处理器
实例
射器
拷贝
文章
目的
看吧
知识
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
软件开发毛利率 核算
怎么做网络安全手抄报内容
公安局网络安全宣传周方案
广东大数据时间同步服务器
我的世界重置服务器备份还在吗
儿童网络安全应该注意什么
校园日网络安全手抄报
单机服务器和服务器存储搭建
张湾区智能软件开发专业服务
风口下的网络安全从漏洞破局
临汾展厅拼接屏触摸软件开发公司
山东正规软件开发科技
网络技术漏洞骗局
网络安全专业可以移民澳洲
网络技术服务是干什么
linux命令服务器连接数据库
詹天佑笔记软件开发
上海网络安全周闭幕
浙江运营网络安全工程平台资质
oreacl数据库面试题
jpa能生成数据库吗
赛尔号登录器代理服务器没有响应
什么是客户端和服务器端通信
武汉在线网络技术
天津通用软件开发网上价格
软件开发要不要学习代码
马鞍山服务器机箱机柜生产厂家
网络安全法的突出
网络安全入口
网络安全知识团日活动