Hadoop windows本地环境安装教程

本篇内容介绍了"Hadoop windows本地环境安装教程"的有关知识，在实际案例的操作过程中，不少人都会遇到这样的困境，接下来就让小编带领大家学习一下如何处理这些情况吧！希望大家仔细阅读，能够学有所成！

有时候需要调试hadoop的程序，如果都要传到linux上，非常不方便。我们可以搭建一个windows的单机版本hadoop环境，测试我们的代码。

一、下载所需文件

1. JDK下载地址，jdk1.8下载

2. Hadoop下载，hadoop下载，进去后找到一个版本然后点击 Binary download 下载到本地。

3. Hadoop windows环境编译工具，winutils下载 ，下载后解压出来

二、安装文件

1. jdk安装，省略

2. hadoop安装，由于下载的hadoop文件是不用安装的，我们只需要解压出来就可以了 解压目录 D:\dev-tools\hadoop\hadoop-2.8.3

三、环境变量配置

1. jdk，省略

四、配置hadoop文件

1. 配置 core-site.xml文件

            hadoop.tmp.dir        /D:/data/hadoop                fs.default.name        hdfs://localhost:9000    

2. 配置mapred-site.xml

           mapreduce.framework.name       yarn    

配置 hdfs-site.xml

                dfs.replication        1    

配置 yarn-site.xml

            yarn.nodemanager.aux-services        mapreduce_shuffle                yarn.nodemanager.aux-services.mapreduce.shuffle.class        org.apache.hadoop.mapred.ShuffleHandler    

找到 hadoop-env.cmd 文件并打开，添加下面配置。

set JAVA_HOME=%JAVA_HOME%set HADOOP_HOME=D:\dev-tools\hadoop\hadoop-2.8.3rem %HADOOP_HOME%\bin 加入到运行时path中set PATH=%PATH%;%HADOOP_HOME%\bin

五、替换文件

解压我们之前下载的 winutils-master 文件，找到符合自己的版本的bin目录，把 winutils.exe和hadoop.dll 复制到 bin 目录

六、运行

1.运行cmd窗口，执行hdfs namenode -format ，格式化hdfs文件系统。

2.运行cmd窗口，切换到hadoop的sbin目录，执行start-all.cmd 启动hadoop，包括yarn/hdfs

七、测试

打开下面的网页可以查看hdfs状态

在hadoop 2.x中,管理界面为 http://localhost:50070

在hadoop 3.0中，已经改为 http://localhost:9870

打开下面的网页可以查看yarn状态

http://localhost:8088/cluster

配置好的hadoop 2.8.3，已经上传到网盘，可以自行下载后配置环境变量即可使用

"Hadoop windows本地环境安装教程"的内容就介绍到这里了，感谢大家的阅读。如果想了解更多行业相关的知识可以关注网站，小编将为大家输出更多高质量的实用文章！