千家信息网

hadoop(cdh版)下载安装即配置

发表于:2025-01-23 作者:千家信息网编辑
千家信息网最后更新 2025年01月23日,下载hadoop压缩包,这里下载的是5.14.2版本(地址:http://archive.cloudera.com/cdh6/cdh/5/)2.通过Xftp工具将压缩包拉到虚拟机/opt目录下(目录个
千家信息网最后更新 2025年01月23日hadoop(cdh版)下载安装即配置
  1. 下载hadoop压缩包,这里下载的是5.14.2版本(地址:http://archive.cloudera.com/cdh6/cdh/5/)


2.通过Xftp工具将压缩包拉到虚拟机/opt目录下(目录个人随意)

3.解压hadoop压缩包(命令:tar -zxvf hadoop-2.6.0-cdh6.14.2.tar.gz)
4.这里为了清晰,新建一个文件夹bigdata单独存放解压后的文件,并重命名
新建:mkdir bigdata
移动: mv hadoop-2.6.0-cdh6.14.2 ./bigdata/hadoop260
5.重头:修改配置文件,移动至/etc/hadoop目录下,ls命令,下图中圈选的文件是本次我们需要进行配置的
6.配置1:vi hadoop-env.sh修改如下位置,修改成自己JAVA_HOME的路径,可以echo $JAVA_HOME查看,修改完保存退出

7.配置2:vi core-site.xml修改如下位置

                fs.defaultFS                hdfs://192.168.56.109:9000                                hadoop.tmp.dir                /opt/hadoopdata                                hadoop.proxyuser.root.users                *                                hadoop.proxyuser.root.groups                *        

8.配置3:vi hdfs-site.xml,和上一步一样的标签中加入如下代码

                       dfs.replication                1        

9.配置4,这个文件需要自己copy,和上一步一样的标签中加入如下代码
命令:cp mapred-site.xml.template mapred-site.xml
配置:vi mapred-site.xml

                        mapreduce.framework.name                yarn        

10.配置5:vi yarn-site.xml,中间有行注释可以删掉直接

                yarn.resourcemanager.localhost                localhost                                yarn.nodemanager.aux-services                mapreduce_shuffle        

11.配置六:vi /etc/profile,移动至最后,加入以下代码

export HADOOP_HOME=/opt/bigdata/hadoop260export HADOOP_MAPRED_HOME=$HADOOP_HOMEexport HADOOP_COMMON_HOME=$HADOOP_HOMEexport HADOOP_HDFS_HOME=$HADOOP_HOMEexport YARN_HOME=$HADOOP_HOMEexport HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/nativeexport PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/binexport HADOOP_INSTALL=$HADOOP_HOME

12.激活配置文件:source /etc/profile
13.格式化namenode:hdfs namenode -format
14.运行:start-all.sh,然后每一步都输入yes
15.查看运行情况:jps,如果能查看到如下5个进程,则代表配置运行成功,如果少哪一个,就去检查对应的配置文件

0