一.hadoop伪分布式部署
发表于:2025-02-04 作者:千家信息网编辑
千家信息网最后更新 2025年02月04日,========一.hadoop伪分布式=========伪分布式环境配置需要安装openjdk 和openjdk-devel软件包(用的是1.8.0版本)rpm -ql Java-openjdk-d
千家信息网最后更新 2025年02月04日一.hadoop伪分布式部署
========一.hadoop伪分布式=========伪分布式环境配置需要安装openjdk 和openjdk-devel软件包(用的是1.8.0版本)rpm -ql Java-openjdk-devel-1.8.0 | grep '/bin/javac'vim /etc/profile#Javaexport JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.151-1.b12.el6_9.x86_64CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jarexport PATH=$PATH:$JAVA_HOME/bin#hiveexport HIVE_HOME=/data/hadoop/hiveexport PATH=$HIVE_HOME/bin:$PATH#hadoopexport HADOOP_HOME=/data/hadoop/hadoop-2.7.4export PATH=$HADOOP_HOME/bin:$PATHsource /etc/profile java -version添加hadoop 用户 useradd -m hadoop -s /bin/bash给予sudo权限 visudo 编辑配置文件的98行,在root这行下添加hadoop用户root ALL=(ALL) ALLhadoop ALL=(ALL) ALL切换到hadoop 用户然后设置远程登录生成密钥对 ssh-keygen -t rsa cat id_rsa.pub >> authorized_keys chmod 600 ./authorized_keys(注意权限设置)
=========二.安装hadoop=========wget http://114.242.101.2:808/hadoop/hadoop-2.7.4.tar.gztar xf hadoop-2.7.4.tar.gz -C /data/hadoopchown -R hadoop.hadoop /data/hadoop/hadoop-2.7.4
==========三.配置文件=============/data/hadoop/hadoop-2.7.4/etc/hadoop/ 路径下hdfs-site.xmlcore-site.xmlmapred-site.xml.templatehdfs-site.xml:这里面定义的是数据节点个数以块文件大小core-site.xml:定义的hadoop的header机mapred-site.xml.template:定义的是hadoop文件存放的调度方式针对伪分布式三个配置文件如下(默认为空)core-site.xml配置文件如下:
hadoop.tmp.dir file:/data/hadoop/hadoop-2.7.4/tmp Abase for other temporary directories. hdfs-site.xml配置文件如下: fs.defaultFS hdfs://localhost:9000 dfs.replication 1 dfs.namenode.name.dir file:/data/hadoop/hadoop-2.7.4/tmp/dfs/name mapred-site.xml.template配置文件如下: dfs.datanode.data.dir file:/data/hadoop/hadoop-2.7.4/tmp/dfs/data cd /data/hadoop/hadoop-2.7.4/执行./bin/hdfs namenode -format 进行格式化./sbin/start-dfs.sh 启动完成后,可以通过命令 jps 来判断是否成功启动若成功启动则会列出如下进程: "NameNode"、"DataNode"和SecondaryNameNodevim ~/.bashrc 添加export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.151-1.b12.el6_9.x86_64source ~/.bashrc 后重新启动搭建完成访问:http://192.168.0.12:50070 mapreduce.framework.name yarn
文件
配置
分布式
用户
成功
权限
三个
个数
可以通过
命令
大小
密钥
数据
方式
格式
版本
环境
节点
路径
软件
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
货拉拉软件开发工程师
网络安全简短漫画绘画
广东餐饮软件开发设计
阿里云服务器管理手册下载
服务器实训报告心得体会
三珠数码软件开发倒闭
学校网络安全自查自纠情况报告
pw论坛数据库
淘宝互联网科技有限公司
微软技术丛书 快速软件开发
数据库的时间排序
张北回收服务器
推动网络安全周成都
网络安全产品和平台运营模式
法国网络安全现状
综合管理服务器与存储器区别
网络安全硬件问题
网络安全开展活动总结
软件开发团队情况调研
我的世界十大小游戏服务器ip
如何搭建ca服务器
泰坦之旅手游服务器怎么调
2019网络安全奖学金公
剑三怎么导入dbm数据库
路透社数据库使用
深耕云计算和网络安全领域
数据库迁移 新旧表
北京华龙网络技术有限公司
重庆维普数据库的期刊
宣扬网络安全的目的