Hadoop 部署之环境准备(一)
发表于:2025-02-02 作者:千家信息网编辑
千家信息网最后更新 2025年02月02日,一、软硬件规划ID主机类型主机名IP应用软件操作系统硬件配置1物理机namenode01192.168.1.200jdk1.8.0_171、hadoop-2.7.3、hive-2.3.3、hbase-
千家信息网最后更新 2025年02月02日Hadoop 部署之环境准备(一)
一、软硬件规划
ID | 主机类型 | 主机名 | IP | 应用软件 | 操作系统 | 硬件配置 |
---|---|---|---|---|---|---|
1 | 物理机 | namenode01 | 192.168.1.200 | jdk1.8.0_171、hadoop-2.7.3、hive-2.3.3、hbase-1.2.6、zookeeper-3.4.10、spark-2.3.1 | CentOS7.4 | 6核CPU、8G内存、250存储 |
2 | 物理机 | datanode01 | 192.168.1.201 | jdk1.8.0_171、hadoop-2.7.3、hive-2.3.3、hbase-1.2.6、zookeeper-3.4.10、spark-2.3.1 | CentOS7.4 | 6核CPU、8G内存、250存储 |
3 | 物理机 | datanode02 | 192.168.1.202 | jdk1.8.0_171、hadoop-2.7.3、hive-2.3.3、hbase-1.2.6、zookeeper-3.4.10、spark-2.3.1 | CentOS7.4 | 6核CPU、8G内存、250存储 |
4 | 物理机 | datanode03 | 192.168.1.203 | jdk1.8.0_171、hadoop-2.7.3、hive-2.3.3、hbase-1.2.6、zookeeper-3.4.10、spark-2.3.1 | CentOS7.4 | 6核CPU、8G内存、250存储 |
我这里规划的角色不是太好,如果是四台机器,建议大家按照我们下面的分配
- ZooKeeper
ZooKeeper Server:namenode01 - HDFS
NameNode:namenode01
SecondaryNameNode:namenode01
DataNode:datanode[01-03] - YARN
ResourceManager:namenode01
NodeManager:datanode[01-03] - HBase
Master:namenode01
RegionServer:datanode[01-03] - Hive
HiveServer2:namenode01
Hive Metastore Server:namenode01 - Spark
Master:namenode01
Worker:datanode[01-03]
二、主机名解析
修改四台服务器的主机名。
192.168.1.200 namenode01 hbase01 spark01 hive01 cluster1192.168.1.201 datanode01 hbase02 spark02 zk01 mysql01192.168.1.202 datanode02 hbase03 spark03 zk02192.168.1.203 datanode03 hbase04 spark04 zk03
三、配置 SSH 互信
在namenode01节点上面进行操作。
ssh-keygen -t rsassh-copy-id namenode01ssh-copy-id datanode01ssh-copy-id datanode02ssh-copy-id datanode03
四、创建用户
创建用户(4台机器相同操作)
useradd hadoop && echo '123456' |passwd --stdin hadoop
使用命令visudo
设置用户权限(4台机器相同操作),添加如下内容:
hadoop ALL=(ALL) ALL
五、JDK 的安装
下载JDK1.8,可以选择下载rpm包,直接安装即可使用。
https://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html
主机
内存
物理
存储
机器
用户
相同
规划
配置
操作系统
内容
命令
应用软件
建议
服务器
权限
硬件
类型
系统
节点
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
中老年人网络安全素养
郑州数据库维护外包
手游方舟的服务器咋搞
sae服务器
四川邺兴互联网科技做什么的
字能看清的网络安全手抄报
网络技术有限公司招聘
关于网络安全密码的论文
辽宁省网络安全保卫总队
西软x6数据库
江苏华为鲲鹏服务器
软件开发界最牛语言
软件开发安全手册
山西职业软件开发java
滨海区委网络安全
杭州手机软件开发招聘
思科网络技术学校
微信无法连接到数据库文件夹
ipfs服务器价格是多少个
数据库空间日志
全景拍摄软件开发公司
数据库服务器是仲裁什么地方
怎么将uuid存到数据库中
科技创新和网络安全
sql 查询数据库名称
数据库基础中常用的英文
网络安全设备设计方案概述
武汉铁路局网络技术有限公司
服务器上的硬盘和内存
各省网络安全组织