千家信息网

Hadoop体系结构是怎么样的

发表于:2025-02-07 作者:千家信息网编辑
千家信息网最后更新 2025年02月07日,小编给大家分享一下Hadoop体系结构是怎么样的,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!一. Namenode1.
千家信息网最后更新 2025年02月07日Hadoop体系结构是怎么样的

小编给大家分享一下Hadoop体系结构是怎么样的,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!

一. Namenode

1. 介绍

1) 是整个文件系统的管理节点

2) 它维护着整个文件系统的文件目录树,文件/目录的元信息和每个文件对应的数据块列表

3) 接收用户的操作请求

4) 文件/目录的元信息是指文件的名称、大小、修改时间等等信息

2. hdfs文件查看

1) 查看路径:hdfs-site.xml的dfs.replication属性hadoop.tmp.dir

                     hadoop.tmp.dir              /usr/local/hadoop/tmp       

查看文件

[root@chaoren hadoop]# cd /usr/local/hadoop/tmp/dfs/name/current[root@chaoren current]# lsedits  fsimage  fstime  VERSION

2) fsimage:元数据镜像文件。存储某一时段NameNode内存元数据信息

3) edits:操作日志文件

4) fstime:保存最近一次checkpoint的时间

二. Datanode

1. 提供真实文件数据的存储服务。

2. 文件块(block):最基本的存储单位。对于文件内容而言,一个文件的长度大小是size,那么从文件的0偏移开始,按照固定的大小,顺序对文件进行划分并编号,划分好的每一个块称一个Block。HDFS默认Block大小是64MB以一个256MB文件,共有256/64=4个Block.

3. 不同于普通文件系统的是,HDFS中,如果一个文件小于一个数据块的大小,并不占用整个数据块存储空间

4. Replication。多复本。默认是三个。查看hdfs-site.xml的dfs.replication属性

三. SecondaryNameNode

1. HA的一个解决方案。但不支持热备。配置即可。

2. 执行过程:从NameNode上下载元数据信息(fsimage,edits),然后把二者合并,生成新的fsimage,在本地保存,并将其推送到NameNode,同时重置NameNode的edits.

3. 默认在安装在NameNode节点上,但这样...不安全

4. 其他

以上是"Hadoop体系结构是怎么样的"这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注行业资讯频道!

文件 数据 信息 大小 存储 内容 目录 篇文章 系统 体系 体系结构 结构 属性 时间 节点 普通 安全 三个 上下 不怎么 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 专业软件开发哪家实惠 数据库创建视图需要什么权限 接入网络安全提示文章 在学校怎样做好网络安全工作 易语言写的软件是不是要放服务器 中国工业软件开发公司排名 万方数据库网站安卓浏览器 苏州电商软件开发哪家正规 电信网络安全监督管理办法 新时代网络安全共同合作 学习软件开发在哪里找 西安好奇喵网络技术 北京运营软件开发计划 荣成手机软件开发 网络技术图里的虚线 数据库数据抽象三种方法具体解释 ITPT软件开发资格证 如何在数据库中创建表格的命令 网络安全宣传的目的 用c语言写exe软件开发 软件开发saam标准 圣歌到晚上连接不上服务器 东莞商城软件开发费用是多少 硅谷华人互联网和科技圈大牛 香港pac服务器 本地服务器连接显示屏后怎么用 安全可控数据库市场 如何进行电脑网络安全培训 关系数据库的6个特点 数据库能存图片吗
0