千家信息网

HDFS Namenode是怎么组成的

发表于:2025-01-28 作者:千家信息网编辑
千家信息网最后更新 2025年01月28日,这篇文章主要介绍了HDFS Namenode是怎么组成的,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。1.Namenode组成fsim
千家信息网最后更新 2025年01月28日HDFS Namenode是怎么组成的

这篇文章主要介绍了HDFS Namenode是怎么组成的,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。

1.Namenode组成

fsimage镜像文件包含了整个HDFS文件系统的所有目录和文件的indoe信息。对于文件来说包括了数据块描述信息、修改时间、访问时间等;对于目录来说包括修改时间、访问权限控制信息(目录所属用户,所在组等)等。

edit文件主要是在NameNode已经启动情况下对HDFS进行的各种更新操作进行记录,HDFS客户端执行所有的写操作都会被记录到edit文件中。

2. 1.X的SecondaryNamenode

  • secondarynamenode通知namenode生成新的日志文件(edits.new),以后的日志都写到新的日志文件中。

  • secondarynamenode用http get从元数据节点获得fsimage文件及旧的日志文件(edits)。

  • secondarynamenode将fsimage文件加载到内存中,并执行日志文件(edits)中的操作,然后生成新的fsimage文件。

  • secondarynamenode将新的fsimage文件用http post传回namenode.

  • namenode可以将旧的fsimage文件及旧的日志文件(edits),换为新的fsimage文件和新的日志文件(第一步生成的)(edits.new -> edits),然后更新fstime文件,写入此次checkpoint的时间。

  • 这样元数据节点中的fsimage文件保存了最新的checkpoint的元数据信息,日志文件也重新开始,不会变的很大了。

通过上面的步骤能有效减少edits文件的大小从而减少每次启动执行merge的时间。

注:http://p-x1984.iteye.com/blog/860290

3.2.X的HA和merge(NFS和JQM)

NFS,shared NN EDITS LOG

感谢你能够认真阅读完这篇文章,希望小编分享的"HDFS Namenode是怎么组成的"这篇文章对大家有帮助,同时也希望大家多多支持,关注行业资讯频道,更多相关知识等着你来学习!

文件 日志 时间 信息 数据 篇文章 目录 生成 节点 更新 很大 有效 价值 兴趣 内存 同时 大小 客户 客户端 情况 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 南京公司网络安全准入控制哪家好 杭州义牛网络技术有限公司首页 虚拟演播厅软件开发 计算机网络技术和物流管理 怎么处理数据库模式中的异常 网络安全责任法是怎么规定的 可以把服务器当电脑用吗 通讯管理机和串口服务器 网络安全平台动态口令 计算机网络技术没有高等数学 xp本地服务器搭建 vba数据上传数据库 千峰教育 网络安全答案答案 贵州高性能服务器价钱 关于网络安全 的论文致谢 潍坊奥商网络技术有限公司 redis集群云服务器配置 可道云 云服务器 网络安全法全文内容 集成软件开发系统是什么 csol无法连接到服务器怎么办 软件开发工程师要求掌握什么 人渣单机服务器新陈代谢 重庆pdu服务器电源怎么卖 rust租什么服务器 PG数据库创建库指定字符集 erp数据库备份与恢复 软件开发招标金额要求 软件开发项目投标文档模板 所有数据库的区别和联系
0