千家信息网

linux下hadoop集群常用命令有哪些

发表于:2024-11-19 作者:千家信息网编辑
千家信息网最后更新 2024年11月19日,linux下hadoop集群常用命令有哪些?Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存
千家信息网最后更新 2024年11月19日linux下hadoop集群常用命令有哪些

linux下hadoop集群常用命令有哪些?Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。

上传文件

1)hadoop fs -put words.txt /path/to/input/2)hdfs dfs -put words.txt /path/wc/input/

查看某目录下所含文件

1)hadoop fs -ls /path/wc/input/2)hadoop fs -ls hdfs://node1:9000/path/wc/input/

与linux文件系统中的用法一样,对文件所属权限

1)hadoop fs -chmod 666 /hello.txt2)hadoop fs -chown someuser:somegrp /hello.txt

du统计文件大小

hadoop fs -du -h / # 统计文件夹下每个文件的大小hadoop fs -du -s -h / #统计这个文件夹总大小,返回的数据是,文件夹大小,备份总大小hadoop fs -count / # 统计文件数量,返回的数据是目录个数,文件个数,文件总计大小,输入路径

杀死yarn任务

yarn application -kill application_id

查看yarn日志

yarn logs -applicationId application_id > logs.txt

容器云产品是通过docker技术,在集群服务器上部署容器服务实现,拥有上万Linux镜像,功能强大、简单易用,可轻松构建集群服务。

0