千家信息网

HQL操作日常使用命令总结

发表于:2024-11-13 作者:千家信息网编辑
千家信息网最后更新 2024年11月13日,建表create table mydb.userinfo(name string,addressi string)ROW FORMAT DELIMITEDFIELDS TERMINATED BY '\
千家信息网最后更新 2024年11月13日HQL操作日常使用命令总结

建表

create table mydb.userinfo(name string,addressi string)ROW FORMAT DELIMITEDFIELDS TERMINATED BY '\t'LINES TERMINATED BY '\n'STORED AS TEXTFILE;

创建分区表

CREATE TABLE mydb.userinfo    --创建表(col1 string, col2 date, col3 double), partitioned by (datekey date),  --可以多个字段的组合分区 ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' Stored AS TEXTFILE;

数据导入到表mydb.userinfo中

load data local inpath "/home/dahaizi/data/userinfo.txt" overwrite into table mydb.userinfo;

向表中插入数据

insert into table(col1,col2,col3) values('a','b','c')

将查询的数据插入到已有的表中

INSERT INTO TABLE table_Name
PARTITION (DateKey),
SELECT col1,col2,col3,DateKey FROM otherTable
WHERE DATEKEY IN ('2017-02-26','2013-06-12','2013-09-24'),
GROUP BY col1,col2,col3,DateKey
DISTRIBUTE BY DateKey

将查询的数据存储的hdfs目录中

insert overwrite directory '/jc_bdcqs/qsy'row format delimitedfields terminated by ','select * from zqs_gs_g60_0730_list;!quit

HQL查询常用设置项

1)设置计算容错率(防止因计算过程出错而异常退出程序):
set mapred.max.map.failures.percent=100;
2)限制查询输出文件的个数
set mapred.reduce.tasks=1;
3) 控制最大reduce的数量,不会影响mapred.reduce.tasks的设置
set hive.exec.reducers.max = 100;
4) 一个job会有多少个reducer来处理,默认为1G
set hive.exec.reducers.bytes.per.reducer = 1000000000;

设置动态分区

set hive.exec.dynamic.partition=true;(可通过这个语句查看:set hive.exec.dynamic.partition;), set hive.exec.dynamic.partition.mode=nonstrict; SET hive.exec.max.dynamic.partitions=100000;(如果自动分区数大于这个参数,将会报错),SET hive.exec.max.dynamic.partitions.pernode=100000;

删除表

drop table tb_name;
或清空表
truncate table table_name;

删除分区

ALTER TABLE table_Name DROP PARTITION (Datekey='20190606');

新增分区

alter table tb_name add partition (Datekey = '20190606');

数据 查询 最大 个数 动态 参数 多个 字段 常用 数量 文件 目录 程序 语句 过程 会报 分区表 可通 容错 处理 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 苹果系统的数据库软件 杭州集盒网络技术有限公司 三星服务器内存铭牌 网络安全宣传月的活动 普陀区网络技术服务公司 网络安全保护工作保障情况 服务器优化成功标准 微信服务器发来的消息代码 如何合理设置数据库管理用户 当前软件开发技术难点 公务员网络技术职位 结构腐蚀控制设计数据库 oa系统软件开发 论文 省共享交换平台服务器安全 传奇世界架设对云服务器什么要求 上海邀玩网络技术有限公司 软件开发工作室如何经营 一般服务器安装步骤 大专读计算机网络技术怎么样 厦门朗码网络技术有限公司 华为物联网软件开发 评价好的眼镜行业软件开发 上海智慧电梯软件开发报价 ipfs互联网科技巨头 二手存储服务器 mysql数据库的增删改除 简述网络安全管理的目标 去哪里学手机软件开发 一个好的数据库应该有哪些特征 网络技术类的有什么工作
0