千家信息网

sqoop中query \$CONDITIONS HUE执行失败怎么办

发表于:2024-10-23 作者:千家信息网编辑
千家信息网最后更新 2024年10月23日,这篇文章给大家介绍sqoop中query \$CONDITIONS HUE执行失败怎么办,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。1. HUE sqoop命令框中直接输入:s
千家信息网最后更新 2024年10月23日sqoop中query \$CONDITIONS HUE执行失败怎么办

这篇文章给大家介绍sqoop中query \$CONDITIONS HUE执行失败怎么办,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。

1. HUE sqoop命令框中直接输入:

sqoop-import --connect jdbc:mysql://ip地址:端口/数据库 --username 用户名 --password 密码 --query select * from 表名 where 1=1 and \$CONDITIONS --split-by id --hive-table hive表 --target-dir /apps/hive/warehouse/mydb.db/product/dt=${date} --hive-partition-key dt --hive-partition-value ${date} --hive-import --driver com.mysql.jdbc.Driver

运行会提示报错,是因为SQL语句被解析成sqoop参数

2784 [main] ERROR org.apache.sqoop.tool.BaseSqoopTool - Error parsing arguments for import:
2016-09-11 15:21:46,485 ERROR [main] tool.BaseSqoopTool (BaseSqoopTool.java:hasUnrecognizedArgs(304)) - Error parsing arguments for import:
2785 [main] ERROR org.apache.sqoop.tool.BaseSqoopTool - Unrecognized argument: *
2016-09-11 15:21:46,486 ERROR [main] tool.BaseSqoopTool (BaseSqoopTool.java:hasUnrecognizedArgs(307)) - Unrecognized argument: *
2785 [main] ERROR org.apache.sqoop.tool.BaseSqoopTool - Unrecognized argument: from
2016-09-11 15:21:46,486 ERROR [main] tool.BaseSqoopTool (BaseSqoopTool.java:hasUnrecognizedArgs(307)) - Unrecognized argument: from
2785 [main] ERROR org.apache.sqoop.tool.BaseSqoopTool - Unrecognized argument: product
2016-09-11 15:21:46,486 ERROR [main] tool.BaseSqoopTool (BaseSqoopTool.java:hasUnrecognizedArgs(307)) - Unrecognized argument: p_product
2785 [main] ERROR org.apache.sqoop.tool.BaseSqoopTool - Unrecognized argument: where
2016-09-11 15:21:46,486 ERROR [main] tool.BaseSqoopTool (BaseSqoopTool.java:hasUnrecognizedArgs(307)) - Unrecognized argument: where
2785 [main] ERROR org.apache.sqoop.tool.BaseSqoopTool - Unrecognized argument: $CONDITIONS

2. 解决方案: 最好采用参数化的方式




Action failed, error message[${wf:errorMessage(wf:lastErrorNode())}]



${jobTracker}
${nameNode}
import
--connect
"jdbc:mysql://IP地址:端口/数据库"
--username
"用户名"
--password
"密码"
--query
select * from product where $CONDITIONS ## 注意:这个地方没有反斜杠(\)
--split-by
"id"
--hive-table
"HIVE表名"
--target-dir
"/apps/hive/warehouse/mydb.db/product/dt=${date}"
--hive-partition-key
"dt"
--hive-partition-value
"${date}"
--hive-import
--driver
"com.mysql.jdbc.Driver"





关于sqoop中query \$CONDITIONS HUE执行失败怎么办就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。

0