千家信息网

hive中python udf的示例分析

发表于:2025-02-02 作者:千家信息网编辑
千家信息网最后更新 2025年02月02日,这篇文章给大家分享的是有关hive中python udf的示例分析的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。udfdata.txt:aa pingpong,swim,r
千家信息网最后更新 2025年02月02日hive中python udf的示例分析

这篇文章给大家分享的是有关hive中python udf的示例分析的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。

udfdata.txt:
aa pingpong,swim,running

create table udfdata(name String,hobby String) row format delimited fields terminated by '\t'   ;LOAD DATA LOCAL INPATH '/Users/lifei/hivedata/udfdata.txt' OVERWRITE INTO TABLE udfdata;add file /Users/lifei/hivedata/parsehobby.py;select transform(name,hobby) using 'python parsehobby.py' as (name,hobby) from udfdataaa      pingpongaa      swimaa      runningadd file /Users/lifei/hivedata/splithobby.py;select transform(hobby) using 'python splithobby.py' as (name,hobby,test) from udfdata;pingpong        swim    running
#parsehobby.pyimport sysfor line in sys.stdin:    detail = line.strip().split('\t')    if (len(detail) < 2):        continue    name = detail[0]    hobbis = detail[1]    hobbyArray = hobbis.split(',')    for hobby in hobbyArray:        print "%s\t%s" %(name,hobby)#splithobby.py  import sysfor line in sys.stdin:    detail = line.strip().split(',')    print "%s\t%s\t%s" %(detail[0],detail[1],detail[2])

ps: explode和collect_set

中文或者str时报错:'ascii' codec can't encode characters in position 61-62
reload(sys)
sys.setdefaultencoding('utf8')

感谢各位的阅读!关于"hive中python udf的示例分析"这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识,如果觉得文章不错,可以把它分享出去让更多的人看到吧!

0