spark如何写入hive数据
发表于:2025-02-05 作者:千家信息网编辑
千家信息网最后更新 2025年02月05日,这篇文章将为大家详细讲解有关spark如何写入hive数据,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。package hgs.spark.hiveimport o
千家信息网最后更新 2025年02月05日spark如何写入hive数据
这篇文章将为大家详细讲解有关spark如何写入hive数据,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。
package hgs.spark.hiveimport org.apache.spark.SparkConfimport org.apache.spark.SparkContextimport org.apache.spark.sql.SparkSessionimport org.apache.spark.sql.SQLContextimport org.apache.spark.sql.SaveModeimport org.apache.spark.sql.types.StructFieldimport org.apache.spark.sql.types.StructTypeimport org.apache.spark.sql.types.IntegerTypeimport org.apache.spark.sql.types.StringTypeimport org.apache.spark.sql.Rowobject WriteDatatoHive { def main(args: Array[String]): Unit = { val conf = new SparkConf().setAppName("WriteDatatoHive").setMaster("local") val context = new SparkContext(conf) val rdd = context.parallelize(List(("wd",22),("cm",25)), 2).map(x=>Row(x._1,x._2)) val builder = SparkSession.builder() .appName("hiveApp") .config("spark.sql.warehouse.dir","hdfs://bigdata00:9000/user/hive/warehouse/") .enableHiveSupport() .getOrCreate() //import builder.implicits._ import builder.implicits._ val personShcema = StructType( List( //下面为一个列的描述,分别为 列名,数据类型,是否为空 StructField("name",StringType,true), StructField("age",IntegerType,true) ) ) val personDF = builder.createDataFrame(rdd, personShcema) personDF.createOrReplaceTempView("personm") //这个可以存储数据与hiveSQL兼容 builder.table("personm").write.insertInto("test.person") //builder.sql("select * from personm").write.option("spark.sql.hive.convertMetastoreParquet", false) //.mode(SaveMode.Append).saveAsTable("test.person") context.stop() }}case class person(name:String,age:Int)
关于"spark如何写入hive数据"这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。
数据
篇文章
更多
不错
实用
内容
文章
知识
类型
别为
参考
存储
帮助
有关
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
能源互联网 科技创新
西南政法大学国泰安数据库
海曙安卓软件开发流程
学习计算机网络安全书
怎么开通LOL手游的服务器
数据库及应用课件
维护公安网络安全
保定翰阁领行软件开发有限公司
网络安全工程师的证书
数据库应用总结报告
湖北医院数显钟服务器
提供网络技术 影视图像
车辆酷我音乐服务器错误
客户端到服务器的邮件协议
谷歌市场服务器错误
银行网络安全宣传简讯题目
新奇科技互联网之光
数据库第八章上机
晟同网络技术
家用服务器安全吗
怀孕还能从事软件开发吗
地铁安全数据库
网络安全管理的含义是什么
华为服务器 ubuntu
银行网络安全宣传简讯题目
新奇科技互联网之光
窗体是数据库应用系统的什么
hp服务器bios升级
关于网络安全知识的论文
软件开发股票有投资价值吗