千家信息网

Spark on yarn

发表于:2025-02-03 作者:千家信息网编辑
千家信息网最后更新 2025年02月03日,ResourceManager 资源管理 只有一个(资源以Container表示)ApplicationMaster 应用管理 用户每提交一个application都包含一个ApplicationMa
千家信息网最后更新 2025年02月03日Spark on yarn



ResourceManager 资源管理 只有一个(资源以Container表示)

ApplicationMaster 应用管理 用户每提交一个application都包含一个ApplicationMaster
NodeManager 每个节点对应一个


ApplicationMaster 启动后向ResourceManager要资源



每个Executor对应一个Container

每个SparkContext有一个ApplicationMaster


spark支持的两种模式区别 Spark Driver运行在哪儿

yarn-cluster(YarnClusterScheduler) (driverApplicationMaster运行在一起,client看不到运行结果)

yarn-client (YarnClientClusterScheduler)(driver和client运行在一起,适用于终端返回结果)






0