千家信息网

如何理解Apache Mesos模块间通信架构

发表于:2025-02-01 作者:千家信息网编辑
千家信息网最后更新 2025年02月01日,这篇文章给大家介绍如何理解Apache Mesos模块间通信架构,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。1. 介绍Mesos主要由四种组件组成,分别是mesos-maste
千家信息网最后更新 2025年02月01日如何理解Apache Mesos模块间通信架构

这篇文章给大家介绍如何理解Apache Mesos模块间通信架构,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。

1. 介绍

Mesos主要由四种组件组成,分别是mesos-master,mesos-save,scheduler和Executor,各个组件之间采用了基于protocal buffer的actor model进行通信(采用开源库libprocess)。也就是说,各个模块分别是一个server(实际上是socket server),分别监听来自其他模块的消息,一旦收到某个消息后,便会调用相应的消息处理函数进行处理。

2. 通信框架概述

对于某个计算框架(如Hadoop,Spark等),如果想接入Mesos,需要编写两个组件,分别是FrameworkSchduler和 FrameworkExecutor,这两个组件分别实现Scheduler和Executor接口,并分别通过SchedulerDriver和 ExecutorDriver接入Mesos,如图中黑色虚线,表示这几个组件之间通过函数调用产生关系。

其他组件,即mesos-master,mesos-save,SchedulerProcess和ExecutorProcess之间则通过消息机制进行通信(使用libprocess开源库)。

(1)【SchedulerProcess与mesos-master】:mesos-master为各个framework分配资源,这些资源直 接传递给SchedulerProcess,再由SchedulerProcess调用 FrameworkScheduler的相关函数,由FrameworkScheduler将这些资源分配给框架中的任务,并返回给mesos- master,由mesos-master转发给相应的mesos-slave。

(2)【SchedulerProcess与Mesos-slave】:如果SchedulerProcess中保存了Mesos-slave的地址,则直接将相关消息发送给Mesos-slave,不必再由mesos-master转发。

(3)【Mesos-master与Mesos-slave】:Mesos-master管理mesos-slave,如监控slave的健康状况等

(4)【Mesos-slave与ExecutorProcess】:Mesos-slave负责管理各个framework的executor,并为executor分配资源等。

具体如下图所示。

3. 消息类型及其处理函数

3.1 Mesos-Slave的消息类型及处理函数

3.2 Mesos-master的消息类型及处理函数

3.3 scheduler的消息类型及处理函数

位于sched/sched.cpp中,由SchedulerProcess/MesosSchedulerDriver实现

3.4 Executor的消息类型及处理函数

位于文件exec/exec.cpp中,由ExectorProcess中实现

关于如何理解Apache Mesos模块间通信架构就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。

消息 函数 处理 组件 通信 类型 模块 资源 之间 框架 分配 架构 两个 内容 更多 帮助 接入 管理 不错 健康 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 泰州环保网络技术大概费用 连云港app软件开发的报价 php简历软件开发环境 外文科技期刊数据库医药卫生投稿 如何解决魔兽服务器不可用 计算机和软件开发有限公司 长宁区服务器回收公司哪家便宜 mysql数据库考试题型 目前身边网络安全存在的问题 tcp服务器和客户端 软件开发如何做自由职业 北京软件开发区 福州多点网络技术有限公司 雨花台区国际软件开发经验丰富 以什么为核心的网络安全法律法规 软件开发领域有什么用 淄川企业软件开发服务 网络安全工作自查报告公安机关 嵌入式软件开发区烤肉 网络安全的两部法律 网络安全作文500字四年级 网络安全法第1条讲 教育教学数据库的使用技巧 信息网络安全监察专业就业率 施耐德低压数据库 数据库查询文件失败 中兴智能家庭软件开发一部 dota2服务器协调中 搭建服务器软件 服务器账号被封怎么办
0