Pulsar的特性与优势有哪些
发表于:2025-02-07 作者:千家信息网编辑
千家信息网最后更新 2025年02月07日,这篇文章主要介绍"Pulsar的特性与优势有哪些",在日常操作中,相信很多人在Pulsar的特性与优势有哪些问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答"Pulsar的
千家信息网最后更新 2025年02月07日Pulsar的特性与优势有哪些为什么选择 Pulsar
现状及痛点 在没使用 Pulsar 之前,涂鸦使用的架构基本如下图所示。消息进入接入层后,通过 Kafka进行消息分发转化,这个消息集群主要在做一些消息分发和路由的功能。之后再通过 HTTP 投递给第三方。
以上的架构模式存在一些业务痛点:
1. HTTP 投递方式不灵活,容易丢消息
基于网络原因、公司服务器规模不足以支撑业务时,都有可能出现重启过程中消息丢失的现象。如果想要满足这个需求,就需要对消息的持久化进行额外的处理。
2. Kafka topic 数量与日俱增,运维成本高 随着接入厂家和开发者数量的增加,导致 Kafka 的运维层面压力会比较大,人力和时间等耗费比较高。
3. Kafka 自身的一些痛点,比如 Rebalance 机制
业务集群需要经常升级,consumer 就会经常断连。断连情况下,Rebalance 的过程是很长的,导致消息堆积量加大,造成用户体验下降。同时堆积后的重启,在大集群量情况下,对消费端的压力会非常大。
4. 租户之间会相互影响 如果有一个租户挂掉并且没有进行及时处理,就会一直堆积在 Kafka 的处理器上,耽误后续进程,降低消息上报性能,影响到其他租户。
Pulsar 的特性与优势 Apache Pulsar 是灵活的发布-订阅消息系统,采用分层分片架构。
1. 丰富的投递/订阅策略 Pulsar 做了队列模型和流模型的统一,在 Topic 级别只需保存一份数据,同一份数据可多次消费。以流式、队列等方式计算不同的订阅模型大大提升了灵活度。
2. 运维难度小(相比 Kafka),Rebalance 机制反应迅速 主要体现在跨地域复制方面。Pulsar 使用计算与存储分离的云原生架构,数据从 Broker 搬离,存在共享存储内部。上层是无状态 Broker,复制消息分发和服务;下层是持久化的存储层 Bookie 集群。
Pulsar 存储是分片的,这种架构可以避免扩容时受限制,实现数据的独立扩展和快速恢复。
3. 多租户隔离优势 租户和命名空间(namespace)是 Pulsar 支持多租户的两个核心概念。
现阶段结构 刚好这三点特性,对应了之前涂鸦面临的痛点,所以在契合下开始转向使用 Pulsar 来替代了 Kafka。
目前 Pulsar 的架构已应用到涂鸦智能平台,成为一个主导消息队列,后续也在围绕 Pulsar 进行一些二次开发和周边服务搭建。
以前信息的投递会有 5-6 s 的延迟,现在大概只有 1 s,整体的提升和改进是非常大的。
当然用 Pulsar 替代 Kafka 的过程,也有一些缺点,比如:成本高。这个过程就需要督促第三方开发者去替换 SDK,同时过渡时期还要支持两套系统。
刚好最近 StreamNative 开源了 KoP,可以让两者之间的迁移更简单,也算解决了这一问题。
上图就是 BookKeeper 内的 Pulsar 架构示意图,其中 zk 是指 ZooKeeper。更多关于 Broker、Bookie 和 Proxy 等概念介绍,可以参考之前 TGIP-CN 的回顾: Message Lifecycle:Pulsar 里的信息传递究竟是什么样子 。
同时借由存储端 BookKeeper 的存储中间件特性,使得 Pulsar 现在的存储分离架构并没有增加额外的使用复杂度。
Proxy 在这里提供了类似 TCP 的一个代理,为 Consume 提供了"寻址"的功能。Consumer 无需关心真实的 Broker 地址,连上 Proxy 后会直接从 ZooKeeper 里拉取 Topic 的位置等数据,此过程中 Consumer 只需保证稳定的连接即可。
但 Proxy 并没有进行负载均衡的功能,这些都是在 Broker 上进行的。这一点也在之前的 TGIP-CN 直播中提到过。
当然针对涂鸦的一些使用场景,他们也在 Proxy 上进行了一些扩展。
Dubbo-go + Pulsar 的实例应用
上图是一开始使用 Pulsar 时的架构图。生产者投递消息后,利用 in Topic 路由解析出来并进行投递。但是这个过程中需要构建多个 Pulsar 集群,导致运维程度的增加。
现在在 Pulsar 架构里增加一个"source",它可以用来收集之前的 topic,搭配 function 功能进行传递。
之后在 function 部件内嵌入了 Dubbo-go consumer,把一些复杂的路由规则通过 Dubbo-go consumer 进行拉取。同时借用 Pulsar broker 的整体集群管理,减少了运维的业务压力。
Dubbo-go 具体关于 Dubbo 的一些 demo 展示或者使用方法,可以参考以下网站。
Dubbo-go 的架构示意图可以参考下方:
这篇文章主要介绍"Pulsar的特性与优势有哪些",在日常操作中,相信很多人在Pulsar的特性与优势有哪些问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答"Pulsar的特性与优势有哪些"的疑惑有所帮助!接下来,请跟着小编一起来学习吧!
在租户级别,Pulsar 为特定的租户预留合适的存储空间、应用授权与认证机制。 在命名空间级别,Pulsar 有一系列的配置策略(policy),包括存储配额、流控、消息过期策略和命名空间之间的隔离策略。
Dubbo 中文网站:
http://dubbo.apache.org/zh-cn/GitHub 仓库:
https://github.com/apache/dubbo-go
到此,关于"Pulsar的特性与优势有哪些"的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注网站,小编会继续努力为大家带来更多实用的文章!
消息
架构
存储
租户
特性
优势
过程
集群
数据
业务
功能
同时
痛点
空间
策略
学习
之间
压力
更多
机制
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
网络安全学习宣传目的
信息通信和网络安全管理公安
华为网络安全主管约翰萨福克
软件开发公司每年总支出
mvc怎样引入数据库中的图片
陕西网络安全保卫总队
单类型的结构化数据库
河北网络安全宣传周答题答案
深圳软件开发有限公司待遇
access数据库查询设计
网络安全学习的三大要素
哪家券商app服务器最好
我们社会的网络安全吗
查看服务器是不是云服务器
糖果网络技术
魔兽世界暗影国度服务器人员比例
java 开源关系数据库
数据库的选择投影运算
江苏银联软件开发管理方法
广东时代网络技术分类技术
sql拿到id最大的数据库
天津代驾软件开发
河北文档软件开发要多少钱
网络安全dls
网络技术人员学校出名的有哪些
支付数据库表是通用的吗
常见的数据库掩码设置
网络安全主题教育观后感
花生壳内网服务器转发失败
ISV软件开发