千家信息网

POSTGRESQL CDC怎么用

发表于:2024-11-11 作者:千家信息网编辑
千家信息网最后更新 2024年11月11日,这篇文章主要为大家展示了"POSTGRESQL CDC怎么用",内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下"POSTGRESQL CDC怎么用"这篇文章吧。
千家信息网最后更新 2024年11月11日POSTGRESQL CDC怎么用

这篇文章主要为大家展示了"POSTGRESQL CDC怎么用",内容简而易懂,条理清晰,希望能够帮助大家解决疑惑,下面让小编带领大家一起研究并学习一下"POSTGRESQL CDC怎么用"这篇文章吧。

首先 POSTGRESQL 本身的复制方式有流式复制和逻辑复制两种,今天要说的就是逻辑复制中的CDC功能。而实施CDC POSTGRESQL 要具备两个功能,1 获取数库的变更日志(WAL) 和 获取变更日志前的数据一致性快照,最后要保存消费者的偏移量。而提到逻辑复制,是从PG10开始的新功能。

1 先通过一个实践来看看什么叫PG的 CDC (以忽略部分数据库基础设置)

首先我们先要创建一个逻辑复制槽,并且使用系统给定的一个test_decoding的解码插件。

创建完复制槽后,我们开始一些相关的数据库操作,从下图可以看出想的DDL 操作并没有解析,仅仅是记录了begin commit

我们来在做做 DML操作,明显相关的记录可以被解码并且可以看出数据库刚才在操作了什么。

当然具体的使用我们还需要使用 pg_recvlogical 来进行数据的捕捉和更多的应用,如果直接将这些输出output 到动态的文件中,那一个数据库的CDC的记录就有了。以后在发现数据库哪个表里面的记录不对,就可用这样的方法早做日志进行记录。

同时我们也可以更换逻辑复制槽中的解码工具,我们看一下,在PG中输入的数据,经过逻辑复制槽后,直接解码为为 JSON 的数据

当然如果我们使用了其他的解析插件的情况下,还可以将语句直接翻译过来,如果保留这些语句,可以自己做一个类似于UNDO 的东西,将已经执行的语句,进行回滚,从中也更加理解了 data pipleline 中为什么对传统数据库要设置主键,这样可能方便捕获的数据进行一个更新或者判断插入或更新等等的操作。

通过上图,其实我们就可以建立一个自己简易的CDC 系统,通过记录如果表的设计上在完整一些,CDC 的一个日志系统将会为POSTGRESQL 数据库的数据任意时间点的数据 UNDO ,作为一个强有力的支持。

以上是"POSTGRESQL CDC怎么用"这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注行业资讯频道!

数据 数据库 逻辑 日志 内容 篇文章 系统 语句 功能 插件 更多 学习 帮助 更新 不对 明显 一致 强有力 一致性 上图 数据库的安全要保护哪些东西 数据库安全各自的含义是什么 生产安全数据库录入 数据库的安全性及管理 数据库安全策略包含哪些 海淀数据库安全审计系统 建立农村房屋安全信息数据库 易用的数据库客户端支持安全管理 连接数据库失败ssl安全错误 数据库的锁怎样保障安全 ipad服务器域名怎么找 金融系统网络安全技能竞赛 linux服务器推荐 三个层次的网络安全 关于登录名和数据库用户 霸州誉朗网络技术有限公司 dsp高级软件开发技术 服务器不花钱的图片存储方案 服务器的防火墙需要开启还是关闭 江苏环保网络技术是什么 nas做网站服务器 长沙软件开发工程师 创业之星怎么登陆服务器 vnr未找到数据库 安全网络技术教育平台 福建曙光服务器维修调试哪家便宜 部队网络安全心得体会存在不足 计算机网络技术主要学什 企业微信怎么跳过设置服务器 国诚互联网络科技有限公司 四川网络安全培训哪个好 网络安全建议的答复网信办 优尚品品网络技术 交警开展公安机关网络安全学习会 数据库窗体中总和表达式 永康云服务器 远程调用数据库连接 什么是计算机网络技术的课程 数据库的发展过程视频 小学网络安全隐患排查报告
0