Redis全量复制与部分复制示例详解

Redis 主从复制

• Redis 实例划分为主节点(master)和从节点(slave)
• 默认情况下，Redis都是主节点
• 每个从节点只能有一个主节点，而主节点可以同时具有多个从节点
• 复制的数据流是单向的，只能由主节点复制到从节点
• slaveof 命令在使用时，可以运行期动态配置，也可以提前写到配置文件中
• 主从复制

• 启动6380、6381
• 6381 执行命令

127.0.0.1:6381> slaveof 127.0.0.1 6380Redis5.0.0 改为 ： replicaof  

• 6380 启动

6381 启动

查看info replication

数据同步

复制偏移量

复制积压缓冲区

• 复制积压缓冲区是保存在主节点上的一个固定长度的队列，默认大小为1MB，当主节点有连接的从节点(slave)时被创建，这是主节点(master)响应写命令时，不但会把命名发送给从节点，还会写入复制积压缓冲区
• 由于缓冲区本质上是先进先出的定长队列，所以能实现保存最近已复制数据的功能，用于部分复制和复制命令丢失的数据补救

psync 命令

从节点使用psync命令完成部分复制和全量复制功能

30227:M 05 Aug 2019 18:52:44.698 * Replica 127.0.0.1:6381 asks for synchronization30227:M 05 Aug 2019 18:52:44.698 * Partial resynchronization not accepted: Replication ID mismatch (Replica asked for 'e7d71fb600183a175afadbd1354e97edddb2541a', my replication IDs are 'e24f6e42917e7c162ec45a713b0ee3872005ee8b' and '0000000000000000000000000000000000000000')

6381 从节点打印分析

31771:S 06 Aug 2019 12:21:40.213 * DB loaded from disk: 0.000 seconds31771:S 06 Aug 2019 12:21:40.213 * Before turning into a replica, using my master parameters to synthesize a cached master: I may be able to synchronize with the new master with just a partial transfer.#启动成功31771:S 06 Aug 2019 12:21:40.213 * Ready to accept connections# 开始连接主节点31771:S 06 Aug 2019 12:21:40.214 * Connecting to MASTER 127.0.0.1:6380# 开始同步31771:S 06 Aug 2019 12:21:40.214 * MASTER <-> REPLICA sync started31771:S 06 Aug 2019 12:21:40.214 * Non blocking connect for SYNC fired the event.31771:S 06 Aug 2019 12:21:40.214 * Master replied to PING, replication can continue...# 尝试增量同步31771:S 06 Aug 2019 12:21:40.214 * Trying a partial resynchronization (request 668b25f85e84c5900e1032e4b5e1f038f01cfa49:5895).# 全量同步31771:S 06 Aug 2019 12:21:40.215 * Full resync from master: c88cd043d66193e867929d9d5fadc952954371e5:031771:S 06 Aug 2019 12:21:40.215 * Discarding previously cached master state.31771:S 06 Aug 2019 12:21:40.240 * MASTER <-> REPLICA sync: receiving 224 bytes from master31771:S 06 Aug 2019 12:21:40.241 * MASTER <-> REPLICA sync: Flushing old data31771:S 06 Aug 2019 12:21:40.241 * MASTER <-> REPLICA sync: Loading DB in memory31771:S 06 Aug 2019 12:21:40.241 * MASTER <-> REPLICA sync: Finished with success

全量复制

• 全量复制是Redis最早支持的复制方式，也是主从第一次建立复制时必须经历的阶段。触发全量复制的命令是sync和psync
  • 发送psync命令进行数据同步，由于是第一次进行复制，从节点没有复制偏移量和主节点的运行ID，所以发送psync-1
  • 主节点根据psync-1解析出当前为全量复制，回复+FULLRESYNC响应
  • 从节点接收主节点的响应数据保存运行ID和偏移量offset
  • 主节点执行bgsave保存RDB文件到本地

31651:M 06 Aug 2019 11:08:40.802 * Starting BGSAVE for SYNC with target: disk31651:M 06 Aug 2019 11:08:40.802 * Background saving started by pid 3167631676:C 06 Aug 2019 11:08:40.805 * DB saved on disk31676:C 06 Aug 2019 11:08:40.806 * RDB: 0 MB of memory used by copy-on-write31651:M 06 Aug 2019 11:08:40.886 * Background saving terminated with success31651:M 06 Aug 2019 11:08:40.886 * Synchronization with replica 127.0.0.1:6381 succeeded

• 主节点发送RDB给从节点，从节点把接收的RDB文件保存在本地并直接作为从节点的数据文件,接收完RDB后从节点打印相关日志

31645:S 06 Aug 2019 11:08:40.886 * MASTER <-> REPLICA sync: receiving 224 bytes from master

• 对于从节点开始接收RDB快照到接收完成期间，主节点仍然响应读写命令，因此主节点会把这期间写命令数据保存在复制客户端缓冲区内，当从节点加载完RDB文件后，主节点再把缓冲区内的数据发送个从节点，保证主从之间数据一致性。
• redis.conf 配置

client-output-buffer-limit replica 256mb 64mb 60

• 如果主节点创建和传输RDB的时间过长，对于高流量写入场景非常容易造成主节点复制客户端缓冲区溢出。默认配置如上所示，如果60秒内缓冲区消耗持续大于64MB或者直接超过256MB时，主节点将直接关闭复制客户端连接，造成全量同步失败
• 对于主节点，当发送完所有的数据后就认为全量复制完成.

31651:M 06 Aug 2019 11:08:40.886 * Synchronization with replica 127.0.0.1:6381 succeeded

• 从节点接收完主节点传送来的全部数据后会清空自身旧数据

31645:S 06 Aug 2019 11:08:40.886 * MASTER <-> REPLICA sync: Flushing old data

• 从节点清空数据后开始加载RDB文件，对于较大的RDB文件，这一步操作依然比较耗时，可以通过计算日志之间的时间差来判断加载RDB的总耗时

31645:S 06 Aug 2019 11:08:40.886 * MASTER <-> REPLICA sync: Loading DB in memory31645:S 06 Aug 2019 11:08:40.886 * MASTER <-> REPLICA sync: Finished with success

• 从节点成功加载完RDB后，如果当前节点开启了AOF持久化功能，它会立刻做bgrewriteaof操作，为了保证全量复制后AOF持久化文件立刻可用。
• 全量复制耗时的原因：
  • 主节点bgsave时间
  • RDB文件网络传输时间
  • 从节点清空数据时间
  • 可能的AOF重写时间
• 以下为Redis 3.0才会有

部分复制

• 部分复制主要是Redis针对全量复制的过高开销做出的一种优化措施，使用psync {runId}{offset}命令实现。当从节点(slave)正在复制主节点(master)时，如果出现网络闪断或者命令丢失等异常情况时，从节点会向主节点要求补发丢失的命令数据，如果主节点的复制积压缓冲区内存咋这部分数据则直接发送给从节点，这样就可以保持主从节点复制的一致性。补发的这部分数据一般远远小于全量数据.
  • 当主节点直接网络出现中断是，如果超过repl-timeout时间，主节点会认为从节点故障并中断复制连接

31767:M 06 Aug 2019 14:13:26.096 # Connection with replica 127.0.0.1:6381 lost.

• 主从连接中断期间主节点依然响应命令，但因复制连接中断命令无法发送给从节点，不过主节点内部存在的复制积压缓冲区，依然可以保存最近一段时间的写命令数据，默认最大缓存1MB，可以通过into replication 查看
• 当从节点网络恢复后，从节点会再次连上主节点

从节点打印：31934:S 06 Aug 2019 14:20:54.745 * MASTER <-> REPLICA sync started31934:S 06 Aug 2019 14:20:54.745 * Non blocking connect for SYNC fired the event.31934:S 06 Aug 2019 14:20:54.745 * Master replied to PING, replication can continue...31934:S 06 Aug 2019 14:20:54.745 * Trying a partial resynchronization (request c88cd043d66193e867929d9d5fadc952954371e5:9996).31934:S 06 Aug 2019 14:20:54.746 * Successful partial resynchronization with master.31934:S 06 Aug 2019 14:20:54.746 * MASTER <-> REPLICA sync: Master accepted a Partial Resynchronization.主节点打印：31767:M 06 Aug 2019 14:21:49.065 * Replica 127.0.0.1:6381 asks for synchronization31767:M 06 Aug 2019 14:21:49.066 * Partial resynchronization request from 127.0.0.1:6381 accepted. Sending 0 bytes of backlog starting from offset 10066.

• 当主从连接恢复后，由于从节点之前保存了自身已复制的偏移量和主节点的运行ID。因此会把它们当做psync参数发送个主节点，要求进行部分复制操作.从节点对应日志：

31938:S 06 Aug 2019 14:21:49.065 * Trying a partial resynchronization (request c88cd043d66193e867929d9d5fadc952954371e5:10066).

• 主节点接到psync命令后首先核对参数runId是否与自身一致，如果一致，说明之前复制的是当前主节点；之后根据参数offset在自身复制积压缓冲区查找，如果偏移量之后的数据存在缓冲区中，则对从节点发送+COUTINUE响应，表示可以进行部分复制。从节点接到回复打印如下：

31938:S 06 Aug 2019 14:21:49.066 * Successful partial resynchronization with master.31938:S 06 Aug 2019 14:21:49.066 * MASTER <-> REPLICA sync: Master accepted a Partial Resynchronization.

• 主节点根据偏移量把复制积压缓冲区里的数据发送给从节点，保证主从复制进入正常状态。发送的数据量可以在主节点的日志获取

31767:M 06 Aug 2019 14:21:49.065 * Replica 127.0.0.1:6381 asks for synchronization31767:M 06 Aug 2019 14:21:49.066 * Partial resynchronization request from 127.0.0.1:6381 accepted. Sending 0 bytes of backlog starting from offset 10066.

心跳

• 主从节点在建立复制后,它们之间维护着长连接并彼此发送心跳命令
• 主从心跳判断机制：
  • 主从节点彼此都有心跳检测机制，各自模拟对方的客户端进行通信，主节点的连接状态为flags=M,从节点连接状态为flags=S
  • 主节点默认每隔10秒对从节点发送ping命令，判断从节点的存活性和连接状态。可以通过repl-ping-replica-period 10 控制发送频率
  • 从节点在主线程中每隔一秒发送replconf ack{offset} 命令，给主节点上报自身当前的复制偏移量。主节点根据replconf命令判断从节点超时时间，体现在info replication 统计中的lag信息中，lag表示从节点最后一次通信延迟的秒数，正常延迟应该在0到1之间。如果超过repl-timeout配置的值(默认60秒),则判定从节点下线并断开复制客户端连接。即使主节点判定从节点下线后，如果从节点重新恢复，心跳检测和继续执行.

异步复制

• 主节点不但负责数据读写，还负责把写命令同步给从节点。写命令的发送过程是异步完成，也就是说主节点自身处理完写命令后直接返回给客户端，并不等待从节点复制完成。

读写分离

• 对于读占比较高的场景，可以通过把一部分读流量分摊到从节点(slave)来减轻主节点(master)压力，同时需要注意永远只对主节点执行写操作
• 建议大家在做读写分离之前，可以考虑使用Redis Cluster 等分布式解决方案

总结

以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作具有一定的参考学习价值，谢谢大家对的支持。