Redis - 复制详解

小灰灰 2021-10-18 20:40 340阅读 0赞

### 文章目录 ###

*  1. 配置
 *   *  1.1 建立复制
     *  1.2 断开复制
     *  1.3 安全性
     *  1.4 只读
     *  1.5 传输延迟
 *  2. 拓扑
 *   *  2.1 一主一从结构
     *  2.2 一主多从结构
     *  2.3 树状主从结构
 *  3. 主从复制原理
 *  4. 数据同步
 *  5. 主从的缺点
 *  6. 主从故障如何故障转移

在分布式系统中为了解决单点问题，通常会把数据复制多个副本部署到其他机器，满足故障恢复和负载均衡等需求。Redis也是如此，它为我们提供了复制功能，实现了相同数据的多个Redis副本。复制功能也是高可用Redis的基础，哨兵和集群都是在复制的基础上实现高可用的。复制也是Redis日常运维的常见维护点。因此深刻理解复制的工作原理与使用技巧对我们日常开发运维非常有帮助。本文内容如下：

*  介绍复制的使用方式：如何建立或断开复制、安全性、只读等。
 *  说明复制可支持的拓扑结构，以及每个拓扑结构的适用场景。
 *  分析复制的原理，包括：建立复制、全量复制、部分复制、心跳等。
 *  介绍复制过程中常见的开发和运维问题：读写分离、数据不一致、规避全量复制等。

# 1. 配置 #

## 1.1 建立复制 ##

参与复制的Redis实例划分为主节点（master）和从节点（slave）。默认情况下，Redis都是主节点。每个从节点只能有一个主节点，而主节点可以同时具备多个从节点。复制的数据流是单向的，只能由主节点复制到从节点。配置复制的方式有以下三种：

1.  在配置文件中加入 `slaveof {masterHost} {masterPort}` 随Redis启动生效。
2.  在 `redis-server` 启动命令后加入 `--slaveof {masterHost} {masterPort}` 生效。
3.  直接使用命令：`slaveof {masterHost} {masterPort}` 生效。

综上所述，slaveof 命令在使用时，可以运行期动态配置，也可以提前写到配置文件中。例如本地启动两个端口为6379和6380的Redis节点，在 127.0.0.1:6380 执行如下命令：

127.0.0.1:6380> slaveof 127.0.0.1:6379

slaveof 配置都是在从节点发起，这时6379作为主节点，6380作为从节点。复制关系建立后执行如下命令测试：

127.0.0.1:6379> set hello redis
    OK 
    127.0.0.1:6379> get hello
    "redis"
    127.0.0.1:6380> get hello
    "redis"

从运行结果中看到复制已经工作了，针对主节点6379的任何修改都可以同步到从节点6380中。

实际操作结果如图：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI0MDk1MDU1_size_16_color_FFFFFF_t_70]  
slaveof本身是异步命令，执行slaveof命令时，节点只保存主节点信息后返回，后续复制流程在节点内部异步执行，具体细节后面原理部分会讲解。主从节点复制成功建立后，可以使用`info replication`命令查看复制相关状态，如下：

[root@izuf6bsiti3f4kuichki8nz admin]# redis-cli
    127.0.0.1:6379> info replication
    # Replication
    role:master       # 主 
    connected_slaves:1
    slave0:ip=127.0.0.1,port=6380,state=online,offset=6275,lag=0
    master_repl_offset:6275
    repl_backlog_active:1
    repl_backlog_size:1048576
    repl_backlog_first_byte_offset:2
    repl_backlog_histlen:6274
    127.0.0.1:6379> exit
    [root@izuf6bsiti3f4kuichki8nz admin]# redis-cli -p 6380
    127.0.0.1:6380> info replication
    # Replication
    role:slave               # 从
    master_host:127.0.0.1
    master_port:6379
    master_link_status:up
    master_last_io_seconds_ago:2
    master_sync_in_progress:0
    slave_repl_offset:6303
    slave_priority:100
    slave_read_only:1
    connected_slaves:0
    master_repl_offset:0
    repl_backlog_active:0
    repl_backlog_size:1048576
    repl_backlog_first_byte_offset:0
    repl_backlog_histlen:0
    127.0.0.1:6380>

## 1.2 断开复制 ##

slaveof命令不但可以建立复制，还可以在从节点执行 `slaveof no one` 来断开与主节点复制关系。例如在6380节点执行`slaveof no one` 来断开复制，如下：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI0MDk1MDU1_size_16_color_FFFFFF_t_70 1]  
断开复制主要流程：  
1）断开与主节点复制关系。  
2）从节点晋升为主节点。

从节点断开复制后并不会抛弃原有数据，只是无法再获取主节点上的数据变化。

通过slaveof命令还可以实现切主操作，所谓切主是指把当前从节点对主节点的复制切换到另一个主节点。执行`slaveof {newMasterIp} {newMasterPort}`命令即可，例如把6380节点从原来的复制6379节点变为复制6381节点执行`slaveof 127.0.0.1:6381`即可。

切主操作流程如下：  
1）断开与旧主节点复制关系。  
2）与新主节点建立复制关系。  
3）删除从节点当前所有数据。  
4）对新主节点进行复制操作。

> 切主后从节点会清空之前所有的数据，线上人工操作时小心slaveof在错误的节点上执行或者指向错误的主节点。

## 1.3 安全性 ##

对于数据比较重要的节点，主节点会通过设置requirepass参数进行密码验证，这时所有的客户端访问必须使用auth命令实时校验。从节点与主节点的复制连接是通过一个特殊标识的客户端来完成，因此需要配置从节点的masterauth参数与主节点密码保持一致，这样从节点才可以正确地连接到主节点并发起复制流程。

## 1.4 只读 ##

默认情况下，从节点使用`slave-read-only=yes`配置为只读模式。由于复制只能从主节点到从节点，对于从节点的任何修改主节点都无法感知，修改从节点会造成主从数据不一致。因此建议线上不要修改从节点的只读模式。

## 1.5 传输延迟 ##

主从节点一般部署在不同机器上，复制时的网络延迟就成为需要考虑的问题，Redis为我们提供了`repl-disable-tcp-nodelay`参数用于控制是否关闭TCP\_NODELAY，默认为no，即开启tcp-nodelay功能，说明如下：

*  当关闭时，从节点产生的命令数据无论大小都会及时地发送给从节点，这样主从之间延迟会变小，但增加了网络带宽的消耗。适用于主从之间的网络环境良好的场景，如同机架或同机房部署。
 *  当开启时，主节点会合并较小的TCP数据包从而节省带宽。默认发送时间间隔取决于Linux的内核，一般默认为40毫秒。这种配置节省了带宽但增大主从之间的延迟。适用于主从网络环境复杂或带宽紧张的场景，如跨机房部署。

> 部署主从节点时需要考虑网络延迟、带宽使用率、防灾级别等因素，如要求低延迟时，建议同机架或同机房部署并关闭`repl-disable-tcp-nodelay`；如果考虑高容灾性，可以同城跨机房部署并开启`repl-disable-tcp-nodelay`。

# 2. 拓扑 #

Redis的复制拓扑结构可以支持单层或多层复制关系，根据拓扑复杂性可以分为以下三种：一主一从、一主多从、树状主从结构，下面分别介绍。

## 2.1 一主一从结构 ##

一主一从结构是最简单的复制拓扑结构，用于主节点出现宕机时从节点提供故障转移支持。当应用写命令并发量较高且需要持久化时，可以只在从节点上开启AOF，这样既保证数据安全性同时也避免了持久化对主节点的性能干扰。但需要注意的是，当主节点关闭持久化功能时，如果主节点脱机要避免自动重启操作。因为主节点之前没有开启持久化功能自动重启后数据集为空，这时从节点如果继续复制主节点会导致从节点数据也被清空的状况，丧失了持久化的意义。安全的做法是在从节点上执行slaveof no one 断开与主节点的复制关系，再重启主节点从而避免这一问题。

## 2.2 一主多从结构 ##

一主多从结构（又称为星形拓扑结构）使得应用端可以利用多个从节点实现读写分离，如下图。对于读占比较大的场景，可以把读命令发送到从节点来分担主节点压力。同时在日常开发中如果需要执行一些比价耗时的读命令，如keys、sort等，可以在其中一台从节点上执行，防止慢查询对主节点造成阻塞从而影响线上服务的稳定性。对于写并发量较高的场景，多个从节点会导致主节点写命令的多次发送从而过度消耗网络带宽，同时也加重了主节点的负载影响服务稳定性。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI0MDk1MDU1_size_16_color_FFFFFF_t_70 2]

## 2.3 树状主从结构 ##

树状主从结构（又称为树状拓扑结构）使得从节点不但可以复制主节点数据，同时可以作为其他从节点的主节点继续向下层复制。通过引入复制中间层，可以有效降低主节点负载和需要传送给从节点的数据量。如下图，数据写入节点A后会同步到B和C，B节点再把数据同步到D和E节点，数据实现了一层一层的向下复制。当主节点需要挂载多个从节点时为了避免对主节点的性能干扰，可以采用树状主从结构降低主节点压力。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI0MDk1MDU1_size_16_color_FFFFFF_t_70 3]

# 3. 主从复制原理 #

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI0MDk1MDU1_size_16_color_FFFFFF_t_70 4]

# 4. 数据同步 #

redis 2.8版本以上使用psync命令完成同步，过程分“全量”与“部分”复制  
全量复制：一般用于初次复制场景（第一次建立SLAVE后全量）  
部分复制：网络出现问题，从节点再次连接主节点时，主节点补发缺少的数据，每次数据增量同步  
心跳：主从有长连接心跳，主节点默认每10S向从节点发ping命令，repl-ping-slave-period控制发送频率

# 5. 主从的缺点 #

a)主从复制，若主节点出现问题，则不能提供服务，需要人工修改配置将从变主  
b)主从复制主节点的写能力单机，能力有限  
c)单机节点的存储能力也有限

# 6. 主从故障如何故障转移 #

a)主节点(master)故障，从节点slave-1端执行 slaveof no one后变成新主节点；  
b)其它的节点成为新主节点的从节点，并从新节点复制数据；  
c)需要人工干预，无法实现高可用。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI0MDk1MDU1_size_16_color_FFFFFF_t_70 5]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI0MDk1MDU1_size_16_color_FFFFFF_t_70]: /images/20211018/87ba8e4c4f3c4abc9d7ec47c6fe24d32.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI0MDk1MDU1_size_16_color_FFFFFF_t_70 1]: /images/20211018/e4aff202d0684b518f19865939ef6269.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI0MDk1MDU1_size_16_color_FFFFFF_t_70 2]: /images/20211018/afdc579ec2eb477f9b058e7d84587e33.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI0MDk1MDU1_size_16_color_FFFFFF_t_70 3]: /images/20211018/6ffd79fc7b984ec29986f37a64bc9430.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI0MDk1MDU1_size_16_color_FFFFFF_t_70 4]: /images/20211018/8051607d31a34d51a5bb2e7e798bfb9f.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzI0MDk1MDU1_size_16_color_FFFFFF_t_70 5]: /images/20211018/07398b363cef43ab9b664a0a10b3e779.png