1.Redis持久化机制

我们知道redis之所以那么快，主要原因基于内存操作，但是基于内存操作会在程序停止的时候导致数据丢失。redis为了保证数据的不丢失，为我们提供了两种常用持久化机制，RDB与AOF。

1.1 RDB快照（snapshot）

在默认情况下， Redis 将内存数据库快照保存在名字为 dump.rdb 的二进制文件中。

  • 你可以对 Redis 进行设置， 让它在“ N 秒内数据集至少有 M 个改动”这一条件被满足时， 自动保存一次数据集。

    1. # 以下设置会让 Redis 在满足“ 60 秒内有至少有 1000 个键被改动”这一条件时， 自动保存一次数据集：
    2. save 60 1000    //关闭RDB只需要将所有的save保存策略注释掉即可

  • 还可以手动执行命令生成RDB快照，进入redis客户端执行命令save或bgsave可以生成dump.rdb文件，每次命令执行都会将所有redis内存快照到一个新的rdb文件里，并覆盖原有rdb快照文件

bgsave的写时复制(COW)机制
redis 借助操作系统提供的写时复制技术（Copy-On-Write, COW），在生成快照的同时，依然可以正常处理写命令。
简单来说，bgsave 子进程是由主线程 fork 生成的，可以共享主线程的所有内存数据。bgsave 子进程运行后，开始读取主线程的内存数据，并把它们写入 RDB 文件。此时，如果主线程对这些数据也都是读操作，那么，主线程和 bgsave 子进程相互不影响。但是，如果主线程要修改一块数据，那么，这块数据就会被复制一份，生成该数据的副本。然后，bgsave 子进程会把这个副本数据写入 RDB 文件，而在这个过程中，主线程仍然可以直接修改原来的数据.
save与bgsave对比：

命令 save bgsave
IO类型 同步 异步
是否阻塞redis其它命令 是 否(在生成子进程执行调用fork函数时会有短暂阻塞)
复杂度 O(n) O(n)
优点 不会消耗额外内存 不阻塞客户端命令
缺点 阻塞客户端命令 需要fork子进程，消耗内存

配置自动生成rdb文件后台使用的是bgsave方式。

1.2 AOF（append-only file）

快照功能并不是非常持久（durable）： 如果 Redis 因为某些原因而造成故障停机， 那么服务器将丢失最近写入、且仍未保存到快照中的那些数据。
从 1.1 版本开始， Redis 增加了一种完全耐久的持久化方式： AOF 持久化，将修改的每一条指令记录进文件appendonly.aof中(先写入os cache，每隔一段时间fsync到磁盘).
比如执行命令“set miaock 666”，aof文件里会记录如下数据:

  1. *3
  2. $3
  3. set
  4. $6
  5. miaock
  6. $3
  7. 666

这是一种resp协议格式数据，星号后面的数字代表命令有多少个参数，$号后面的数字代表这个参数有几个字符. :::info 注意，如果执行带过期时间的set命令，aof文件里记录的是并不是执行的原始命令，而是记录key过期的时间戳 ::: 比如执行“set miaock 888 ex 1000”，对应aof文件里记录如下

  1. *3
  2. $3
  3. set
  4. $5
  5. miaock
  6. $3
  7. 888
  8. *3
  9. $9
  10. PEXPIREAT
  11. $5
  12. miaock
  13. $13
  14. 1604249786301

开启 AOF 功能

:::info appendonly yes ::: 从现在开始， 每当 Redis 执行一个改变数据集的命令时（比如 SET）， 这个命令就会被追加到 AOF 文件的末尾。这样的话， 当 Redis 重新启动时， 程序就可以通过重新执行 AOF 文件中的命令来达到重建数据集的目的。
你可以配置 Redis 多久才将数据 fsync 到磁盘一次。有三个选项：

  1. appendfsync always：每次有新命令追加到 AOF 文件时就执行一次 fsync ，非常慢，也非常安全。
  2. appendfsync everysec：每秒 fsync 一次，足够快，并且在故障时只会丢失 1 秒钟的数据。
  3. appendfsync no：从不 fsync ，将数据交给操作系统来处理。更快，也更不安全的选择。

推荐（并且也是默认）的措施为每秒 fsync 一次， 这种 fsync 策略可以兼顾速度和安全性。
AOF重写

AOF文件里可能有太多没用指令，所以AOF会定期根据内存的最新数据生成aof文件
例如，执行了如下几条命令

  1. 127.0.0.1:6379> incr readcount
  2. (integer) 1
  3. 127.0.0.1:6379> incr readcount
  4. (integer) 2
  5. 127.0.0.1:6379> incr readcount
  6. (integer) 3
  7. 127.0.0.1:6379> incr readcount
  8. (integer) 4
  9. 127.0.0.1:6379> incr readcount
  10. (integer) 5

重写后AOF文件里变成

  1. *3
  2. $3
  3. SET
  4. $2
  5. readcount
  6. $1
  7. 5

如下两个配置可以控制AOF自动重写频率

  1. #aof文件至少要达到64M才会自动重写，文件太小恢复速度本来就很快，重写的意义不大
  2. auto-aof-rewrite-min-size 64mb
  3. #aof文件自上一次重写后文件大小增长了100%则再次触发重写
  4. auto-aof-rewrite-percentage 100

当然AOF还可以手动重写，进入redis客户端执行命令bgrewriteaof重写AOF
注意，AOF重写redis会fork出一个子进程去做(与bgsave命令类似)，不会对redis正常命令处理有太多影响
RDB 和 AOF 选择对比

命令 RDB AOF
启动优先级 低 高
体积 小 大
恢复速度 快 慢
数据安全性 容易丢数据 根据策略决定

生产环境可以都启用，redis启动时如果既有rdb文件又有aof文件则优先选择aof文件恢复数据，因为aof一般来说数据更全一点。

1.3 Redis 4.0 混合持久化

重启 Redis 时，我们很少使用 RDB来恢复内存状态，因为会丢失大量数据。我们通常使用 AOF 日志重放，但是重放 AOF 日志性能相对 RDB来说要慢很多，这样在 Redis 实例很大的情况下，启动需要花费很长的时间。 Redis 4.0 为了解决这个问题，带来了一个新的持久化选项——混合持久化。

  1. #通过如下配置可以开启混合持久化(必须先开启aof)：
  2. aof-use-rdb-preamble yes

果开启了混合持久化，AOF在重写时，不再是单纯将内存数据转换为RESP命令写入AOF文件，而是将重写这一刻之前的内存做RDB快照处理，并且将RDB快照内容和增量的AOF修改内存数据的命令存在一起，都写入新的AOF文件，新的文件一开始不叫appendonly.aof，等到重写完新的AOF文件才会进行改名，覆盖原有的AOF文件，完成新旧两个AOF文件的替换。
于是在 Redis 重启的时候，可以先加载 RDB 的内容，然后再重放增量 AOF 日志就可以完全替代之前的 AOF 全量文件重放，因此重启效率大幅得到提升。
Redis持久化机制与高可用架构设计 - 图1

Redis数据备份策略

  1. 写crontab定时调度脚本，每小时都copy一份rdb或aof的备份到一个目录中去，仅仅保留最近48小时的备份
  2. 每天都保留一份当日的数据备份到一个目录中去，可以保留最近1个月的备份
  3. 每次copy备份的时候，都把太旧的备份给删了
  4. 每天晚上将当前机器上的备份复制一份到其他机器上，以防机器损坏

2.Redis高可用架构

redis作为一个分布式缓存中间件使用的比较火，不仅仅是性能高，还有其高可用架构设计。它主要有如下三种设计,主从，哨兵以及集群架构设计。
Redis持久化机制与高可用架构设计 - 图2

2.1 主从架构

Redis持久化机制与高可用架构设计 - 图3

redis主从架构搭建

:::tips 配置从节点步骤：

  1. 复制一份redis.conf文件 命名redis6380.conf
  2. 将相关配置修改为如下值 :
  • port 6380 pidfile /var/run/redis_6380.pid # 把pid进程号写入pidfile配置的文件
  • logfile “6380.log” dir /usr/local/redis/db6380 # 指定数据存放目录 #
  • 需要注释掉bind # bind 127.0.0.1（bind绑定的是自己机器网卡的ip，如果有多块网卡可以配多个ip，代表允许客户端通过机器的哪些网卡ip去访问，内网一般可以不配置bind，注释掉即可,如果不注释,外部客户端无法访问）
  • masterauth mckmck$$(主节点密码) —— 注意, 主节点redis有密码,必须项
  1. 配置主从
  • replicaof 81.69.8.183 6379 # 从本机6379的redis实例复制数据，
  • Redis 5.0之前使用slaveof replica-read-only yes # 配置从节点只读
  1. 启动

image.png :::

Redis主从工作原理

数据同步原理：

  1. 如果你为master配置了一个slave，不管这个slave是否是第一次连接上Master，它都会发送一个PSYNC命令给master请求复制数据。
  2. master收到PSYNC命令后，
    1. 会在后台进行数据持久化通过bgsave生成最新的rdb快照文件。
    2. 持久化期间，master会继续接收客户端的请求，它会把这些可能修改数据集的请求缓存在内存中。
  3. 当持久化进行完毕以后，master会把这份rdb文件数据集发送给slave。
  4. slave会把接收到的数据进行持久化生成rdb，然后再加载到内存中。
  5. 然后，master再将之前缓存在内存中的命令发送给slave。 :::danger 当master与slave之间的连接由于某些原因而断开时，slave能够自动重连Master，如果master收到了多个slave并发连接请求，它只会进行一次持久化，而不是一个连接一次，然后再把这一份持久化的数据发送给多个并发连接的slave。 ::: 主从复制(全量复制)流程图
    Redis持久化机制与高可用架构设计 - 图5

数据部分复制：
当master和slave断开重连后，一般都会对整份数据进行复制。但从redis2.8版本开始，redis改用可以支持部分数据复制的命令PSYNC去master同步数据，slave与master能够在网络连接断开重连后只进行部分数据复制(断点续传)。
master会在其内存中创建一个复制数据用的缓存队列，缓存最近一段时间的数据，master和它所有的slave都维护了复制的数据下标offset和master的进程id，因此，当网络连接断开后，slave会请求master继续进行未完成的复制，从所记录的数据下标开始。如果master进程id变化了，或者从节点数据下标offset太旧，已经不在master的缓存队列里了，那么将会进行一次全量数据的复制。
主从复制(部分复制，断点续传)流程图:
Redis持久化机制与高可用架构设计 - 图6

注意事项
如果有很多从节点，为了缓解主从复制风暴(多个从节点同时复制主节点导致主节点压力过大)，可以做如下架构，让部分从节点与从节点(与主节点同步)同步数据
Redis持久化机制与高可用架构设计 - 图7

优缺点
特点：
1、master/slave 角色
2、master/slave 数据相同
3、降低 master 读压力在转交从库
问题：

  1. 无法保证高可用
  2. 没有解决 master 写的压力

2.2 Redis哨兵架构

:::danger 如果使用主从来搭建redis的架构，试想一下，master节点挂了怎么办？这时候就需要另外一种架构设计，哨兵模式。 :::

哨兵架构工作原理

sentinel哨兵是特殊的redis服务，不提供读写服务，主要用来监控redis实例节点。
哨兵架构下client端第一次从哨兵找出redis的主节点，后续就直接访问redis的主节点，不会每次都通过sentinel代理访问redis的主节点，当redis的主节点发生变化，哨兵会第一时间感知到，并且将新的redis主节点通知给client端(这里面redis的client端一般都实现了订阅功能，订阅sentinel发布的节点变动消息)
Redis持久化机制与高可用架构设计 - 图8

哨兵架构搭建

  1. #1、复制一份sentinel.conf文件
  2. cp sentinel.conf sentinel-26379.conf
  4. #2、将相关配置修改为如下值：
  5. port 26379
  6. daemonize yes
  7. pidfile "/var/run/redis-sentinel-26379.pid"
  8. logfile "26379.log"
  9. dir "/usr/local/redis-5.0.3/data"
  10. # sentinel monitor <master-redis-name> <master-redis-ip> <master-redis-port> <quorum>
  11. # quorum是一个数字，指明当有多少个sentinel认为一个master失效时(值一般为：sentinel总数/2 + 1)，master才算真正失效
  12. sentinel monitor mymaster 192.168.0.60 6379 2   # mymaster这个名字随便取，客户端访问时会用到
  14. #如果redis配置了密码，那这里必须配置认证，否则不能自动切换
  15. sentinel auth-pass mymaster redispass  　
  17. #3、启动sentinel哨兵实例
  18. src/redis-sentinel sentinel-26379.conf
  20. #4、查看sentinel的info信息
  21. src/redis-cli -p 26379
  22. 127.0.0.1:26379>info
  24. #可以看到Sentinel的info里已经识别出了redis的主从
  25. #5、可以自己再配置两个sentinel，端口26380和26381，注意上述配置文件里的对应数字都要修改

Redis持久化机制与高可用架构设计 - 图9
Redis持久化机制与高可用架构设计 - 图10
sentinel集群都启动完毕后，会将哨兵集群的元数据信息写入所有sentinel的配置文件里去(追加在文件的最下面)，我们查看下如下配置文件sentinel-26379.conf，如下所示：

  1. sentinel known-replica mymaster 81.69.8.183 6380 #代表redis主节点的从节点信息
  2. sentinel known-replica mymaster 81.69.8.183 6381 #代表redis主节点的从节点信息
  3. sentinel known-sentinel mymaster 172.17.0.11 26380 ef6fc43c248b514c102b94d177cefe8c8eef7e45  #代表感知到的其它哨兵节点
  4. sentinel known-sentinel mymaster 172.17.0.11 26381 85271368b9800ac7b1548b6fa43a13e4c2ac0889  #代表感知到的其它哨兵节点

当redis主节点如果挂了，哨兵集群会重新选举出新的redis主节点，同时会修改所有sentinel节点配置文件的集群元数据信息，比如6379的redis如果挂了，假设选举出的新主节点是6380，则sentinel文件里的集群元数据信息会变成如下所示：
Redis持久化机制与高可用架构设计 - 图11
同时还会修改sentinel文件里之前配置的mymaster对应的6379端口，改为6380
Redis持久化机制与高可用架构设计 - 图12

优缺点
特点：

  1. 保证高可用
  2. 监控各个节点
  3. 自动故障迁移

缺点：

  1. 主从模式，切换需要时间丢数据
  2. 没有解决 master 写的压力

    2.3 Redis集群架构

    Redis持久化机制与高可用架构设计 - 图13

    集群架构工作原理

  • 客户端与redis节点直连，不需要中间proxy层。客户端不需要连接集群所有节点，连接集群中任何一个可用节点即可
  • 根据公式HASH_SLOT=CRC16(key) mod 16384，计算出映射到哪个分片上，然后Redis会去相应的节点进行操作
  • 如果一个M服务器挂掉，集群会通过在配置的监控时间超时后使用一个类似选举的算法立刻将一台S服务器升级为M服务器
  • 整个集群节点的Fail是通过集群中超过半数的节点检测失效时才生效

具有如下优点:

  • 无需Sentinel哨兵监控，如果Master挂了，Redis Cluster内部自动将Slave切换Master
  • 可以进行水平扩容
  • 支持自动化迁移，当出现某个Slave宕机了，那么就只有Master了，这时候的高可用性就无法很好的保证了，万一Master也宕机了，咋办呢？ 针对这种情况，如果说其他Master有多余的Slave ，集群自动把多余的Slave迁移到没有Slave的Master 中。

缺点:

  • 批量操作是个坑
  • 资源隔离性较差，容易出现相互影响的情况。

    集群架构搭建

    后续补上。暂时省略。。。。