637玖那台M复制数据,637玖那台M复制数据

1.前言

说起分布式高可用,必然少不了复制,1来是为了做个冗余备份防止数据丢失,2来还能达到疏散来增强品质的指标。基本架构:

图片 1

上边用M表示Master(主服务器),S表示Slave(从服务器),话不多说,先敲代码

 

1.前言

说起分布式高可用,必然少不了复制,壹来是为了做个冗余备份防止数据丢失,二来还能达到规定的标准疏散来增长品质的指标。基本架构:

图片 2

上边用M表示Master(主服务器),S表示Slave(从服务器),话不多说,先敲代码

 

2.配置

slaveof 192.168.1.1 6379

在S端配置slaveof就足以兑现复制了,意思是本人从1玖二.16八.一.1
637玖那台M复制数据。注意第贰遍复制的时候S下面的数量会被掩盖。上面就在自己的虚拟机上面实际操作一下,配置三台redis,637玖是M,6380、63八1是S

配置M

$ cp redis.conf redis_6379.conf
$ vi redis_6379.conf
bind 192.168.56.10 #修改ip为本机

配置S

$ cp redis_6379.conf redis_6380.conf
$ vi redis_6380.conf
#修改端口号和pid文件名
port 6380
pidfile /var/run/redis_6380.pid
slaveof 192.168.56.10 6379 #设定复制
#同样拷贝一份配置按照上面的步骤修改6381的配置
$ cp redis_6380.conf redis_6381.conf

启动

$ src/redis-server redis_6379.conf
$ src/redis-server redis_6380.conf
$ src/redis-server redis_6381.conf

测试复制

$ src/redis-cli -h 192.168.56.10 -p 6379
192.168.56.10:6379> set name pigfly
OK
192.168.56.10:6379> quit
$ src/redis-cli -h 192.168.56.10 -p 6380
192.168.56.10:6380> get name
"pigfly" #复制成功
192.168.56.10:6380> quit
$ src/redis-cli -h 192.168.56.10 -p 6379
192.168.56.10:6379> del name
(integer) 1
192.168.56.10:6379> quit
$ src/redis-cli -h 192.168.56.10 -p 6380
192.168.56.10:6380> get name
(nil) #删除同步成功

192.168.56.10:6380> set age 23
#注意S只读,这是默认配置,如果要S可写修改read-only=no
#一般来说不建议这样做,因为复制的时候会把数据覆盖
(error) READONLY You can't write against a read only slave.

192.168.56.10:6380> quit
$ src/redis-cli -h 192.168.56.10 -p 6379
192.168.56.10:6379> setex address 10 xxstreat
OK
192.168.56.10:6379> quit
$ src/redis-cli -h 192.168.56.10 -p 6380
192.168.56.10:6380> get address
(nil) #过期同步成功

 

2.配置

slaveof 192.168.1.1 6379

在S端配置slaveof就能够完结复制了,意思是笔者从1九二.16八.一.1
637九那台M复制数据。注意第二回复制的时候S上面的多少会被遮盖。上边就在自家的虚拟机上边实际操作一下,配置三台redis,637九是M,6380、6381是S

配置M

$ cp redis.conf redis_6379.conf
$ vi redis_6379.conf
bind 192.168.56.10 #修改ip为本机

配置S

$ cp redis_6379.conf redis_6380.conf
$ vi redis_6380.conf
#修改端口号和pid文件名
port 6380
pidfile /var/run/redis_6380.pid
slaveof 192.168.56.10 6379 #设定复制
#同样拷贝一份配置按照上面的步骤修改6381的配置
$ cp redis_6380.conf redis_6381.conf

启动

$ src/redis-server redis_6379.conf
$ src/redis-server redis_6380.conf
$ src/redis-server redis_6381.conf

测试复制

$ src/redis-cli -h 192.168.56.10 -p 6379
192.168.56.10:6379> set name pigfly
OK
192.168.56.10:6379> quit
$ src/redis-cli -h 192.168.56.10 -p 6380
192.168.56.10:6380> get name
"pigfly" #复制成功
192.168.56.10:6380> quit
$ src/redis-cli -h 192.168.56.10 -p 6379
192.168.56.10:6379> del name
(integer) 1
192.168.56.10:6379> quit
$ src/redis-cli -h 192.168.56.10 -p 6380
192.168.56.10:6380> get name
(nil) #删除同步成功

192.168.56.10:6380> set age 23
#注意S只读,这是默认配置,如果要S可写修改read-only=no
#一般来说不建议这样做,因为复制的时候会把数据覆盖
(error) READONLY You can't write against a read only slave.

192.168.56.10:6380> quit
$ src/redis-cli -h 192.168.56.10 -p 6379
192.168.56.10:6379> setex address 10 xxstreat
OK
192.168.56.10:6379> quit
$ src/redis-cli -h 192.168.56.10 -p 6380
192.168.56.10:6380> get address
(nil) #过期同步成功

 

3.原理

当M和S连接符合规律时,redis通过命令传播来壹同数据,每当M执行一个写命令,就会把命令发送给S,S执行后,两者达到多少的一致性。当S第一遍一而再恐怕断线后重连M的时候,复制进度是那样子的:

图片 3

其一历程也足以称呼是sync全量复制,每三回复制,M执行bgsave把具备数据打包成快速照相文件发给S,S再解包载入内部存款和储蓄器。

M执行bgsave消耗CPU、内部存款和储蓄器、磁盘I/O,传输进度消耗网络带宽,假设S是第二次连接M,不可幸免会执行上述操作,但假诺S是断线重连的状态,就有点不划算了,因为S真正要求复制的数量是断线现在的,即使全量复制就太浪费财富和时间了,所以redis二.八之后的本子做了改进,加了psync增量复制,psync(part-sync)跟sync不相同的是,psync只发送S真正供给的命令流,大大地拉长了包装和传导的功效,那么redis是怎么落到实处增量复制的吗?

replid, offset

各种M和S都有上边那七个属性,replid是M的绝无仅有标识。offset是命令流的字节数,不难的话,只要有写入命令(固然未有S),那几个offset就会增多

图片 4

M维护着上海教室那样1个稳定长度、先进先出的系列来保存近日的命令流

图片 5

上航海用体育场地便是增量复制的进程,假定S当前offset=offset_s,M当前offset=offset_m:

1.M判定replid是或不是和和谐的replid相等,倘诺不等于,跳出执行全量复制

2.M检查offset_s是还是不是还在缓冲队列,借使是,发送从offset_s开始到offset_m的命令流,如若未有了,跳出执行全量复制

三.S实践命令流,更新offset_s = offset_m

 

复制的建制和特点:

当M和S连接卓绝时,S定时请求M进行复制,M向S发送命令流来保持同步

redis私下认可使用高品质的异步复制,S会异步向M确认收到的多少

当M和S由于互联网难点要么逾期导致断开连接,S会尝试再次连接,请求增量复制

无法增量复制时,执行全量复制

二个M得以有多少个S

S也足以复制别的S

复制在M端是非阻塞的,也等于M向S复制的进度中,M的询问不受影响

复制在S端也大多是非阻塞的,起头化同步的时候,S可以提供旧数据来使查询不受影响,载入数据的时候,S将会闭塞连接不提供查询服务(相当大的多少也只必要短短几秒就联手完了),旧数据将会被去除,新数据将会被载入

能够把耗时询问放到S上边来拉长主机的品质

能够运用复制来制止M持久化带来的开支,让3个S来持久化,不过应该制止M重启,因为M重启之后数据是空的,那时候假使同步的话S的多寡也变为空了。即便是用redis的sentinel完成的高可用方案,也绝不把持久化关了,说不定sentinel还没来得及检查测试到故障,M就已经宕机然后重启了。为了防止那种情景,建议M和S都打开持久化,下边就演示数据是如何丢失的:

  • A,B,C三台redis服务器,A是M,B和C是S
  • 因为1些原因,A宕机了,它实施活动重启机制,那时候因为关闭了持久化,磁盘里是一向不备份数据的,内部存款和储蓄器里的数量也因为重启丢失了,所以重启之后数据总体丢了
  • B和C尝试同步,它们也不管A的数量是还是不是空,照常同步过来了,所以B和C的数码也丢了

 

3.原理

当M和S连接不荒谬时,redis通过命令传播来壹块数据,每当M执行三个写命令,就会把命令发送给S,S执行后,两者达到多少的壹致性。当S第一次一连可能断线后重连M的时候,复制进度是那样子的:

图片 6

其一进度也得以称作是sync全量复制,每一次复制,M执行bgsave把拥有数据打包成快速照相文件发给S,S再解包载入内部存款和储蓄器。

M执行bgsave消耗CPU、内部存款和储蓄器、磁盘I/O,传输进程消耗网络带宽,假如S是第二次连接M,不可制止会举行上述操作,但假诺S是断线重连的情事,就有点不划算了,因为S真正供给复制的多少是断线以往的,假如全量复制就太浪费能源和岁月了,所以redis二.八现在的版本做了改良,加了psync增量复制,psync(part-sync)跟sync区别的是,psync只发送S真正须要的命令流,大大地增进了打包和传导的功用,那么redis是怎么落到实处增量复制的啊?

replid, offset

每一种M和S都有地点那两脾特性,replid是M的唯壹标识。offset是命令流的字节数,一言以蔽之,只要有写入命令(尽管未有S),那个offset就会大增

图片 7

M维护着上海体育场所那样四个稳定长度、先进先出的队列来保存近期的命令流

图片 8

上航海用教室就是增量复制的进度,假定S当前offset=offset_s,M当前offset=offset_m:

1.M论断replid是还是不是和友好的replid相等,若是不对等,跳出执行全量复制

2.M检查offset_s是不是还在缓冲队列,假设是,发送从offset_s开始到offset_m的命令流,如若未有了,跳出执行全量复制

三.S推行命令流,更新offset_s = offset_m

 

复制的机制和特色:

当M和S连接卓绝时,S定时请求M实行理并答复制,M向S发送命令流来保持同步

redis暗中认可使用高品质的异步复制,S会异步向M确认收到的数据

当M和S由于网络难点只怕逾期导致断开连接,S会尝试再度连接,请求增量复制

不能够增量复制时,执行全量复制

二个M足以有多个S

S也能够复制别的S

复制在M端是非阻塞的,也正是M向S复制的进度中,M的查询不受影响

复制在S端也大半是非阻塞的,初阶化同步的时候,S能够提供旧数据来使查询不受影响,载入数据的时候,S将会卡住连接不提供查询服务(一点都不小的多寡也只要求短短几秒就壹块儿完了),旧数据将会被剔除,新数据将会被载入

能够把耗费时间询问放到S上边来增加主机的品质

能够采用复制来幸免M持久化带来的费用,让3个S来持久化,不过相应防止M重启,因为M重启之后数据是空的,那时候假诺同步的话S的数量也变成空了。就到底用redis的sentinel达成的高可用方案,也不要把持久化关了,说不定sentinel还没赶趟检测到故障,M就已经宕机然后重启了。为了幸免那种景观,提议M和S都打开持久化,上面就演示数据是何等丢失的:

  • A,B,C三台redis服务器,A是M,B和C是S
  • 因为某个原因,A宕机了,它执行机关重启机制,那时候因为关闭了持久化,磁盘里是没有备份数据的,内部存款和储蓄器里的数据也因为重启丢失了,所以重启之后数据总体丢了
  • B和C尝试同步,它们也不管A的多寡是否空,照常同步过来了,所以B和C的数据也丢了

 

redis复制怎么样处理过期的缓存?

  1. S不处理,而是等M处理过期后给S发送DEL命令
  2. 当M未有即时发送DEL命令,导致过期的缓存如故存在于S,S将会依照自个儿的逻辑石英钟报告缓存已过期,并且安装为只读
  3. Lua脚本运维的时候,不履行缓存回收
  4. 假如S变身为M,它立即自己执行缓存回收

 

redis复制怎么着处理过期的缓存?

  1. S不处理,而是等M处理过期后给S发送DEL命令
  2. 当M未有马上发送DEL命令,导致过期的缓存依旧存在于S,S将会基于自身的逻辑时钟报告缓存已过期,并且安装为只读
  3. Lua脚本运营的时候,不履行缓存回收
  4. 假诺S变身为M,它马上自己执行缓存回收

 

应用Docker和NAT的状态,怎样安顿?

行使端口转载和网络地址转换的时候,redis复制要尤其小心,尤其是运用redis-sentiner,它是根据INFO命令来获取IP地址的,那种意况下能够配备IP端口映射,来让M获取到S正确的地方:

slave-announce-ip 5.5.5.5
slave-announce-port 1234

  

那样M执行INFO命令看到S的IP便是炫耀过的:

# Replication
role:master
connected_slaves:1
slave0:ip=5.5.5.5,port=1234,state=online,offset=420,lag=1

  

选取Docker和NAT的意况,怎么样计划?

选取端口转发和互联网地址转换的时候,redis复制要特别小心,越发是运用redis-sentiner,它是依据INFO命令来获取IP地址的,这种气象下能够配备IP端口映射,来让M获取到S正确的地点:

slave-announce-ip 5.5.5.5
slave-announce-port 1234

  

如此M执行INFO命令看到S的IP正是炫耀过的:

# Replication
role:master
connected_slaves:1
slave0:ip=5.5.5.5,port=1234,state=online,offset=420,lag=1

  

INFO命令

经过info命令能够查看复制的参数和景况

$ src/redis-cli -h 192.168.56.10 -p 6381
192.168.56.10:6381> info
# Replication
role:master
connected_slaves:1
slave0:ip=192.168.56.10,port=6379,state=online,offset=644,lag=1
master_replid:b01608293384f8ea87b5bd0aabe081948f33a3dd
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:644
second_repl_offset:-1
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:644

  

INFO命令

通过info命令能够查阅复制的参数和情景

$ src/redis-cli -h 192.168.56.10 -p 6381
192.168.56.10:6381> info
# Replication
role:master
connected_slaves:1
slave0:ip=192.168.56.10,port=6379,state=online,offset=644,lag=1
master_replid:b01608293384f8ea87b5bd0aabe081948f33a3dd
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:644
second_repl_offset:-1
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:644

  

四.性能优化

1.调动缓冲队列的大小来狠命达到增量复制而防止全量复制,repl-backlog-size暗中同意一mb

 

四.质量优化

1.调动缓冲队列的深浅来尽量达到增量复制而防止全量复制,repl-backlog-size暗中认可壹mb

 

五.参考资料

redis文档

redis实战

redis设计与贯彻

5.参考资料

redis文档

redis实战

redis设计与贯彻