这可能是最全的?Redis?集群方案介绍了-搜狐
Monday, January 23, 2017
8:45 AM

这可能是最全的?Redis?集群方案介绍了

运维帮 2016-06-01 21:34:47 阅读(44497) 评论(12) .
声明：本文由入驻搜狐公众平台的作者撰写，除搜狐官方账号外，观点仅代表作者本人，不代表搜狐立场。举报
.
由于Redis出众的性能，其在众多的移动互联网企业中得到广泛的应用。Redis在3.0版本前只支持单实例模式，虽然现在的服务器内存可以到100GB、200GB的规模，但是单实例模式限制了Redis没法满足业务的需求（例如新浪微博就曾经用Redis存储了超过1TB的数据）。Redis的开发者Antirez早在博客上就提出在Redis 3.0版本中加入集群的功能，但3.0版本等到2015年才发布正式版。各大企业在3.0版本还没发布前为了解决Redis的存储瓶颈，纷纷推出了各自的Redis集群方案。这些方案的核心思想是把数据分片（sharding）存储在多个Redis实例中，每一片就是一个Redis实例。
下面介绍Redis的集群方案。
　　1.客户端分片
客户端分片是把分片的逻辑放在Redis客户端实现，通过Redis客户端预先定义好的路由规则，把对Key的访问转发到不同的Redis实例中，最后把返回结果汇集。这种方案的模式如图1所示。

图1 客户端分片的模式
　　客户端分片的好处是所有的逻辑都是可控的，不依赖于第三方分布式中间件。开发人员清楚怎么实现分片、路由的规则，不用担心踩坑。
　　客户端分片方案有下面这些缺点。

• 这是一种静态的分片方案，需要增加或者减少Redis实例的数量，需要手工调整分片的程序。
• 可运维性差，集群的数据出了任何问题都需要运维人员和开发人员一起合作，减缓了解决问题的速度，增加了跨部门沟通的成本。
• 在不同的客户端程序中，维护相同的分片逻辑成本巨大。例如，系统中有两套业务系统共用一套Redis集群，一套业务系统用Java实现，另一套业务系统用PHP实现。为了保证分片逻辑的一致性，在Java客户端中实现的分片逻辑也需要在PHP客户端实现一次。相同的逻辑在不同的系统中分别实现，这种设计本来就非常糟糕，而且需要耗费巨大的开发成本保证两套业务系统分片逻辑的一致性。

2.Twemproxy
Twemproxy是由Twitter开源的Redis代理，其基本原理是：Redis客户端把请求发送到Twemproxy，Twemproxy根据路由规则发送到正确的Redis实例，最后Twemproxy把结果汇集返回给客户端。
Twemproxy通过引入一个代理层，将多个Redis实例进行统一管理，使Redis客户端只需要在Twemproxy上进行操作，而不需要关心后面有多少个Redis实例，从而实现了Redis集群。
Twemproxy集群架构如图2所示。

图2Twemproxy集群架构
　　Twemproxy的优点如下。

• 客户端像连接Redis实例一样连接Twemproxy，不需要改任何的代码逻辑。
• 支持无效Redis实例的自动删除。
• Twemproxy与Redis实例保持连接，减少了客户端与Redis实例的连接数。

Twemproxy有如下不足。

• 由于Redis客户端的每个请求都经过Twemproxy代理才能到达Redis服务器，这个过程中会产生性能损失。
• 没有友好的监控管理后台界面，不利于运维监控。
• 最大的问题是Twemproxy无法平滑地增加Redis实例。对于运维人员来说，当因为业务需要增加Redis实例时工作量非常大。

Twemproxy作为最被广泛使用、最久经考验、稳定性最高的Redis代理，在业界被广泛使用。
　　3.Codis
Twemproxy不能平滑增加Redis实例的问题带来了很大的不便，于是豌豆荚自主研发了Codis，一个支持平滑增加Redis实例的Redis代理软件，其基于Go和C语言开发，并于2014年11月在GitHub上开源。
Codis包含下面4个部分。

• Codis Proxy：Redis客户端连接到Redis实例的代理，实现了Redis的协议，Redis客户端连接到Codis Proxy进行各种操作。Codis Proxy是无状态的，可以用Keepalived等负载均衡软件部署多个Codis Proxy实现高可用。
• CodisRedis：Codis项目维护的Redis分支，添加了slot和原子的数据迁移命令。Codis上层的 Codis Proxy和Codisconfig只有与这个版本的Redis通信才能正常运行。
• Codisconfig：Codis管理工具。可以执行添加删除CodisRedis节点、添加删除Codis Proxy、数据迁移等操作。另外，Codisconfig自带了HTTP server，里面集成了一个管理界面，方便运维人员观察Codis集群的状态和进行相关的操作，极大提高了运维的方便性，弥补了Twemproxy的缺点。
• ZooKeeper：分布式的、开源的应用程序协调服务，是Hadoop和Hbase的重要组件，其为分布式应用提供一致性服务，提供的功能包括：配置维护、名字服务、分布式同步、组服务等。Codis依赖于ZooKeeper存储数据路由表的信息和Codis Proxy节点的元信息。另外，Codisconfig发起的命令都会通过ZooKeeper同步到CodisProxy的节点。

Codis的架构如图3所示。

图3Codis的架构图
在图3的Codis的架构图中，Codis引入了Redis Server Group，其通过指定一个主CodisRedis和一个或多个从CodisRedis，实现了Redis集群的高可用。当一个主CodisRedis挂掉时，Codis不会自动把一个从CodisRedis提升为主CodisRedis，这涉及数据的一致性问题（Redis本身的数据同步是采用主从异步复制，当数据在主CodisRedis写入成功时，从CodisRedis是否已读入这个数据是没法保证的），需要管理员在管理界面上手动把从CodisRedis提升为主CodisRedis。
如果觉得麻烦，豌豆荚也提供了一个工具Codis-ha，这个工具会在检测到主CodisRedis挂掉的时候将其下线并提升一个从CodisRedis为主CodisRedis。
Codis中采用预分片的形式，启动的时候就创建了1024个slot，1个slot相当于1个箱子，每个箱子有固定的编号，范围是11024之间，Key就放到这个数字对应的slot。例如，如果某个Key通过算法“crc32(key)%1024”得到的数字是5，就放到编码为5的slot（箱子）。1个slot只能放1个Redis Server Group，不能把1个slot放到多个Redis Server Group中。1个Redis Server Group最少可以存放1个slot，最大可以存放1024个slot。因此，Codis中最多可以指定1024个Redis Server Group。
Codis最大的优势在于支持平滑增加（减少）Redis Server Group（Redis实例），能安全、透明地迁移数据，这也是Codis 有别于Twemproxy等静态分布式 Redis 解决方案的地方。Codis增加了Redis Server Group后，就牵涉到slot的迁移问题。例如，系统有两个Redis Server Group，Redis Server Group和slot的对应关系如下。

|

| | | —- | —- |

| Redis Server Group | slot |

| 1 | 1~500 |

| 2 | 501~1024 |

当增加了一个Redis Server Group，slot就要重新分配了。Codis分配slot有两种方法。
第一种：通过Codis管理工具Codisconfig手动重新分配，指定每个Redis Server Group所对应的slot的范围，例如可以指定Redis Server Group和slot的新的对应关系如下。

|

| | | —- | —- |

| Redis Server Group | slot |

| 1 | 1~500 |

| 2 | 501~700 |

| 3 | 701~1024 |

第二种：通过Codis管理工具Codisconfig的rebalance功能，会自动根据每个Redis Server Group的内存对slot进行迁移，以实现数据的均衡。
4.Redis 3.0集群
Redis 3.0集群采用了P2P的模式，完全去中心化。Redis把所有的Key分成了16384个slot，每个Redis实例负责其中一部分slot。集群中的所有信息（节点、端口、slot等），都通过节点之间定期的数据交换而更新。
Redis客户端在任意一个Redis实例发出请求，如果所需数据不在该实例中，通过重定向命令引导客户端访问所需的实例。
　　Redis 3.0集群的工作流程如图4所示。

图4Redis 3.0集群的工作流程图
　　如图4所示Redis集群内的机器定期交换数据，工作流程如下。
　　（1） Redis客户端在Redis2实例上访问某个数据。
　　（2） 在Redis2内发现这个数据是在Redis3这个实例中，给Redis客户端发送一个重定向的命令。
　　（3） Redis客户端收到重定向命令后，访问Redis3实例获取所需的数据。
　　Redis 3.0的集群方案有以下两个问题。

• 一个Redis实例具备了“数据存储”和“路由重定向”，完全去中心化的设计。这带来的好处是部署非常简单，直接部署Redis就行，不像Codis有那么多的组件和依赖。但带来的问题是很难对业务进行无痛的升级，如果哪天Redis集群出了什么严重的Bug，就只能回滚整个Redis集群。
• 对协议进行了较大的修改，对应的Redis客户端也需要升级。升级Redis客户端后谁能确保没有Bug？而且对于线上已经大规模运行的业务，升级代码中的Redis客户端也是一个很麻烦的事情。

综合上面所述的两个问题，Redis 3.0集群在业界并没有被大规模使用。
　　5.云服务器上的集群服务
　　国内的云服务器提供商阿里云、UCloud等均推出了基于Redis的云存储服务。
　　这个服务的特性如下。
　　（1）动态扩容
用户可以通过控制面板升级所需的Redis存储空间，扩容的过程中服务部不需要中断或停止，整个扩容过程对用户透明、无感知，这点是非常实用的，在前面介绍的方案中，解决Redis平滑扩容是个很烦琐的任务，现在按几下鼠标就能搞定，大大减少了运维的负担。
（2）数据多备
　　数据保存在一主一备两台机器中，其中一台机器宕机了，数据还在另外一台机器上有备份。
　　（3）自动容灾
　　主机宕机后系统能自动检测并切换到备机上，实现服务的高可用。
　　（4）实惠
很多情况下为了使Redis的性能更高，需要购买一台专门的服务器用于Redis的存储服务，但这样子CPU、内存等资源就浪费了，购买Redis云存储服务就很好地解决了这个问题。
有了Redis云存储服务，能使App后台开发人员从烦琐运维中解放出来。App后台要搭建一个高可用、高性能的Redis服务，需要投入相当的运维成本和精力。如果使用云存储服务，就没必要投入这些成本和精力，可以让App后台开发人员更专注于业务。
「电子工业出版社-博文视点」投稿，如需转载请联系出版社

　　本文节选自《App 后台开发运维和架构实践》一书
　　电子工业出版社出版，曾健生著
普通票：169元，VIP票：599元
扫码上图二维码，享受运维帮专属优惠：
普通票：66元（优惠码ywb）
VIP票：399元（优惠码ywbvip）
运维帮精选

• tomcat的配置和优化
• LVS负载均衡的三种模式和八种算法总结
• 基于CMDB与SALTSTACK的运维自动化之路
• Linux一句话精彩问答，绽放系统工程师集体智慧
• 【运维帮精品培训】Docker运维工程师实战培训班
• 全球敏捷运维峰会丨Gdevops北京站，不一样的端午等你来！

QQ技术讨论群：542812110
同城微信群：上海、广州、深圳、杭州、成都
先加微信yunweibang555，然后拉你进群，敲门口令：你所在城市
「运维帮专家顾问团」正式成立，已经汇聚了300位运维领袖，如果你是运维总监、运维专家，访问下方url或阅读原文申请加入（审批制）
http://form.mikecrm.com/IoDX3y
　　快乐分享，快乐生活
　　商务合作，请加微信yunweibang008
　　不嫌少
　　赞赏
　　人赞赏
.
阅读(44497) 举报
75喜欢
0没劲

• 分享到

.

热门关注

搜生活+关注

搜狐公众平台官方账号

MAGIC杨梦晶+关注

生活时尚&搭配博主 /生活时尚自媒体 /时尚类书籍作者

搜狐教育+关注

搜狐网教育频道官方账号

星吧GEO+关注

全球最大华文占星网站-专业研究星座命理及测算服务机构.
.
.
登录
我的2016年度评论盘点

• .
  .
  .
  .
  搜狐“我来说两句”用户公约

• 评论

.
24人参与,12条评论

• 最新评论

.

2017年1月22日 14:30 怀念那繁花似锦的青春 [浙江省杭州市网友]
1 带鞋拖地 [重庆市网友]
最近正在学REDIS，但我觉得最终还是要回到关系型数据库来！REDIS只能放在前面做个缓冲！
回复
.
2 Snowboarding [北京市网友]
关系型数据库是根本，但是redis最大的用途就在于性能的提升（个人见解），大数据时代，性能很重要。
回复
.
然而大部分公司的数据根本没达到大数据级别
回复
.
.

2017年1月12日 10:00 狐狐网友 [湖南省网友]
我自己封装了一下哨兵模式，而且做了写主读从的处理
回复 1
.
.

2016年12月30日 10:22 不一样的烟火 [上海市网友]
不错的介绍。希望以后还有更多
回复
.
.

2016年11月28日 16:50 Snowboarding [北京市网友]
1 带鞋拖地 [重庆市网友]
最近正在学REDIS，但我觉得最终还是要回到关系型数据库来！REDIS只能放在前面做个缓冲！
回复
.
关系型数据库是根本，但是redis最大的用途就在于性能的提升（个人见解），大数据时代，性能很重要。
回复
.
.

2016年10月31日 17:37 SayNoToYou [浙江省网友]
1 Oscarpoles [北京市网友]
我擦，这本书早就买了，其实没有太大用处，对于没有用过类似技术的人员来说，就像个目录一样，简单介绍了一下，对于经常用到相关技术的人来说，这里面用到的东西一点都不深入，无法获取深入一些的知识。这个应该出自一个技术小组组长的手，但是太具体的东西又不了解，只了解一些原理，我的意思是，干货太少
回复 1
.
要干货，看实际应用的源代码。
回复
.
.

2016年9月13日 13:02 Oscarpoles [北京市网友]
我擦，这本书早就买了，其实没有太大用处，对于没有用过类似技术的人员来说，就像个目录一样，简单介绍了一下，对于经常用到相关技术的人来说，这里面用到的东西一点都不深入，无法获取深入一些的知识。这个应该出自一个技术小组组长的手，但是太具体的东西又不了解，只了解一些原理，我的意思是，干货太少
回复 1
.
.

2016年9月13日 0:12 路虎 [浙江省温州市网友]
1 路虎 [浙江省温州市网友]
我想评论， 只是一句， 不要误导他人，不要为了广告而推广知识。 我一直在使用REDIS, 到最新的3.0，甚至3.2.。。 3主3从，但是我没有发现， 主主主如何切换，是我不够深入，还是我只是略懂皮毛。。。我们是做项目的， 我没是需要把所有的东西结合起来的。 这样一编文章会让很多人误会。。 希望不要被屏蔽。。。
回复 3
.
错别字比较多
回复 1
.
.

2016年9月13日 0:11 路虎 [浙江省温州市网友]
我想评论， 只是一句， 不要误导他人，不要为了广告而推广知识。 我一直在使用REDIS, 到最新的3.0，甚至3.2.。。 3主3从，但是我没有发现， 主主主如何切换，是我不够深入，还是我只是略懂皮毛。。。我们是做项目的， 我没是需要把所有的东西结合起来的。 这样一编文章会让很多人误会。。 希望不要被屏蔽。。。
回复 3
.
.

2016年9月13日 0:10 路虎 [浙江省温州市网友]
1 带鞋拖地 [重庆市网友]
最近正在学REDIS，但我觉得最终还是要回到关系型数据库来！REDIS只能放在前面做个缓冲！
回复
.
我想评论， 只是一句， 不要误导他人，不要为了广告而推广知识。 我一直在使用REDIS, 到最新的3.0，甚至3.2.。。 3主3从，但是我没有发现， 主主主如何切换，是我不够深入，还是我只是略懂皮毛。。。我们是做项目的， 我没是需要把所有的东西结合起来的。 这样一编文章会让很多人误会。。 希望不要被屏蔽。。。
回复 1
.
.

2016年8月25日 16:55 带鞋拖地 [重庆市网友]
最近正在学REDIS，但我觉得最终还是要回到关系型数据库来！REDIS只能放在前面做个缓冲！
回复
.
.
已有24人参与，点击查看更多精彩评论
搜狐正在使用畅言
关闭
按钮
查看12条评论
林永健傅园慧秀表情麦当娜演讲爆粗口女子食管直径1毫米13岁女孩举报爸爸梅西不会终老巴萨夫妻骑行1400公里返乡印度列车脱轨事故新加坡总理谈南海韩萨德用地将批准刘德华遭医师拒批大陆最大诈骗案破党员干部相亲指南林允牙齿大变样老人全身肿胀如球女子痔疮手术后死亡男子偷盗后装无辜柳岩穿短裙似少女警方捣毁假票窝点廊坊一家五口被杀湖南邵东民宅起火新闻联播迎新主播湖南新增两例H7N9赵又廷双数强迫症黄晓明当爸初体验2NE1解散真相曝光男子拼酒憋爆食管小伙两年挣两套房美元美股先跌为敬人民日报谈农业改革日本第一制服女生邓紫棋自曝遭出卖男子让两岁儿驾摩托男子偷6700万话费温碧霞担心刘德华自动驾驶普及需时间辅警精英可拿年薪周立波被传讯细节周立波律师回应毒品骗子借集福卡设局林永健傅园慧秀表情
已使用 OneNote 创建。