三分钟快速搭建分布式高可用的Redis集群
内容导读
互联网集市收集整理的这篇技术教程文章主要介绍了三分钟快速搭建分布式高可用的Redis集群,小编现在分享给大家,供广大互联网技能从业者学习和参考。文章包含10667字,纯文字阅读大概需要16分钟。
内容图文
![三分钟快速搭建分布式高可用的Redis集群](/upload/InfoBanner/zyjiaocheng/1103/14e74c9846b04b74a785a17346482d6c.jpg)
这里的Redis集群指的是Redis Cluster,它是Redis在3.0版本正式推出的专用集群方案,有效地解决了Redis分布式方面的需求。当单机内存、并发、流量等遇到瓶颈的时候,可以采用这种Redis Cluster方案进行解决。
分区规则
Redis Cluster采用虚拟槽(slot)进行数据分区,即使用分散度良好的哈希函数把所有键映射到一个固定范围的整数集合里,这里的整数就是槽(slot)。Redis Cluster槽的范围是0~16383,计算公式:slot=CRC16(key) & 16383。
白嫖小贴士:CRC16是一种高质量的哈希算法,可以使每个槽所映射的键通常比较均匀。
当集群中有3个节点时,每个节点平均大概负责5461个槽以及槽所映射的键值数据。这样一来,可以解耦数据与节点之间的关系,简化节点扩容和缩容的难度。节点自身维护槽的映射关系,不需要客户端或代理服务维护分区信息。
不过,Redis Cluster相对于单机还是存在一些限制的,比如:
- 批量操作键支持有限,仅支持具有相同槽的键进行批量操作。
- 事务操作键支持有限,仅支持在同一个节点上多个键的事务操作。
- 不支持多个数据空间。单机Redis可以支持16个数据库,而Cluster模式下只能使用一个数据库空间。
扯了这么多Redis Cluster的分区规则,下面我们开始步入正题。
欢迎关注微信公众号:万猫学社,每周一分享Java技术干货。
手动搭建
把Redis Cluster搭建起来总共几步?答:三步!第一步把冰箱门打开。第二步把大象关进去。第三步把冰箱门带上。不好意思,段子暴露年龄了。集群搭建需要以下三个步骤:
- 准备节点。
- 节点握手。
- 分配槽。
Redis Cluster由多个节点组成,节点数量至少有6个才能组成一个完整高可用的集群,其中有3个主节点和3个从节点,我们就以此为例搭建一个Redis Cluster。
准备节点
首先,为6个节点(同一台机器上的6380、6381、6382、6383、6384、6385端口)分别创建配置文件,以6380端口的节点为例:
# 节点端口port6380#日志文件
logfile "log/redis-6380.log"# 开启集群模式
cluster-enabled yes# 集群配置文件
cluster-config-file "data/nodes-6380.conf"
保持文件名为redis-6380.conf,其他节点的配置文件替换成各自的端口。准备好配置文件后启动所有节点,命令如下:
src/redis-server conf/redis-6380.conf &
src/redis-server conf/redis-6381.conf &
src/redis-server conf/redis-6382.conf &
src/redis-server conf/redis-6383.conf &
src/redis-server conf/redis-6384.conf &
src/redis-server conf/redis-6385.conf &
检测日志是否正确,以下是6380端口的节点的日志:
# oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo # Redis version=4.0.14, bits=64, commit=00000000, modified=0, pid=3031, just started # Configuration loaded
* No cluster configuration found, I‘m df1ac987f47dea35f1d0a83c3b405f0ef86892ab
* Running mode=cluster, port=6380.
6380端口的节点启动成功,第一次启动时如果没有集群配置文件,Redis会自动创建一个。6380端口的节点创建的集群配置文件如下:
df1ac987f47dea35f1d0a83c3b405f0ef86892ab :0@0 myself,master - 000 connected
vars currentEpoch 0 lastVoteEpoch 0
集群文件中记录的集群的状态,这里最重要的是节点ID,它是一个40位的16进制字符串,用于唯一标识集群中的这个节点。同样,也可以通过cluster nodes命令查看集群节点状态。比如在6380端口的节点上执行命令:
127.0.0.1:6380> clusternodesdf1ac987f47dea35f1d0a83c3b405f0ef86892ab:6380@16380 myself,master - 000 connected
目前,我们已经成功启动了6个节点,但是它们只能识别自己的节点信息,互相之间并不认识。下面我们通过节点握手让这6个节点互相之间建立联系从而组成一个集群。
欢迎关注微信公众号:万猫学社,每周一分享Java技术干货。
节点握手
节点握手是一些运行在集群模式下的节点通过Gossip协议互相通信,达到感知彼此的过程。
白嫖小贴士:Gossip协议是基于流行病传播方式的节点或者进程之间信息交换的协议,在分布式系统中被广泛使用。
节点握手通过客户端执行cluster meet
命令实现,它是一个异步命令,执行之后立刻返回,在Redis内部异步发起与目标节点的握手通信,该命令的语法如下:
cluster meet 目标节点IP 目标节点端口
把6个节点加到一个集群中:
127.0.0.1:6380> clustermeet 127.0.0.1 6381
OK
127.0.0.1:6380> clustermeet 127.0.0.1 6382
OK
127.0.0.1:6380> clustermeet 127.0.0.1 6383
OK
127.0.0.1:6380> clustermeet 127.0.0.1 6384
OK
127.0.0.1:6380> clustermeet 127.0.0.1 6385
OK
只需要在集群中任意节点上执行cluster meet
命令加入新的节点,握手状态会通过消息在集群中传播,其他节点也会自动发现新节点并与之发起握手流程。
我们再执行一下cluster nodes
命令,检查一下6个节点是否已经组成集群:
127.0.0.1:6380> clusternodes
1e1f45677d7b9b0130d03193f0bcec34578ac47d 127.0.0.1:6385@16385 master - 015866179190215 connected
df1ac987f47dea35f1d0a83c3b405f0ef86892ab 127.0.0.1:6380@16380 myself,master - 015866179160002 connected
5846b66ebe4fb4a5dcfd035652cc471f7e412752 127.0.0.1:6381@16381 master - 015866179170051 connected
a435cf98c3444b0b110a224401e397a107c453ef 127.0.0.1:6384@16384 master - 015866179149884 connected
71e0e9e9a6f0c7c85dbe0d396846a9072625c5e8 127.0.0.1:6383@16383 master - 015866179180133 connected
e25590603c7a254cce43aa8437861c5c425d753d 127.0.0.1:6382@16382 master - 015866179160000 connected
可以看到,6个节点都在集群中了。不过,此时因为还没有为集群中的节点分配槽,集群还处于下线状态,所有的数据读写都是被禁止的。比如:
127.0.0.1:6380> setonemorestudy
(error) CLUSTERDOWNHashslotnotserved
接下来,我们为集群中的节点分配槽。
分配槽
我们把6380、6382、6384端口的节点作为主节点,负责处理槽和相关数据;6381、6383、6385端口的节点分别作为从节点,负责故障转移。先把16384个槽平均分配给6380、6382、6384端口的节点,为节点分配槽是通过cluster addslots
命令实现:
# ./redis-cli -h 127.0.0.1 -p 6380 cluster addslots {0..5461}
OK
# ./redis-cli -h 127.0.0.1 -p 6382 cluster addslots {5462..10922}
OK
# ./redis-cli -h 127.0.0.1 -p 6384 cluster addslots {10923..16383}
OK
我们再执行一下cluster nodes
命令,检查一下槽是否已经分配:
127.0.0.1:6380> clusternodes
1e1f45677d7b9b0130d03193f0bcec34578ac47d 127.0.0.1:6385@16385 master - 015866194680005 connected
df1ac987f47dea35f1d0a83c3b405f0ef86892ab 127.0.0.1:6380@16380 myself,master - 015866194640002 connected 0-54615846b66ebe4fb4a5dcfd035652cc471f7e412752 127.0.0.1:6381@16381 master - 015866194670001 connected
a435cf98c3444b0b110a224401e397a107c453ef 127.0.0.1:6384@16384 master - 015866194670004 connected 10923-1638371e0e9e9a6f0c7c85dbe0d396846a9072625c5e8 127.0.0.1:6383@16383 master - 015866194673483 connected
e25590603c7a254cce43aa8437861c5c425d753d 127.0.0.1:6382@16382 master - 015866194683550 connected 5462-10922
再使用cluster replicate
命令把一个节点变成从节点.,这个命令必须在从节点上运行,它的语法是:
cluster replicate 主节点ID
把6381、6383、6385端口的节点变成对应6380、6382、6384端口的节点的从节点:
# ./redis-cli -h 127.0.0.1 -p 6381127.0.0.1:6381> cluster replicate df1ac987f47dea35f1d0a83c3b405f0ef86892ab
OK
127.0.0.1:6381> exit# ./redis-cli -h 127.0.0.1 -p 6383127.0.0.1:6383> cluster replicate e25590603c7a254cce43aa8437861c5c425d753d
OK
127.0.0.1:6383> exit# ./redis-cli -h 127.0.0.1 -p 6385127.0.0.1:6385> cluster replicate a435cf98c3444b0b110a224401e397a107c453ef
OK
127.0.0.1:6385> exit
我们再执行一下cluster nodes
命令,检查一下集群状态和主从关系:
127.0.0.1:6380> clusternodesdf1ac987f47dea35f1d0a83c3b405f0ef86892ab 127.0.0.1:6380@16380 myself,master - 015866201480002 connected 0-54615846b66ebe4fb4a5dcfd035652cc471f7e412752 127.0.0.1:6381@16381 slave df1ac987f47dea35f1d0a83c3b405f0ef86892ab 015866201500002 connected
e25590603c7a254cce43aa8437861c5c425d753d 127.0.0.1:6382@16382 master - 015866201510000 connected 5462-1092271e0e9e9a6f0c7c85dbe0d396846a9072625c5e8 127.0.0.1:6383@16383 slave e25590603c7a254cce43aa8437861c5c425d753d 015866201522203 connected
a435cf98c3444b0b110a224401e397a107c453ef 127.0.0.1:6384@16384 master - 015866201500004 connected 10923-163831e1f45677d7b9b0130d03193f0bcec34578ac47d 127.0.0.1:6385@16385 slave a435cf98c3444b0b110a224401e397a107c453ef 015866201490005 connected
自此,RedisCluster已经手动搭建完成。手动搭建可以理解集群建立的流程和细节,不过大家也会发现手动搭建有很多步骤,当集群的节点比较多的时候,肯定会让人头大。所以Redis官方提供了redis-trib.rb工具,可以让我们快速地搭建集群。
自动搭建
redis-trib.rb是使用Ruby开发的Redis Cluster的管理工具,不需要额外下载,默认位于源码包的src目录下,但因为该工具是用Ruby开发的,所以需要准备相关的依赖环境。
欢迎关注微信公众号:万猫学社,每周一分享Java技术干货。
环境准备
安装Ruby:
yum -y install zlib-devel
wget https://cache.ruby-lang.org/pub/ruby/2.5/ruby-2.5.1.tar.gz
tar xvf ruby-2.5.1.tar.gz
cd ruby-2.5.1/
./configure -prefix=/usr/local/ruby
make
make install
cd /usr/local/ruby/
cp bin/ruby /usr/local/bin
cp bin/gem /usr/local/bin
安装rubygem redis依赖:
wget http://rubygems.org/downloads/redis-3.3.0.gem
gem install -l redis-3.3.0.gem
安装redis-trib.rb:
cp src/redis-trib.rb /usr/local/bin
执行redis-trib.rb命令确认一下环境是否准备正确:
# redis-trib.rb helpUsage:redis-trib<command><options><arguments...>createhost1:port1...hostN:portN --replicas<arg>checkhost:portinfohost:portfixhost:port --timeout<arg>reshardhost:port --from<arg>...此处省略一万个字...
搭建集群
像前面的内容讲的,准备好节点配置并启动:
src/redis-server conf/redis-7380.conf &
src/redis-server conf/redis-7381.conf &
src/redis-server conf/redis-7382.conf &
src/redis-server conf/redis-7383.conf &
src/redis-server conf/redis-7384.conf &
src/redis-server conf/redis-7385.conf &
使用redis-trib.rb create
命令完成节点握手和槽分配的工作,命令如下:
redis-trib.rbcreate--replicas 1 127.0.0.1:7380 127.0.0.1:7382 127.0.0.1:7384 127.0.0.1:7381 127.0.0.1:7383 127.0.0.1:7385
其中--replicas
参数用来指定集群中每个主节点有几个从节点,这里设置的是1。命令执行后,会首先给出主从节点的分配计划:
>>> Creatingcluster
>>> Performinghashslotsallocationon6nodes...
Using3masters:
127.0.0.1:7380127.0.0.1:7382127.0.0.1:7384Addingreplica127.0.0.1:7383to127.0.0.1:7380Addingreplica127.0.0.1:7385to127.0.0.1:7382Addingreplica127.0.0.1:7381to127.0.0.1:7384
>>> Tryingtooptimizeslavesallocationforanti-affinity[WARNING]SomeslavesareinthesamehostastheirmasterM: c25675d021c377c91f860986025e3779d89ede79127.0.0.1:7380slots:0-5460 (5461 slots) masterM: 58980a81b49de31383802d7d21d6782881678922127.0.0.1:7382slots:5461-10922 (5462 slots) masterM: 3f00a37d2c7a5ea40671c8f2934f66d059157a4a127.0.0.1:7384slots:10923-16383 (5461 slots) masterS: 6f7dd93973a8332305831e6b7b5e2c54c15b3b51127.0.0.1:7381replicates3f00a37d2c7a5ea40671c8f2934f66d059157a4aS: 03e01f82a935ed7f977af092e6a9cb71057df68a127.0.0.1:7383replicatesc25675d021c377c91f860986025e3779d89ede79S: 2cf3883e974a709b7070d6c4d7c528d9fa813358127.0.0.1:7385replicates58980a81b49de31383802d7d21d6782881678922CanIsettheaboveconfiguration? (type ‘yes‘ to accept):
如果我们同意这份计划就输入yes,之后就会开始执行节点握手和槽分配,输入如下:
>>> Nodesconfigurationupdated
>>> Assignadifferentconfigepochtoeachnode
>>> SendingCLUSTERMEETmessagestojointheclusterWaitingfortheclustertojoin....
>>> PerformingClusterCheck (usingnode 127.0.0.1:7380)M: c25675d021c377c91f860986025e3779d89ede79 127.0.0.1:7380slots:0-5460 (5461 slots) master
1 additionalreplica(s)
M: 58980a81b49de31383802d7d21d6782881678922 127.0.0.1:7382slots:5461-10922 (5462 slots) master
1 additionalreplica(s)
S: 2cf3883e974a709b7070d6c4d7c528d9fa813358 127.0.0.1:7385slots: (0 slots) slavereplicates 58980a81b49de31383802d7d21d6782881678922S: 03e01f82a935ed7f977af092e6a9cb71057df68a 127.0.0.1:7383slots: (0 slots) slavereplicatesc25675d021c377c91f860986025e3779d89ede79S: 6f7dd93973a8332305831e6b7b5e2c54c15b3b51 127.0.0.1:7381slots: (0 slots) slavereplicates 3f00a37d2c7a5ea40671c8f2934f66d059157a4aM: 3f00a37d2c7a5ea40671c8f2934f66d059157a4a 127.0.0.1:7384slots:10923-16383 (5461 slots) master
1 additionalreplica(s)
[OK]Allnodesagreeaboutslotsconfiguration.
>>> Checkforopenslots...
>>> Checkslotscoverage...
[OK]All 16384 slotscovered.
集群创建完成后,还可以使用redis-trib.rb check
命令检查集群是否创建成功,具体命令如下:
# redis-trib.rbcheck 127.0.0.1:7380
>>> PerformingClusterCheck (usingnode 127.0.0.1:7380)M: c25675d021c377c91f860986025e3779d89ede79 127.0.0.1:7380slots:0-5460 (5461 slots) master
1 additionalreplica(s)
M: 58980a81b49de31383802d7d21d6782881678922 127.0.0.1:7382slots:5461-10922 (5462 slots) master
1 additionalreplica(s)
S: 2cf3883e974a709b7070d6c4d7c528d9fa813358 127.0.0.1:7385slots: (0 slots) slavereplicates 58980a81b49de31383802d7d21d6782881678922S: 03e01f82a935ed7f977af092e6a9cb71057df68a 127.0.0.1:7383slots: (0 slots) slavereplicatesc25675d021c377c91f860986025e3779d89ede79S: 6f7dd93973a8332305831e6b7b5e2c54c15b3b51 127.0.0.1:7381slots: (0 slots) slavereplicates 3f00a37d2c7a5ea40671c8f2934f66d059157a4aM: 3f00a37d2c7a5ea40671c8f2934f66d059157a4a 127.0.0.1:7384slots:10923-16383 (5461 slots) master
1 additionalreplica(s)
[OK]Allnodesagreeaboutslotsconfiguration.
>>> Checkforopenslots...
>>> Checkslotscoverage...
[OK]All 16384 slotscovered.
可以看到,所有的槽都已分配到节点上,大功告成!
微信公众号:万猫学社
微信扫描二维码
获得更多Java技术干货
![技术分享图片](/upload/getfiles/default/2022/10/30/20221030031437458.jpg)
原文:https://www.cnblogs.com/lonelyxmas/p/12874112.html
内容总结
以上是互联网集市为您收集整理的三分钟快速搭建分布式高可用的Redis集群全部内容,希望文章能够帮你解决三分钟快速搭建分布式高可用的Redis集群所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错,欢迎将互联网集市网站推荐给程序员好友。
内容备注
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 gblab@vip.qq.com 举报,一经查实,本站将立刻删除。
内容手机端
扫描二维码推送至手机访问。