碼上快樂

相關內容    簡體    繁體

redis入門(三)

本文轉載自   查看原文   2019-11-06 14:38   412    redis

目錄

redis入門(三)

目錄

redis入門(一)
redis入門(二)
redis入門(三)

前言

在前兩章介紹了Redis的一些常用的API與功能，在本章會對一些其他功能包括事務、腳本、Redis集群搭建工具以及集群動態擴容與故障轉移方式進行講解。

事務

在關系型數據庫，我們可以通過事務（transaction）的方式執行數據庫級別的原子性操作。在Redis中也提供簡單的事務功能。
Redis通過MULTI、EXEC、WATCH等命令來實現功能。它提供了一種將多個命令請求打包，然后一次性、按順序地執行多個命令的機制。
將一組需要一起執行的命令放到MULTI和EXEC兩個命令之間。MULTI命令代表事務開始，EXEC命令代表事務結束，它們之間的命令是原子順序執行的，在MULTI執行之后，的寫命令會直接返回QUEUE,當輸入EXEC后會將所有命令一起執行。

127.0.0.1:6379> multi
OK
127.0.0.1:6379> set a 1
QUEUED
127.0.0.1:6379> set b 2
QUEUED
127.0.0.1:6379> exec
1) OK
2) OK

若不使用事務時，客戶端發送的命令會立即被服務端執行。使用事務時，當客戶端發送的命令是EXEC、DISCARD、WATCH、MULTI命令之一時，服務器立即執行該命令，若不是上述四個命令，則會將命令加入到一個事務隊列中，然后向客戶端返回QUEUE回復。

由於開啟事務時命令不會直接被執行，而是直接入隊，因此Redis也不會立即發現運行時錯誤(比如hash的鍵使用string的命令執行)。因此當事務中某條命令執行失敗時，其他命令還是可以可以正常執行。因此使用EXEC和MULTI命令時Redis僅保證打包的若干條命令以原子性順序執行，而不保證事務中的命令全部執行成功。

127.0.0.1:6379> multi
OK
127.0.0.1:6379> set a 5
QUEUED
127.0.0.1:6379> hset b n 1
QUEUED
127.0.0.1:6379> set c 2
QUEUED
127.0.0.1:6379> exec
1) OK
2) (error) WRONGTYPE Operation against a key holding the wrong kind of value
3) OK

為了實現真正的事務，Redis引入了WATCH實現樂觀鎖。在MULTI命令執行之前，可以通過WATCH監控指定的鍵，若在EXEC提交事務之前，數據發生了變化，則事務執行失敗。

客戶端A

127.0.0.1:6379> WATCH a
OK
127.0.0.1:6379> multi
OK
127.0.0.1:6379> set b 1
QUEUED
127.0.0.1:6379> set a 6
QUEUED
127.0.0.1:6379> set c 3
QUEUED
127.0.0.1:6379> exec
(nil)
127.0.0.1:6379>

客戶端B

127.0.0.1:6379>  set a 7
OK

時間點

時間序號 客戶端A 客戶端B
1 WATCH a
2 multi
3 set b 1
4 set a 6
5 set c 3 set a 7
6 exec

客戶端B在客戶端A執行WATCH之后exec命令提交前執行了一條SET命令，客戶端A提交EXEC命令則會提交失敗。

原理

  1. 每個Redis數據庫都會有一個字典用於保存被監視的鍵，而字典的的值是一個鏈表。該列表記錄了所有監視該鍵的客戶端。因此Redis服務器就清楚的知道哪些鍵被哪些客戶端監視了。
  2. 當被監視的鍵被修改時，會觸發一個動作將被修改鍵的客戶端的該鍵的“臟數據”標志打開，表示該鍵的事務已經被破壞。
  3. 當客戶端提交事務的時候，服務器會判斷這個客戶端是否存在被監視的鍵打開了“臟數據”標志。若該標識被打開，則說明客戶端所以監視的鍵已經被修改，服務器就會拒絕事務提交。

Lua腳本

Redis從2.6版本開始引入對Lua腳本的支持。

Lua語言是在1993年由巴西一個大學研究小組發明，其設計目標是作為嵌入式程序移植到其他應用程序，它是由C語言實現的。

在redis服務器中內嵌了一個Lua環境，在redis服務啟動之前會對該Lua環境進行一些修改，確保Lua環境滿足redis服務器的需要。

安裝

在ubuntu可以通過以下命令下載

curl -R -O http://www.lua.org/ftp/lua-5.3.5.tar.gz
tar zxf lua-5.3.5.tar.gz
cd lua-5.3.5
make linux test

在我本地編譯Lua時報錯，可以參考編譯lua-5.3.5時出錯解決方法解決。

windows環境下安裝可以參考Lua在Windows下的安裝、配置、運行

由於redis中存在Lua環境，因此即使不在本地安裝Lua環境redis也是可以正常執行Lua腳本的也沒關系。

腳本命令

Redis提供了2個執行lua腳本的命令EVAL和EVALSHA。

  1. EVAL

    命令格式為eval 腳本內容 key個數 key列表 參數列表

    127.0.0.1:6379> eval ' return KEYS[1] .. ARGV[1]' 1 hello world
"helloworld"

    redis中key下標從1開始
    lua通過..鏈接兩個字符串

    我們也可以通redis-cli --eval直接執行腳本文件
    將return KEYS[1] .. ARGV[1]保存到文件中，命名為helloworld.lua
    通過--eval 腳本路徑 key列表 , 參數列表

    注意key列表和參數列表中間的,左右兩邊至少都要有一個空格，否則會報錯

    jake@Jake-PC:~/tool$ redis/src/redis-cli -p 26379 --eval lua-5.3.5/helloworld.lua hello , world
"helloworld"

  2. EVALSHA
    當腳本比較大時，每次發送腳本會占用一定的網絡帶寬。redis提供了講腳本緩存的方式減少腳本傳輸的開銷。首先需要通過script load命令將lua腳本加載到redis服務端，獲得到腳本的SHA1校驗和。然后通過evalsha命令執行校驗和的腳本。

    127.0.0.1:6379> script load 'return KEYS[1] .. ARGV[1]'
"dc8235f4444d746adf3374579406c129fb1f0f0a"
127.0.0.1:6379> evalsha dc8235f4444d746adf3374579406c129fb1f0f0a 1 hello world
"helloworld"

    每個被EVAL執行成功過的lua腳本，在lua環境都會有與該腳本對應的lua函數。函數名為f_加四十位的SHA1校驗和。

    function f_dc8235f4444d746adf3374579406c129fb1f0f0a()
    return KEYS[1] .. ARGV[1]
end

    我們還可以將腳本文件內容進行加載，通過evalsha獲取其SHA1校驗和。在linux環境下可以通過cat讀取文件內容，

    jake@Jake-PC:~/tool$ redis/src/redis-cli -a test1 script load "$(cat lua-5.3.5/helloworld.lua)"
"dc8235f4444d746adf3374579406c129fb1f0f0a"

    需要使用$()或``將cat lua-5.3.5/helloworld.lua包起來

    在windows環境下使用powershell可以通過Get-Content讀取文本

    PS C:\Users\Dm_ca> redis-cli -a test1 script load (Get-Content F:\Study\helloworld.lua)
"dc8235f4444d746adf3374579406c129fb1f0f0a"

  3. lua和redis互操作

    由於redis支持調用Lua腳本，而且Lua存在調用redis的API，這樣我們就可以將一系列Lua腳本以原子性的執行。在lua中可以通過redis.call(command,key[param1, param2…])調用redis命令。

    127.0.0.1:26379> eval 'return redis.call("set",KEYS[1],ARGV[1])' 1 "hello" , "redis"
OK

    對於redis中調用lua更多細節可以看EVAL script

  4. SCRIPT EXISTS
    通過該命令輸入SHA1校驗和可以檢查對應的腳本是否存在。

  5. SCRIPT FLUSH
    該命令用於清除服務器中所有和lua腳本相關的信息，並關閉當前lua環境重新創建一個新的lua環境

  6. SCRIPT KILL
    在每次執行lua腳本之前，redis服務器都會在lua環境中設置一個超時處理鈎子，若腳本執行超過配置的lua-time-limit的時長時，可以通過該命令停止當前的lua腳本執行。

    若當前lua腳本有寫入操作，則無法在使用該腳本停止執行。只能通過SHUTDOWN nosave命令關閉。

  7. 腳本復制
    當服務器開啟了主從復制時，寫命令的腳本也會復制到從服務器以確保從服務器的數據和主服務器一致。
    但是EVALSHA命令比較特殊，因為有可能主服務器加載了腳本，從服務器還沒有來的及同步。所以會存在主服務器字典中存在函數緩存但是從服務器不存在的情況。因此當Redis要求主服務器在傳播EVALSHA命令的時候，必須確保EVALSHA命令要執行的腳本已經被所有從服務器載入過，如果不能確保這一點的話，主服務器會將EVALSHA命令轉換成一個等價的EVAL命令，然后通過傳播EVAL命令來代替EVALSHA命令。

集群搭建工具

redis-trib.rb

在上一節我們講解了集群搭建的原理和過程。但是一步步都采取純手工搭建會不太方便，而且也容易出錯。在redis5.0以前可以通過redis-trib.rb進行集群搭建。它是Ruby實現Redis集群管理工具。

Ruby 是一種開源的面向對象程序設計的服務器端腳本語言，在 20 世紀 90 年代中期由日本的松本行弘（まつもとゆきひろ/Yukihiro Matsumoto）設計並開發。 Ruby 可運行於多種平台，如 Windows、MAC OS 和 UNIX 的各種版本。

下面我在windows平台上搭建集群。

  1. 准備ruby環境。
    在windows環境可以到RubyInstaller下載安裝。
    下載安裝完可以通過ruby -v確定是否安裝成功，以及當前ruby版本號。

    安裝完成會彈出一個框詢問安裝MSYS2,我們可以不需要。

  2. 安裝rubygem redis依賴：

    C:\Users\Dm_ca>gem install redis
Fetching redis-4.1.3.gem
Successfully installed redis-4.1.3
Parsing documentation for redis-4.1.3
Installing ri documentation for redis-4.1.3
Done installing documentation for redis after 2 seconds
1 gem installed

  3. 下載redis-trib.rb
    從github上下載3.2或4.0版本redis的redis-trib.rb代碼保存到文件redis-trib.rb中。

    4.0的redis-trib.rb做了一定的優化，盡可能讓主從處於不同的主機，同時當創建集群時若主從處於同一個ip也會進行提示。
    5.0的redis-trib.rb已經不支持了，redis-cli已經集成了redis-trib.rb的功能，當使用redis-trib.rb時會提示使用redis-cli cluster執行。

  4. 創建7579~75846個端口的配置文件，啟動6個redis服務,配置可以參考上一章的集群搭建配置

     start redis-server.exe redis-7579.conf
 start redis-server.exe redis-7580.conf
 start redis-server.exe redis-7581.conf
 start redis-server.exe redis-7582.conf
 start redis-server.exe redis-7583.conf
 start redis-server.exe redis-7584.conf

    為了方便暫時沒有作為windows服務啟動

  5. 通過命令ruby redis-trib.rb create --replicas <arg> host1:port1 ... hostN:portN命令創建集群，如ruby redis-trib.rb create --replicas 1 127.0.0.1:7579 127.0.0.1:7580 127.0.0.1:7581 127.0.0.1:7582 127.0.0.1:7583 127.0.0.1:7584

  6. F:\Study\redis\redis集群>ruby redis-trib.rb create --replicas 1 127.0.0.1:7579 127.0.0.1:7580 127.0.0.1:7581 127.0.0.1:7582 127.0.0.1:7583 127.0.0.1:7584
>>> Creating cluster
>>> Performing hash slots allocation on 6 nodes...
Using 3 masters:
127.0.0.1:7579
127.0.0.1:7580
127.0.0.1:7581
Adding replica 127.0.0.1:7583 to 127.0.0.1:7579
Adding replica 127.0.0.1:7584 to 127.0.0.1:7580
Adding replica 127.0.0.1:7582 to 127.0.0.1:7581
>>> Trying to optimize slaves allocation for anti-affinity
[WARNING] Some slaves are in the same host as their master
M: 4e4f38cce9a8dd1d7871e327e69c2a2556c90ad7 127.0.0.1:7579
slots:0-5460 (5461 slots) master
M: 426942a0f20ccbfa9d68c1b0809800c31d10c0ab 127.0.0.1:7580
slots:5461-10922 (5462 slots) master
M: 1149113de5253841923789e79c362ad745509f5c 127.0.0.1:7581
slots:10923-16383 (5461 slots) master
S: e7e172a7cba6e052d36d0a330225f48f3858fb72 127.0.0.1:7582
replicates 1149113de5253841923789e79c362ad745509f5c
S: 7fb04e281546d6f0d0e0a3a06b5f80b101eae00f 127.0.0.1:7583
replicates 4e4f38cce9a8dd1d7871e327e69c2a2556c90ad7
S: b872de59634dd245c0452b46832994bf04a6c08b 127.0.0.1:7584
replicates 426942a0f20ccbfa9d68c1b0809800c31d10c0ab
Can I set the above configuration? (type 'yes' to accept): yes
>>> Nodes configuration updated
>>> Assign a different config epoch to each node
>>> Sending CLUSTER MEET messages to join the cluster
Waiting for the cluster to join...
>>> Performing Cluster Check (using node 127.0.0.1:7579)
M: 4e4f38cce9a8dd1d7871e327e69c2a2556c90ad7 127.0.0.1:7579
slots:0-5460 (5461 slots) master
1 additional replica(s)
M: 1149113de5253841923789e79c362ad745509f5c 127.0.0.1:7581
slots:10923-16383 (5461 slots) master
1 additional replica(s)
S: 7fb04e281546d6f0d0e0a3a06b5f80b101eae00f 127.0.0.1:7583
slots: (0 slots) slave
replicates 4e4f38cce9a8dd1d7871e327e69c2a2556c90ad7
S: b872de59634dd245c0452b46832994bf04a6c08b 127.0.0.1:7584
slots: (0 slots) slave
replicates 426942a0f20ccbfa9d68c1b0809800c31d10c0ab
M: 426942a0f20ccbfa9d68c1b0809800c31d10c0ab 127.0.0.1:7580
slots:5461-10922 (5462 slots) master
1 additional replica(s)
S: e7e172a7cba6e052d36d0a330225f48f3858fb72 127.0.0.1:7582
slots: (0 slots) slave
replicates 1149113de5253841923789e79c362ad745509f5c
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

    由於我綁定ip沒修改，主從使用的都是127.0.0.1，因此會有警告提示 [WARNING] Some slaves are in the same host as their master。
    生產配置需要綁定實際的ip，同時將protected-mode設置為no，否則只允許本機訪問。
    查看集群狀態，可以看到已經存在三主三從，同時虛擬槽都自動分配了。

    F:\Study\redis\redis集群>redis-cli -p 7479 cluster nodes
0f6cf326c23af6399e6c3bfc374b04efbac015d3 127.0.0.1:7381@17381 master - 0 1572935809989 3 connected 10923-16383
96b98672b59fd85f8743fde5b354abdb38ee3b47 127.0.0.1:7479@17479 myself,slave 0f6cf326c23af6399e6c3bfc374b04efbac015d3 0 1572935809000 4 connected
231ee8d2ea76e1c7fe2031c127b8a055be87a3f4 127.0.0.1:7379@17379 master - 0 1572935810997 1 connected 0-5460
e4ce1b6f872c6f72f776d534ce1dc783a0cf3655 127.0.0.1:7480@17480 slave 231ee8d2ea76e1c7fe2031c127b8a055be87a3f4 0 1572935808000 1 connected
a9a4296b46db50459c5efb00d205fff671c2bfd0 127.0.0.1:7380@17380 master - 0 1572935810000 2 connected 5461-10922
dcae00d572280d795fcbc82b899f2f1a50f1397c 127.0.0.1:7481@17481 slave a9a4296b46db50459c5efb00d205fff671c2bfd0 0 1572935809000 6 connected

redis官方集群搭建

在redis5.0開始官方集成了redis-trib.rb。可以直接通過cluster create命令創建集群。

  1. 將六個redis服務啟動

    jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-server data/redis-7379.config
jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-server data/redis-7380.config
jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-server data/redis-7381.config
jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-server data/redis-7479.config
jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-server data/redis-7480.config
jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-server data/redis-7481.config

  2. 創建集群
    redis-cli --cluster create 127.0.0.1:7379 127.0.0.1:7380 127.0.0.1:7381 127.0.0.1:7479 127.0.0.1:7480 127.0.0.1:7481 --cluster-replicas 1
    在craete后面指定redis服務的ip和端口，最后通過--cluster-replicas表示每個主節點創建一個從節點。

    5.0的集群--cluster-replicas參數可以放到create后面也可以放到最后，但是4.0的集群--replicas需要放到create后面，不能放最后。

    jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-cli --cluster create 127.0.0.1:7379 127.0.0.1:7380 127.0.0.1:7381 127.0.0.1:7479 127.0.0.1:7480 127.0.0.1:7481 --cluster-replicas 1
>>> Performing hash slots allocation on 6 nodes...
Master[0] -> Slots 0 - 5460
Master[1] -> Slots 5461 - 10922
Master[2] -> Slots 10923 - 16383
Adding replica 127.0.0.1:7480 to 127.0.0.1:7379
Adding replica 127.0.0.1:7481 to 127.0.0.1:7380
Adding replica 127.0.0.1:7479 to 127.0.0.1:7381
>>> Trying to optimize slaves allocation for anti-affinity
[WARNING] Some slaves are in the same host as their master
M: 5591d1f47c15f919e6c492325bca0a385b581471 127.0.0.1:7379
slots:[0-5460] (5461 slots) master
M: 157bee0bd158456fc7e27eb165299ed33df769a0 127.0.0.1:7380
slots:[5461-10922] (5462 slots) master
M: eb63ce6942fd606a81113fe07622908931356057 127.0.0.1:7381
slots:[10923-16383] (5461 slots) master
S: 3eb412b810c4bd9a3c0f4ab1f4af8ee03d06d818 127.0.0.1:7479
replicates 5591d1f47c15f919e6c492325bca0a385b581471
S: 30c2792fe726a9174c07f7d2db5704f5e9ef3b66 127.0.0.1:7480
replicates 157bee0bd158456fc7e27eb165299ed33df769a0
S: 56250f10afe111ce206169588300b39a6447ed91 127.0.0.1:7481
replicates eb63ce6942fd606a81113fe07622908931356057
Can I set the above configuration? (type 'yes' to accept): yes
>>> Nodes configuration updated
>>> Assign a different config epoch to each node
>>> Sending CLUSTER MEET messages to join the cluster
Waiting for the cluster to join
.......
>>> Performing Cluster Check (using node 127.0.0.1:7379)
M: 5591d1f47c15f919e6c492325bca0a385b581471 127.0.0.1:7379
slots:[0-5460] (5461 slots) master
1 additional replica(s)
S: 30c2792fe726a9174c07f7d2db5704f5e9ef3b66 127.0.0.1:7480
slots: (0 slots) slave
replicates 157bee0bd158456fc7e27eb165299ed33df769a0
S: 56250f10afe111ce206169588300b39a6447ed91 127.0.0.1:7481
slots: (0 slots) slave
replicates eb63ce6942fd606a81113fe07622908931356057
S: 3eb412b810c4bd9a3c0f4ab1f4af8ee03d06d818 127.0.0.1:7479
slots: (0 slots) slave
replicates 5591d1f47c15f919e6c492325bca0a385b581471
M: 157bee0bd158456fc7e27eb165299ed33df769a0 127.0.0.1:7380
slots:[5461-10922] (5462 slots) master
1 additional replica(s)
M: eb63ce6942fd606a81113fe07622908931356057 127.0.0.1:7381
slots:[10923-16383] (5461 slots) master
1 additional replica(s)
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

    通過該命令可以自動集群握手並自動分配槽。

    jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-cli -p 7379 cluster nodes
30c2792fe726a9174c07f7d2db5704f5e9ef3b66 127.0.0.1:7480@17480 slave 157bee0bd158456fc7e27eb165299ed33df769a0 0 1572926323116 5 connected
5591d1f47c15f919e6c492325bca0a385b581471 127.0.0.1:7379@17379 myself,master - 0 1572926322000 1 connected 0-5460       
56250f10afe111ce206169588300b39a6447ed91 127.0.0.1:7481@17481 slave eb63ce6942fd606a81113fe07622908931356057 0 1572926320090 6 connected
3eb412b810c4bd9a3c0f4ab1f4af8ee03d06d818 127.0.0.1:7479@17479 slave 5591d1f47c15f919e6c492325bca0a385b581471 0 1572926322107 4 connected
157bee0bd158456fc7e27eb165299ed33df769a0 127.0.0.1:7380@17380 master - 0 1572926321098 2 connected 5461-10922
eb63ce6942fd606a81113fe07622908931356057 127.0.0.1:7381@17381 master - 0 1572926320000 3 connected 10923-16383

集群橫向擴展

由於使用redis-cli --cluster和redis-trib.rb命令格式大同小異，下面我都在linux下使用redis-cli --cluster執行命令。

  1. 添加兩個配置節點分別為7382和7482用於集群擴展。

  2. 啟動新的節點

    jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-server data/redis-7382.config
jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-server data/redis-7482.config

  3. 添加新的主節點到集群,使用--cluster add-node 新節點地址 集群節點地址添加新的節點

    jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-cli --cluster add-node 127.0.0.1:7382 127.0.0.1:7379
>>> Adding node 127.0.0.1:7382 to cluster 127.0.0.1:7379
>>> Performing Cluster Check (using node 127.0.0.1:7379)
M: 231ee8d2ea76e1c7fe2031c127b8a055be87a3f4 127.0.0.1:7379
slots:[0-5460] (5461 slots) master
1 additional replica(s)
S: dcae00d572280d795fcbc82b899f2f1a50f1397c 127.0.0.1:7481
slots: (0 slots) slave
replicates a9a4296b46db50459c5efb00d205fff671c2bfd0
S: 96b98672b59fd85f8743fde5b354abdb38ee3b47 127.0.0.1:7479
slots: (0 slots) slave
replicates 0f6cf326c23af6399e6c3bfc374b04efbac015d3
M: 0f6cf326c23af6399e6c3bfc374b04efbac015d3 127.0.0.1:7381
slots:[10923-16383] (5461 slots) master
1 additional replica(s)
M: a9a4296b46db50459c5efb00d205fff671c2bfd0 127.0.0.1:7380
slots:[5461-10922] (5462 slots) master
1 additional replica(s)
S: e4ce1b6f872c6f72f776d534ce1dc783a0cf3655 127.0.0.1:7480
slots: (0 slots) slave
replicates 231ee8d2ea76e1c7fe2031c127b8a055be87a3f4
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.
>>> Send CLUSTER MEET to node 127.0.0.1:7382 to make it join the cluster.
[OK] New node added correctly.

  4. 添加新的從節點到集群,使用--cluster add-node --cluster-slave --cluster-master-id 主節點id 新的節點地址 集群節點地址添加新的節點

    jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-cli --cluster add-node --cluster-slave --cluster-master-id d683040a8654a9ce994365d988ded03c03393135 127.0.0.1:7482 127.0.0.1:7379
>>> Adding node 127.0.0.1:7482 to cluster 127.0.0.1:7379
>>> Performing Cluster Check (using node 127.0.0.1:7379)
M: 231ee8d2ea76e1c7fe2031c127b8a055be87a3f4 127.0.0.1:7379
slots:[0-5460] (5461 slots) master
1 additional replica(s)
S: dcae00d572280d795fcbc82b899f2f1a50f1397c 127.0.0.1:7481
slots: (0 slots) slave
replicates a9a4296b46db50459c5efb00d205fff671c2bfd0
S: 96b98672b59fd85f8743fde5b354abdb38ee3b47 127.0.0.1:7479
slots: (0 slots) slave
replicates 0f6cf326c23af6399e6c3bfc374b04efbac015d3
M: 0f6cf326c23af6399e6c3bfc374b04efbac015d3 127.0.0.1:7381
slots:[10923-16383] (5461 slots) master
1 additional replica(s)
M: a9a4296b46db50459c5efb00d205fff671c2bfd0 127.0.0.1:7380
slots:[5461-10922] (5462 slots) master
1 additional replica(s)
S: e4ce1b6f872c6f72f776d534ce1dc783a0cf3655 127.0.0.1:7480
slots: (0 slots) slave
replicates 231ee8d2ea76e1c7fe2031c127b8a055be87a3f4
M: d683040a8654a9ce994365d988ded03c03393135 127.0.0.1:7382
slots: (0 slots) master
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.
>>> Send CLUSTER MEET to node 127.0.0.1:7482 to make it join the cluster.
Waiting for the cluster to join

>>> Configure node as replica of 127.0.0.1:7382.

    現在我們新的兩個redis服務已經加入到集群中，通過cluster nodes查看當前集群節點。

    jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-cli -p 7382 cluster nodes
231ee8d2ea76e1c7fe2031c127b8a055be87a3f4 127.0.0.1:7379@17379 master - 0 1572942882135 1 connected 0-5460
4b3a42f105e56b00d5b55eec9877d759b52f17e3 127.0.0.1:7482@17482 slave d683040a8654a9ce994365d988ded03c03393135 0 1572942881000 0 connected
0f6cf326c23af6399e6c3bfc374b04efbac015d3 127.0.0.1:7381@17381 master - 0 1572942883151 3 connected 10923-16383
a9a4296b46db50459c5efb00d205fff671c2bfd0 127.0.0.1:7380@17380 master - 0 1572942879000 2 connected 5461-10922
dcae00d572280d795fcbc82b899f2f1a50f1397c 127.0.0.1:7481@17481 slave a9a4296b46db50459c5efb00d205fff671c2bfd0 0 1572942881000 2 connected
d683040a8654a9ce994365d988ded03c03393135 127.0.0.1:7382@17382 myself,master - 0 1572942880000 0 connected
96b98672b59fd85f8743fde5b354abdb38ee3b47 127.0.0.1:7479@17479 slave 0f6cf326c23af6399e6c3bfc374b04efbac015d3 0 1572942881120 3 connected
e4ce1b6f872c6f72f776d534ce1dc783a0cf3655 127.0.0.1:7480@17480 slave 231ee8d2ea76e1c7fe2031c127b8a055be87a3f4 0 1572942879000 1 connected

  5. 添加節點完成，此時我們需要重新分片，將虛擬槽分配給新的節點。在redis集群中可以使用2個命令進行槽分配。--cluster reshard和--cluster rebalance。當我們需要集群擴容時，一般都希望槽可以平均分配，此時可以使用該命令;rebalance用於平衡集群節點虛擬槽數量，自動重新平均分配可以使用該命令。src/redis-cli --cluster rebalance 127.0.0.1:7379 --cluster-use-empty-masters，若沒有添加cluster-use-empty-masters空槽的redis服務不會加入分配，由於我們需要進行集群擴容，因此需要加上該參數。

    參數 說明
    --cluster-weight <node1=w1...nodeN=wN> 指定集群節點的權重
    --cluster-use-empty-masters 設置可以讓沒有分配slot的主節點參與，默認不允許
    --cluster-timeout 設置migrate命令的超時時間
    --cluster-pipeline 定義cluster getkeysinslot命令一次取出的key數量，不傳的話使用默認值為10
    --cluster-threshold 遷移的slot閾值超過threshold，執行rebalance操作
    --cluster-replace 是否直接replace到目標節點，若節點存在重復key時，不指定該參數會報錯。 
    jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-cli --cluster rebalance 127.0.0.1:7379 --cluster-use-empty-masters
>>> Performing Cluster Check (using node 127.0.0.1:7379)
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.
>>> Rebalancing across 4 nodes. Total weight = 4.00
Moving 1366 slots from 127.0.0.1:7380 to 127.0.0.1:7382
######################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################
Moving 1365 slots from 127.0.0.1:7381 to 127.0.0.1:7382
#####################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################
Moving 1365 slots from 127.0.0.1:7379 to 127.0.0.1:7382
#####################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################

關於集群詳細參數解釋可以參考redis cluster 集群搭建(增、刪、改、查)

故障轉移

當有某台redis服務不再使用或出現故障時，我們需要進行故障遷移。在集群搭建時我們需要進行集群握手，握手完成后進行虛擬槽分配。而在故障轉移的步驟也相反，我們首先需要進行虛擬槽遷移，虛擬槽遷移時會將數據進行遷移。遷移完成后將故障節點從節點中以前。這一系列故障遷移動作都是在線的，不會對redis集群的服務造成影響。
我們可以通過--cluster reshard將該節點下的所有虛擬槽遷移到新的節點上。

參數 說明
--cluster-from 需要從哪些源節點上遷移slot，可從多個源節點完成遷移，以逗號隔開，傳遞的是節點的node id，還可以直接傳遞--from all，這樣源節點就是集群的所有節點，不傳遞該參數的話，則會在遷移過程中提示用戶輸入
--cluster-to slot需要遷移的目的節點的node id，目的節點只能填寫一個，不傳遞該參數的話，則會在遷移過程中提示用戶輸入
--cluster-slots 需要遷移的slot數量，不傳遞該參數的話，則會在遷移過程中提示用戶輸入。
--cluster-yes 指定遷移時的確認輸入
--cluster-timeout 設置migrate命令的超時時間
--cluster-pipeline 定義cluster getkeysinslot命令一次取出的key數量，不傳的話使用默認值為10
--cluster-replace 是否直接replace到目標節點，若節點存在重復key時，不指定該參數會報錯。

  1. 准備一個新的redis服務7383(也可以將這些虛擬槽遷移到其他的主上)。

  2. 啟動服務src/redis-server data/redis-7383.config

  3. 執行src/redis-cli --cluster add-node 127.0.0.1:7383 127.0.0.1:7379，將7382設置為主庫加入到集群。

  4. 開始槽遷移，src/redis-cli --cluster reshard 127.0.0.1:7379 --cluster-from 0a81b56b44e7974112534a596c9e2ef3ed8b4603 --cluster-to 756eb55a943453f87b49191f35c88271c650fb91。

     jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-cli --cluster reshard 127.0.0.1:7379 --cluster-from 0a81b56b44e7974112534a596c9e2ef3ed8b4603 --cluster-to 756eb55a943453f87b49191f35c88271c650fb91
 >>> Performing Cluster Check (using node 127.0.0.1:7379)
 M: 9bc411a648c4a0dc1ff8644973ded10c21857109 127.0.0.1:7379
 slots:[1365-5460] (4096 slots) master
 1 additional replica(s)
 S: d14a7d117eff2798e3ca5aa8a9afc88a0dbbdab1 127.0.0.1:7482
 slots: (0 slots) slave
 replicates 0a81b56b44e7974112534a596c9e2ef3ed8b4603
 M: 3d0c5deba0cd2b441d04cf7abe9dbd7af36b1af3 127.0.0.1:7380
 slots:[6827-10922] (4096 slots) master
 1 additional replica(s)
 M: 0a81b56b44e7974112534a596c9e2ef3ed8b4603 127.0.0.1:7382
 slots:[0-1364],[5461-6826],[10923-12287] (4096 slots) master
 1 additional replica(s)
 S: 7d2ab32bff9437b4fdd65ffe4011715569a45362 127.0.0.1:7481
 slots: (0 slots) slave
 replicates 3d0c5deba0cd2b441d04cf7abe9dbd7af36b1af3
 M: e5fb7a9da406787dffd80f847102e4405eaf013d 127.0.0.1:7381
 slots:[12288-16383] (4096 slots) master
 1 additional replica(s)
 M: 756eb55a943453f87b49191f35c88271c650fb91 127.0.0.1:7383
 slots: (0 slots) master
 S: 06c1040b46e733cda47265ec64d56fec86459237 127.0.0.1:7480
 slots: (0 slots) slave
 replicates 9bc411a648c4a0dc1ff8644973ded10c21857109
 S: da488721d9d3271b557b1dcbf1e1dba48df7a856 127.0.0.1:7479
 slots: (0 slots) slave
 replicates e5fb7a9da406787dffd80f847102e4405eaf013d
 [OK] All nodes agree about slots configuration.
 >>> Check for open slots...
 >>> Check slots coverage...
 [OK] All 16384 slots covered.
 How many slots do you want to move (from 1 to 16384)? 4097

 Ready to move 4097 slots.
 Source nodes:
     M: 0a81b56b44e7974112534a596c9e2ef3ed8b4603 127.0.0.1:7382
     slots:[0-1364],[5461-6826],[10923-12287] (4096 slots) master
     1 additional replica(s)
 Destination node:
     M: 756eb55a943453f87b49191f35c88271c650fb91 127.0.0.1:7383
     slots: (0 slots) master
 Resharding plan:
     Moving slot 0 from 0a81b56b44e7974112534a596c9e2ef3ed8b4603
     Moving slot 1 from 0a81b56b44e7974112534a596c9e2ef3ed8b4603
     ...
     Moving slot 12286 from 127.0.0.1:7382 to 127.0.0.1:7383:
     Moving slot 12287 from 127.0.0.1:7382 to 127.0.0.1:7383:

    當沒有輸入槽的數量，會提示需要遷移的槽數量。

  5. 執行src/redis-cli -p 7482 cluster REPLICATE 756eb55a943453f87b49191f35c88271c650fb91,將7382的從庫7482設置為7383的從。

  6. 現在就可以將7382的庫去除了。集群會移除該節點，同時該節點也會關閉。

    jake@Jake-PC:~/tool/demo/redis-cluster/redis$ src/redis-cli --cluster del-node 127.0.0.1:7379 0a81b56b44e7974112534a596c9e2ef3ed8b4603
 >>> Removing node 0a81b56b44e7974112534a596c9e2ef3ed8b4603 from cluster 127.0.0.1:7379
 >>> Sending CLUSTER FORGET messages to the cluster...
 >>> SHUTDOWN the node.

redis管理

目前我們可以使用redis自帶的客戶端對集群進行動態橫向擴展與故障遷移。當redis服務較少時可以使用這種方式，但是當redis服務較多時，通過手動橫向擴展與故障遷移的方式的工作量就非常大了，同時我們可能還需要多大量的redis服務進行監控與預警，這時候我們可以寫一些腳本來方便運維，甚至可以使用專業的redis管理平台提高生產力。對於redis管理平台暫時沒有研究，知名的有redislive、cachecolud等。有興趣的同學可以自己看一下。

參考文檔

  1. redis
  2. redis開發與運維
  3. 編譯lua-5.3.5時出錯解決方法
  4. redis-5.0.0基於Redis官方工具的集群搭建（排坑指南，從安裝Redis開始）
  5. Windows下 搭建redis集群
  6. redis cluster 集群搭建(增、刪、改、查)
  7. Linux—shell中\((( ))、\)( )、``與${ }的區別
  8. Redis Cluster & HDFS & ClustrixDB Reshard/Rebalance
  9. Redis實用監控工具一覽

20191127212134.png
微信掃一掃二維碼關注訂閱號傑哥技術分享
出處：https://www.cnblogs.com/Jack-Blog/p/11804743.html
作者：傑哥很忙
本文使用「CC BY 4.0」創作共享協議。歡迎轉載，請在明顯位置給出出處及鏈接。


免責聲明！

本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。



猜您在找 redis入門(一) redis 入門 Redis入門 Redis入門 Redis學習二：Redis入門介紹 Redis入門--1.安裝Redis redis學習入門 Redis 3.2.100 Redis學習總結(一)--Redis入門 【Redis】Redis學習（一） Redis初步入門 redis入門筆記(1)
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM