0.引言
公司開發需要用到redis,雖然有運維自動搭建,還是記錄下如何搭建redis集群和Sentinel。
采用的是vagrant虛擬機+docker的方式進行搭建。
搭建思路:
首先是借鑒下其他博客的docker搭建步驟,直接搭建。主要是:
https://blog.csdn.net/qq_40369435/article/details/91357479
然后就是記錄搭建過程中遇到的問題,以及如何一步步解決的。
最后測試。
搭建的集群是:
redis集群:1主2從
sentinel集群:3台
1.基礎安裝
注:基礎安裝是根據已有博客搭建的,有很多問題,不是最終步驟。最終步驟在第三部分總結給出,當然也可能有問題,畢竟各個環境可能不同。
(1)在虛擬機中安裝docker-compose
默認已經安裝過了docker。
1)拉取安裝包
curl -L "https://get.daocloud.io/docker/compose/releases/download/1.27.3/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
2)給docker-compose增加執行權限
chmod +x /usr/local/bin/docker-compose
注:最開始安裝docker-compose是先安裝python的pip,再通過pip安裝docker-compose,但升級pip時問題太多,干脆直接找個拉取源代碼的直接下載。慚愧之前搞了那么久的python。
(2)搭建redis集群
1)新建docker-compose.yml文件
version: '2.0' services: master: image: redis container_name: redis-master ports: - 6379:6379 slave1: image: redis container_name: redis-slave-1 ports: - 6380:6379 command: redis-server --slaveof redis-master 6379 slave2: image: redis container_name: redis-slave-2 ports: - 6381:6379 command: redis-server --slaveof redis-master 6379
2)啟動redis集群
docker-compose up -d
啟動后,
docker ps; # 查看容器啟動情況
如果容器啟動不成功,docker ps不會列出正在運行的容器,需要查看已經啟動過的容器
docker ps -a; #查看啟動過的容器
這個時候,如果啟動失敗,通過docker ps -a知道啟動失敗的容器id,再通過查看日志的方式找出錯誤:
docker logs 容器id(一部分即可); # 查看容器的日志
docker logs -f 容器id(一部分即可); # 動態查看容器的日志
(3)搭建sentinel集群
1)sentinel配置文件
一共三台sentinel,准備三份配置文件,分別是sentinel1.conf、sentinel2.conf和sentinel3.conf,將這三份配置文件放在
/usr/local/etc/redis/sentinel.conf目錄下。
port 26379 dir "/tmp" # 自定義集群名,其中 127.0.0.1 為 redis-master 的 ip,6379 為 redis-master 的端口,2 為最小投票數(因為有 3 台 Sentinel 所以可以設置成 2) sentinel deny-scripts-reconfig yes #自己的虛擬機ip地址 sentinel monitor mymaster 192.168.165.10 6379 2 sentinel config-epoch mymaster 0 sentinel leader-epoch mymaster 0 # Generated by CONFIG REWRITE(后面這3個注釋掉了) # sentinel known-replica mymaster 172.26.0.2 6379 # sentinel known-replica mymaster 172.26.0.3 6379 # sentinel current-epoch 0
同樣的內容,復制到sentinel2.conf和sentinel3.conf'
2)docker-compose.yml
version: '2.0' services: sentinel1: image: redis container_name: redis-sentinel-1 ports: - 26379:26379 command: redis-sentinel /usr/local/etc/redis/sentinel.conf volumes: - ./sentinel1.conf:/usr/local/etc/redis/sentinel.conf sentinel2: image: redis container_name: redis-sentinel-2 ports: - 26380:26379 command: redis-sentinel /usr/local/etc/redis/sentinel.conf volumes: - ./sentinel2.conf:/usr/local/etc/redis/sentinel.conf sentinel3: image: redis container_name: redis-sentinel-3 ports: - 26381:26379 command: redis-sentinel /usr/local/etc/redis/sentinel.conf volumes: - ./sentinel3.conf:/usr/local/etc/redis/sentinel.conf
docker-compose.yml文件也放在/usr/local/etc/redis/sentinel.conf目錄下
3)啟動sentinel集群
docker-compose up -d
redis集群和sentinel集群按照上面步驟,可以通過docker運行,以為已經搭建成功,也可以連接到redis集群中。測試在主庫中寫,兩個從庫中都可以讀出來,從庫也不可以寫內容。但是測試主庫下線時,此時2個從庫並沒有有一個切換到主庫。開始進行找錯。
2.找問題與解決
主要問題:
redis集群的主從是成功的,但故障遷移時是失敗的。
先看看測試故障遷移的方法:
1)進入redis-master容器
docker exec -it redis-master /bin/bash
2)進入redis環境
redis-cli -p 6379
3)查看redis角色
info
查看,知道redis-master是master節點。同樣步驟查看redis-slave-1和redis-slave-2,都是slave節點
4)停掉master節點
docker stop redis-master
再去查看redis-slave-1和redis-slave-2,發現這兩個節點還是slave,並沒有一個成為master,表示sentinel故障轉移失敗。
注:之前沒有找到查看sentinel日志的方法(docker logs -f 容器id),在master節點下線時直接查看sentinel的日志可以直觀看到redis的下線、選舉和當選主節點的過程。
初步認為原因可能是sentinel監控節點失敗的原因:
查看過程:
1)進入到redis-sentinel-1節點,查看節點信息
docker exec -it redis-sentinel-1/bin/bash redis-cli -p 26379 sentinel master mymaster sentinel slaves mymaster
2)發現redis-slave節點都下線了
但實際redis-slave節點是在線的,表明是sentinel認為redis-slave下線 了。可能是之間網絡不通的原因導致的。
此時,查找其他網頁,發現可以看到sentinel的logs。
查看sentinel的日志:
docker logs redis-sentinel-1
有:
看日志,確實在sentinel啟動后,redis-slave是下線了。
嘗試1:
最開始看到WARN的信息:Device or resource busy,以為是設備被占用(conf文件會被sentinel再寫入),就往這個方向解決:
出現這個Warning,原因可能是:不能修改配置文件,容器中的配置文件是掛載到外部的。(一般修改文件都是新生成一個然后替換原來的),就會報Device or resource busy.----->不是主要原因(因為發現其他可以正常故障遷移的也會有這個warning信息)
嘗試2:
萬能的防火牆、端口原因
檢查本地的防火牆,發現防火牆是關閉的,不是我這邊下線的原因。
嘗試3:
sentinel.conf配置文件問題,沒有開啟參數
https://blog.csdn.net/weixin_30649859/article/details/97698005
按照上面思路解決,仍然行不通
嘗試4:
找到關鍵性原因:sentinel和slave不能通信,導致sentinel認為slave下線了---》主動下線
https://blog.csdn.net/woluoyifan/article/details/84252705
https://www.cnblogs.com/erbiao/archive/2018/06/08/9156215.html
上面特別強調docker的1:1端口映射。但沒有給出具體的解決方案。
繼續找尋解決方法:
https://cloud.tencent.com/developer/article/1343834
https://www.cnblogs.com/JulianHuang/p/12650721.html
這篇文章具有決定性幫助作用,首先他考慮到了docker環境下端口映射問題,其次他考慮到了網絡問題。
按照這篇文章從新搭建下,發現最后還是出現了redis-slave在sentinel一啟動就下線的問題。
看評論,應該是配置文件中sentinel端口都一樣,實際應該每個配置文件都不同的。按照這種方法進行修改,不幸的是,還是失敗。
繼續再這篇博客的思路上思考,里面提出了network和redis_defalut的網絡配置,將重心放到解決這個上面。
最開始在配置文件中配置這個,啟動redis-sentinel集群會報錯:
按照上面的提示,進行docker network create redis_default操作,應該是創建這個網絡,就可以成功啟動sentinel集群。
按照道理說,redis-master中應該有自己的network信息的,可能是這篇博主的network信息是redis_default和我機器上的不同,不然怎么會又要創建一個。按照這個思路,進入到redis-master容器中,查看信息。
docker inspect redis-master
發現:
確實,我的機器上加redisconf_default
到這算是有個突破口了。
根據這幾輪的探索,主要針對最后一篇博客做了如下幾個點的修改:
1)redis集群的端口對應是:
6379:6379 6380:6379 6381:6379
這樣在commond中 master的端口才是6379,在sentinel.conf中的端口也是6379。
2)sentinel文件夾的docker-compose.yml
networks:
default:
external:
name: redisconf_default
3)sentinel.conf
sentinel1.conf、sentinel2.conf和sentinel3.conf的port都不相同,分別是26379、26380和26381 。
sentinel monitor的ip地址是master節點的dockerip地址,port就是master的port。
經過上面的修改,發現故障遷移是成功的。
3.最終安裝步驟
下面是適合我的機器的最終安裝步驟,經過測試可以行的通。但不能保證完全沒有問題。有問題就解決唄。
(1)安裝docker-compose
curl -L "https://get.daocloud.io/docker/compose/releases/download/1.27.3/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose chmod +x /usr/local/bin/docker-compose
(2)搭建redis集群
1)在/usr/local/etc/redis/redis.conf目錄下,新建docker-compose.yml
version: '3' services: master: image: redis container_name: redis-master command: redis-server --requirepass redis_pwd --masterauth redis_pwd ports: - 6379:6379 slave1: image: redis container_name: redis-slave-1 ports: - 6380:6380 command: redis-server --slaveof redis-master 6379 --requirepass redis_pwd --masterauth redis_pwd slave2: image: redis container_name: redis-slave-2 ports: - 6381:6381 command: redis-server --slaveof redis-master 6379 --requirepass redis_pwd --masterauth redis_pwd
--requirepass:指定redis登陸的密碼。redis集群指定了,sentinel也指定相同的,否則都不指定(沒驗證過)
2)docker-compose up -d啟動redis集群
3)查看redis-master節點的docker-ip和network name
docker inspect redis-master
關鍵的是上面的redisconf_default和IPAddress
(2)搭建sentinel集群
1)在/usr/local/etc/redis/sentinel.conf目錄下,新建docker-compose.yml
具體內容為:
version: '3' services: sentinel1: image: redis container_name: redis-sentinel-1 ports: - 26379:26379 command: redis-sentinel /usr/local/etc/redis/sentinel.conf volumes: - ./sentinel1.conf:/usr/local/etc/redis/sentinel.conf sentinel2: image: redis container_name: redis-sentinel-2 ports: - 26380:26380 command: redis-sentinel /usr/local/etc/redis/sentinel.conf volumes: - ./sentinel2.conf:/usr/local/etc/redis/sentinel.conf sentinel3: image: redis container_name: redis-sentinel-3 ports: - 26381:26381 command: redis-sentinel /usr/local/etc/redis/sentinel.conf volumes: - ./sentinel3.conf:/usr/local/etc/redis/sentinel.conf networks: default: external: name: redisconf_default
2)在/usr/local/etc/redis/sentinel.conf目錄下,新建sentinel1.conf、sentinel2.conf和sentinel3.conf
sentinel1.conf
port 26379 dir /tmp sentinel monitor mymaster 172.20.0.3 6379 2 sentinel auth-pass mymaster redis_pwd sentinel down-after-milliseconds mymaster 30000 sentinel parallel-syncs mymaster 1 sentinel failover-timeout mymaster 180000 sentinel deny-scripts-reconfig yes
sentinel2.conf的port為26380,sentinel3.conf的port為26381,其他都一樣
3)docker-compose up -d啟動sentinel集群
4.測試
sentinel啟動之后,通過docker logs -f sentinel容器id看日志:
之前mymaster的192.168網段(錯誤的配置下)變成和現在slave的同網段了,就可以ping通了,后面沒有+sdown slave的信息。就會一直阻塞在這,等待新的操作記錄日志。
此時在另一個窗口關閉master節點:docker stop redis-master
日志為:
進入到sentinel的redis-cli中,sentinel slaves mymaster查看,slave都啟動的
至此,搭建集群應該成功,有問題再記錄解決。