K8S實戰（七）| 有狀態應用之 MySQL 集群

前言

本節使用 StatefulSet 控制器部署一個 MySQL 集群，然后進行宕機測試，觀察集群是否可以正常恢復使用並且不丟失數據。

實現的集群有如下特征：

1. 是一個主從復制的 MySQL 集群
2. 1 個主節點， 多個從節點
3. 從節點能夠水平擴展
4. 所有的寫操作，只能在主節點上執行
5. 讀操作可以在所有節點上執行

更新歷史

• 20200615 - 初稿 - 左程立
• 原文地址 - https://blog.zuolinux.com/2020/06/15/statefulset-mysql-cluster.html

所需服務資源

所需資源為：

• 一個 ConfigMap
• 兩個 Service
• 一個 StatefulSet

ConfigMap

kubectl apply -f https://k8s.io/examples/application/mysql/mysql-configmap.yaml

Service

kubectl apply -f https://k8s.io/examples/application/mysql/mysql-services.yaml

MySQL StatefulSet

wget https://k8s.io/examples/application/mysql/mysql-statefulset.yaml

修改 mysql-statefulset.yaml， 使用上一節創建的 NFS 動態存儲卷

  volumeClaimTemplates:
  - metadata:
      name: data
      annotations:
        volume.beta.kubernetes.io/storage-class: managed-nfs-storage
    spec:
      accessModes: ["ReadWriteOnce"]
      resources:
        requests:
          storage: 1Gi

創建 MySQL 有狀態應用

kubectl apply mysql-statefulset.yaml

寫入數據測試

寫入數據

kubectl run mysql-client --image=mysql:5.7 -i --rm --restart=Never --  mysql -h mysql-0.mysql <<EOFCREATE DATABASE test;
CREATE TABLE test.messages (message VARCHAR(250));
INSERT INTO test.messages VALUES ('hello');
EOF

檢查從機是否可以讀取到數據

kubectl run mysql-client --image=mysql:5.7 -i -t --rm --restart=Never --  mysql -h mysql-read -e "SELECT * FROM test.messages"

循環讀取，可以看到server-id不斷變化，說明每次從不同機器讀取數據

kubectl run mysql-client-loop --image=mysql:5.7 -i -t --rm --restart=Never --  bash -ic "while sleep 1; do mysql -h mysql-read -e 'SELECT @@server_id,NOW()'; done"

宕機測試

將 mysql-2 模擬宕機

kubectl exec mysql-2 -c mysql -- mv /usr/bin/mysql /usr/bin/mysql.off

從循環讀取 SELECT @@server_id 中將看不到 server-id 102 服務器的記錄

kubectl run mysql-client-loop --image=mysql:5.7 -i -t --rm --restart=Never --  bash -ic "while sleep 1; do mysql -h mysql-read -e 'SELECT @@server_id,NOW()'; done"

恢復節點 mysql-2 后，service-id 102 將出現在循環記錄中

kubectl exec mysql-2 -c mysql -- mv /usr/bin/mysql.off /usr/bin/mysql

擴展從節點數量

[root@master01 ~]# kubectl scale statefulset mysql  --replicas=5
statefulset.apps/mysql scaled

[root@master01 ~]# kubectl get pods -l app=mysql --watch
NAME      READY   STATUS     RESTARTS   AGE
mysql-0   2/2     Running    0          29m
mysql-1   2/2     Running    0          28m
mysql-2   2/2     Running    1          24m
mysql-3   0/2     Init:1/2   0          9s
mysql-3   1/2     Running           0          44s
mysql-3   2/2     Running           1          55s
......
mysql-4   0/2     Pending           0          3s
mysql-4   0/2     Init:0/2          0          3s
mysql-4   0/2     Init:1/2          0          7s
mysql-4   0/2     PodInitializing   0          43s
mysql-4   1/2     Running           0          46s
mysql-4   1/2     Running           1          51s
mysql-4   2/2     Running           1          56s

[root@master01 ~]# kubectl get pod -l app=mysql
NAME      READY   STATUS    RESTARTS   AGE
mysql-0   2/2     Running   0          32m
mysql-1   2/2     Running   0          31m
mysql-2   2/2     Running   1          28m
mysql-3   2/2     Running   1          3m22s
mysql-4   2/2     Running   1          2m27s

擴容成功后，server-id 103/104 也將出現在 select @@server_id 的執行結果中。

基本原理

首先通過 ConfigMap 引用提前准備的 MySQL 主節點配置文件和 從節點配置文件。

然后定義了兩個 Service，一個是 mysql，一個是 mysql-read。

第一個 MySQL Service 是 headless service，不會做負載均衡和流量分配，只會給每個 Pod 分配一個 DNS 名稱，由於 StatefulSet 管理的 Pod 名稱是固定的，所以 Pod DNS 名稱也會是固定的。

這樣程序可以找到 MySQL 主服務器 mysql-0.mysql，進行數據的寫入。

第二個 Service 是一個正常 Service，用於提供讀操作。將讀操作代理到后端全部 Pod。

下面就可以進行 MySQL 的自動安裝了。

由於 Pod 名稱是固定的，所以始終將 mysql-0 作為主節點，Pod-1 -2 -3 為從節點。

當一個 Pod 啟動之前，它會執行兩個初始化容器，第一個 init 容器用來拷貝自己要使用的配置文件，第二個 init 容器用來從前一個 Pod 中克隆數據，當然如果是主節點就可以跳過克隆這一步了。

最后就可以啟動各自的應用容器了，而 slave 容器需要一個掛斗容器 xtrabackup 來配合進行數據的初始化。

結束語

今天通過 K8S 搭建了 mysql 主從，將數據進行了持久化存儲。

Pod 宕機后能夠自動恢復原有秩序，同時原有數據不會丟失。

聯系我

微信公眾號：zuolinux_com