NFS動態分配PV理解StorageClass-NFS不支持擴容

什么是StorageClass

Kubernetes提供了一套可以自動創建PV的機制,即:Dynamic Provisioning.而這個機制的核心在於:StorageClass這個API對象.
StorageClass對象會定義下面兩部分內容:
PV的屬性.比如,存儲類型,Volume的大小等.
創建這種PV需要用到的存儲插件

為什么需要StorageClass

在一個大規模的Kubernetes集群里,可能有成千上萬個PVC,這就意味着運維人員必須實現創建出這個多個PV,此外,隨着項目的需要,會有新的PVC不斷被提交,那么運維人員就需要不斷的添加新的,滿足要求的PV,否則新的Pod就會因為PVC綁定不到PV而導致創建失敗.而且通過 PVC 請求到一定的存儲空間也很有可能不足以滿足應用對於存儲設備的各種需求
而且不同的應用程序對於存儲性能的要求可能也不盡相同，比如讀寫速度、並發性能等，為了解決這一問題，Kubernetes 又為我們引入了一個新的資源對象：StorageClass，通過 StorageClass 的定義，管理員可以將存儲資源定義為某種類型的資源，比如快速存儲、慢速存儲等，用戶根據 StorageClass 的描述就可以非常直觀的知道各種存儲資源的具體特性了，這樣就可以根據應用的特性去申請合適的存儲資源了。

StorageClass運行原理及部署流程

要使用 StorageClass，我們就得安裝對應的自動配置程序，比如我們這里存儲后端使用的是 nfs，那么我們就需要使用到一個 nfs-client 的自動配置程序，我們也叫它 Provisioner，這個程序使用我們已經配置好的 nfs 服務器，來自動創建持久卷，也就是自動幫我們創建 PV。

1.自動創建的 PV 以${namespace}-${pvcName}-${pvName}這樣的命名格式創建在 NFS 服務器上的共享數據目錄中
2.而當這個 PV 被回收后會以archieved-${namespace}-${pvcName}-${pvName}這樣的命名格式存在 NFS 服務器上。

原理及部署流程

 創建StorageClass

1.創建NFS共享服務

當前環境NFS server及共享目錄信息

IP: 172.16.155.227
Export PATH: /data/volumes/

2、配置account以及相關權限

apiVersion: v1
kind: ServiceAccount
metadata:
  name: nfs-client-provisioner
  # replace with namespace where provisioner is deployed
  namespace: nfs-client-provisioner  
---
kind: ClusterRole
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: nfs-client-provisioner-runner
rules:
  - apiGroups: [""]
    resources: ["persistentvolumes"]
    verbs: ["get", "list", "watch", "create", "delete"]
  - apiGroups: [""]
    resources: ["persistentvolumeclaims"]
    verbs: ["get", "list", "watch", "update"]
  - apiGroups: ["storage.k8s.io"]
    resources: ["storageclasses"]
    verbs: ["get", "list", "watch"]
  - apiGroups: [""]
    resources: ["events"]
    verbs: ["create", "update", "patch"]
---
kind: ClusterRoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: run-nfs-client-provisioner
subjects:
  - kind: ServiceAccount
    name: nfs-client-provisioner
    namespace: nfs-client-provisioner
roleRef:
  kind: ClusterRole
  name: nfs-client-provisioner-runner
  apiGroup: rbac.authorization.k8s.io
---
kind: Role
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: leader-locking-nfs-client-provisioner
  namespace: nfs-client-provisioner
rules:
  - apiGroups: [""]
    resources: ["endpoints"]
    verbs: ["get", "list", "watch", "create", "update", "patch"]
---
kind: RoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:
  name: leader-locking-nfs-client-provisioner
  namespace: nfs-client-provisioner
subjects:
  - kind: ServiceAccount
    name: nfs-client-provisioner
    namespace: nfs-client-provisioner
roleRef:
  kind: Role
  name: leader-locking-nfs-client-provisioner
  apiGroup: rbac.authorization.k8s.io

3、創建storageclass

---
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
  name: managed-nfs-storage
parameters: 
  archiveOnDelete: 'false' 
provisioner: qgg-nfs-storage 
reclaimPolicy: Delete 
volumeBindingMode: WaitForFirstConsumer

4、創建片NFS provisioner

apiVersion: apps/v1
kind: Deployment
metadata:
  name: nfs-client-provisioner
  labels:
    app: nfs-client-provisioner
  # replace with namespace where provisioner is deployed
  namespace: default  #與RBAC文件中的namespace保持一致
spec:
  replicas: 1
  selector:
    matchLabels:
      app: nfs-client-provisioner
  strategy:
    type: Recreate
  selector:
    matchLabels:
      app: nfs-client-provisioner
  template:
    metadata:
      labels:
        app: nfs-client-provisioner
    spec:
      serviceAccountName: nfs-client-provisioner
      containers:
        - name: nfs-client-provisioner
          image: quay.io/external_storage/nfs-client-provisioner:latest
          volumeMounts:
            - name: nfs-client-root
              mountPath: /persistentvolumes
          env:
            - name: PROVISIONER_NAME
              value: qgg-nfs-storage  #provisioner名稱,請確保該名稱與 nfs-StorageClass.yaml文件中的provisioner名稱保持一致
            - name: NFS_SERVER
              value: 172.16.155.227   #NFS Server IP地址
            - name: NFS_PATH  
              value: /data/volumes    #NFS掛載卷
      volumes:
        - name: nfs-client-root
          nfs:
            server: 172.16.155.227  #NFS Server IP地址
            path: /data/volumes     #NFS 掛載卷 

創建測試pod,檢查是否部署成功

1、Pod+PVC

創建PVC

test-claim.yaml

kind: PersistentVolumeClaim
apiVersion: v1
metadata:
  name: test-claim
  annotations:
    volume.beta.kubernetes.io/storage-class: "managed-nfs-storage"   #與nfs-StorageClass.yaml metadata.name保持一致
spec:
  accessModes:
    - ReadWriteMany
  resources:
    requests:
      storage: 1Mi

確保PVC狀態為Bound

root@k8s-master-155-221 deploy]# kubectl get pvc
NAME         STATUS   VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS          AGE
test-claim   Bound    pvc-aae2b7fa-377b-11ea-87ad-525400512eca   1Mi        RWX            managed-nfs-storage   2m48s
[root@k8s-master-155-221 deploy]# kubectl get pv
NAME                                       CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS   CLAIM                STORAGECLASS          REASON   AGE
pvc-aae2b7fa-377b-11ea-87ad-525400512eca   1Mi        RWX            Delete           Bound    default/test-claim   managed-nfs-storage            4m13s

創建測試pod,查看是否可以正常掛載

test-pod.yaml

kind: Pod
apiVersion: v1
metadata:
  name: test-pod
spec:
  containers:
  - name: test-pod
    image: busybox:1.24
    command:
      - "/bin/sh"
    args:
      - "-c"
      - "touch /mnt/SUCCESS && exit 0 || exit 1"   #創建一個SUCCESS文件后退出
    volumeMounts:
      - name: nfs-pvc
        mountPath: "/mnt"
  restartPolicy: "Never"
  volumes:
    - name: nfs-pvc
      persistentVolumeClaim:
        claimName: test-claim  #與PVC名稱保持一致

檢查結果:

[root@nginx-keepalived-155-227 ~]# ll /data/volumes/default-test-claim-pvc-aae2b7fa-377b-11ea-87ad-525400512eca/   #文件規則是按照${namespace}-${pvcName}-${pvName}創建的
總用量 0
-rw-r--r-- 1 root root 0 2020-01-15 17:51 SUCCESS  #下面有一個 SUCCESS 的文件，證明我們上面的驗證是成功

2、StateFulDet+volumeCliaimTemplates

創建無頭服務及statefulset

nginx-statefulset.yaml

---
apiVersion: v1
kind: Service
metadata:
  name: nginx-headless
  labels:
    app: nginx
spec:
  ports:
  - port: 80
    name: web
  clusterIP: None   #注意此處的值,None表示無頭服務
  selector:
    app: nginx
---
apiVersion: apps/v1beta1
kind: StatefulSet
metadata:
  name: web
spec:
  serviceName: "nginx"
  replicas: 2  #兩個副本
  template:
    metadata:
      labels:
        app: nginx
    spec:
      containers:
      - name: nginx
        image: ikubernetes/myapp:v1
        ports:
        - containerPort: 80
          name: web
        volumeMounts:
        - name: www
          mountPath: /usr/share/nginx/html
  volumeClaimTemplates:
  - metadata:
      name: www
      annotations:
        volume.beta.kubernetes.io/storage-class: "managed-nfs-storage"   #managed-nfs-storage為我們創建的storage-class名稱
    spec:
      accessModes: [ "ReadWriteOnce" ]
      resources:
        requests:
          storage: 1Gi

檢查結果:

集群節點上

[root@k8s-master-155-221 classStorage]#kubectl delete -f nginx-statefulset.yaml 
[root@k8s-master-155-221 classStorage]# kubectl get pods -l app=nginx  #檢查pod狀態
NAME    READY   STATUS    RESTARTS   AGE
web-0   1/1     Running   0          115m
web-1   1/1     Running   0          114m
[root@k8s-master-155-221 classStorage]# kubectl get pvc #查看PVC
NAME         STATUS   VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS          AGE
test-claim   Bound    pvc-aae2b7fa-377b-11ea-87ad-525400512eca   1Mi        RWX            managed-nfs-storage   19h
www-web-0    Bound    pvc-4d7e342a-3810-11ea-87ad-525400512eca   1Gi        RWO            managed-nfs-storage   115m
www-web-1    Bound    pvc-5431c8ba-3810-11ea-87ad-525400512eca   1Gi        RWO            managed-nfs-storage   115m
[root@k8s-master-155-221 classStorage]# kubectl get pv #查看PV
NAME                                       CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS   CLAIM                STORAGECLASS          REASON   AGE
pvc-4d7e342a-3810-11ea-87ad-525400512eca   1Gi        RWO            Delete           Bound    default/www-web-0    managed-nfs-storage            115m
pvc-5431c8ba-3810-11ea-87ad-525400512eca   1Gi        RWO            Delete           Bound    default/www-web-1    managed-nfs-storage            115m
pvc-aae2b7fa-377b-11ea-87ad-525400512eca   1Mi        RWX            Delete           Bound    default/test-claim   managed-nfs-storage            19h

NFS Server上:

root@nginx-keepalived-155-227 ~]# cd /data/volumes/
[root@nginx-keepalived-155-227 volumes]# ll  #注意目錄的命名格式
總用量 0
drwxrwxrwx 2 root root 21 2020-01-15 17:51 default-test-claim-pvc-aae2b7fa-377b-11ea-87ad-525400512eca
drwxrwxrwx 2 root root  6 2020-01-16 11:28 default-www-web-0-pvc-4d7e342a-3810-11ea-87ad-525400512eca
drwxrwxrwx 2 root root  6 2020-01-16 11:28 default-www-web-1-pvc-5431c8ba-3810-11ea-87ad-525400512eca
[root@nginx-keepalived-155-227 volumes]# echo "web-00" > default-www-web-0-pvc-4d7e342a-3810-11ea-87ad-525400512eca/index.html #分別創建不同的index文件
[root@nginx-keepalived-155-227 volumes]# echo "web-01" > default-www-web-1-pvc-5431c8ba-3810-11ea-87ad-525400512eca/index.html

集群節點上

[root@k8s-master-155-221 classStorage]# kubectl exec -it pod-cm-1 -- /bin/sh  #進入集群中任意pod中,解析nginx-headless 服務/ # nslookup nginx-headless
nslookup: can't resolve '(null)': Name does not resolve

Name:      nginx-headless
Address 1: 172.17.136.7 172-17-136-7.nginx-headless.default.svc.cluster.local  #可以看到有兩個地址
Address 2: 172.17.248.5 172-17-248-5.nginx-headless.default.svc.cluster.local
[root@k8s-master-155-221 classStorage]# curl 172.17.248.5 #分別訪問一下查看結果
web-00
[root@k8s-master-155-221 classStorage]# curl 172.17.136.7
web-01

#對於statefulset我們可以通過添加/刪除pod副本的數量,觀察PV/PVC的狀態及變化.

關於StorageClass回收策略對數據的影響

第一種配置

archiveOnDelete: "false"  
reclaimPolicy: Delete   #默認沒有配置,默認值為Delete

測試結果:

pod刪除重建后數據依然存在,舊pod名稱及數據依然保留給新pod使用
sc刪除重建后數據依然存在,舊pod名稱及數據依然保留給新pod使用
刪除PVC后,PV被刪除且NFS Server對應數據被刪除

2.第二種配置

   archiveOnDelete: "false"  
   reclaimPolicy: Retain  

測試結果:

1.pod刪除重建后數據依然存在,舊pod名稱及數據依然保留給新pod使用
2.sc刪除重建后數據依然存在,舊pod名稱及數據依然保留給新pod使用
3.刪除PVC后,PV不會別刪除,且狀態由Bound變為Released,NFS Server對應數據被保留
4.重建sc后,新建PVC會綁定新的pv,舊數據可以通過拷貝到新的PV中

3.第三種配置

archiveOnDelete: "ture"  
reclaimPolicy: Retain 

測試結果:

1.pod刪除重建后數據依然存在,舊pod名稱及數據依然保留給新pod使用
2.sc刪除重建后數據依然存在,舊pod名稱及數據依然保留給新pod使用
3.刪除PVC后,PV不會別刪除,且狀態由Bound變為Released,NFS Server對應數據被保留
4.重建sc后,新建PVC會綁定新的pv,舊數據可以通過拷貝到新的PV中

4.第四種配置

archiveOnDelete: "ture"  
reclaimPolicy: Delete  

測試結果:

1.pod刪除重建后數據依然存在,舊pod名稱及數據依然保留給新pod使用
2.sc刪除重建后數據依然存在,舊pod名稱及數據依然保留給新pod使用
3.刪除PVC后,PV不會別刪除,且狀態由Bound變為Released,NFS Server對應數據被保留
4.重建sc后,新建PVC會綁定新的pv,舊數據可以通過拷貝到新的PV中

總結:除以第一種配置外,其他三種配置在PV/PVC被刪除后數據依然保留

NFS做后端存儲支不支持PVC擴容？

支持動態擴容需要滿足兩個條件：

• 后端底層存儲支持卷擴展（后端存儲保證足夠資源）
• 需要在StorageClass對象中設置allowVolumeExpansion為true

我們由於是測試，申請的資源比較少，我們直接對StorageClass對象進行修改（storageclass.yaml），如下：

apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
  name: nfs-client-storageclass
provisioner: rookieops/nfs
allowVolumeExpansion: true

然后我們重新申明一下

# kubectl apply -f storageclass.yaml
storageclass.storage.k8s.io/nfs-client-storageclass configured

在次創建前面的pvc並查詢一下

[root@k8s-master ~]# kubectl get pvc -n jenkins
NAME            STATUS   VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS          AGE
jenkins-claim   Bound    pvc-d6d7ad8f-5f6d-456c-9dc1-3d3828839268   3G         RWX            managed-nfs-storage   113m

我們一看，發現並沒有擴展成功，這是為什么呢？我們describe一下這個pvc，發現如下提示：

[root@k8s-master ~]# kubectl get pvc -n jenkins
NAME            STATUS   VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS          AGE
jenkins-claim   Bound    pvc-d6d7ad8f-5f6d-456c-9dc1-3d3828839268   3G         RWX            managed-nfs-storage   113m
[root@k8s-master ~]# kubectl describe pvc jenkins-claim  -n jenkins
Name:          jenkins-claim
Namespace:     jenkins
StorageClass:  managed-nfs-storage
Status:        Bound
Volume:        pvc-d6d7ad8f-5f6d-456c-9dc1-3d3828839268
Labels:        <none>
Annotations:   pv.kubernetes.io/bind-completed: yes
               pv.kubernetes.io/bound-by-controller: yes
               volume.beta.kubernetes.io/storage-class: managed-nfs-storage
               volume.beta.kubernetes.io/storage-provisioner: qgg-nfs-storage
Finalizers:    [kubernetes.io/pvc-protection]
Capacity:      3G
Access Modes:  RWX
VolumeMode:    Filesystem
Mounted By:    jenkins-9b4c8894-chhnh
Events:
  Type     Reason             Age   From           Message
  ----     ------             ----  ----           -------
  Warning  ExternalExpanding  55m   volume_expand  Ignoring the PVC: didn't find a plugin capable of expanding the volume; waiting for an external controller to process this PVC.

報錯信息為：沒有找到可擴展的插件。 我上官方網站一看，原來人家已經說的很清楚了：Although the feature is enabled by default, a cluster admin must opt-in to allow users to resize their volumes. Kubernetes v1.11 ships with volume expansion support for the following in-tree volume plugins: AWS-EBS, GCE-PD, Azure Disk, Azure File, Glusterfs, Cinder, Portworx, and Ceph RBD.

我們的NFS並不被支持（用NFS做后端存儲的小伙伴注意了哈）。

常見問題

1、如何設置默認的StorageClass

我們可以用 kubectl patch 命令來更新：

[root@k8s-master-155-221 classStorage]# kubectl get sc  #查看當前sc 
NAME                  PROVISIONER       AGE 
managed-nfs-storage   qgg-nfs-storage   20h
[root@k8s-master-155-221 classStorage]# kubectl patch storageclass managed-nfs-storage -p '{"metadata": {"annotations":{"storageclass.kubernetes.io/is-default-class":"true"}}}'  #設置managed-nfs-storage為默認后端存儲
storageclass.storage.k8s.io/managed-nfs-storage patched
[root@k8s-master-155-221 classStorage]# kubectl get sc  #再次查看,注意是否有default標識
NAME                            PROVISIONER       AGE
managed-nfs-storage (default)   qgg-nfs-storage   20h
[root@k8s-master-155-221 deploy]# kubectl patch storageclass managed-nfs-storage -p '{"metadata": {"annotations":{"storageclass.kubernetes.io/is-default-class":"false"}}}' #取消默認存儲后端
storageclass.storage.k8s.io/managed-nfs-storage patched
[root@k8s-master-155-221 deploy]# kubectl get sc
NAME                  PROVISIONER       AGE
managed-nfs-storage   qgg-nfs-storage   20h

YAML文件

apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
  name: managed-nfs-storage
  annotations:
    "storageclass.kubernetes.io/is-default-class": "true"   #添加此注釋
provisioner: qgg-nfs-storage #or choose another name, must match deployment's env PROVISIONER_NAME'
parameters:
  archiveOnDelete: "false"

2、如何使用默認的StorageClass

如果集群有一個默認的StorageClass能夠滿足我們的需求，那么剩下所有需要做的就是創建PersistentVolumeClaim(PVC)，剩下的都有默認的動態配置搞定，包括無需去指定storageClassName：

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
 name: mypvc
 namespace: testns
spec:
 accessModes:
 - ReadWriteOnce
 resources:
   requests:
     storage: 10Gi

3、如何修改默認的回收策略（默認為DELETE）

apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
  name: managed-nfs-storage
  annotations:
provisioner: qgg-nfs-storage #or choose another name, must match deployment's env PROVISIONER_NAME'
parameters:
  archiveOnDelete: "ture" #暫時不清楚該值對回收策略產生什么影響
reclaimPolicy: Retain   #只有NFS 和hostPth支持兩種回收策略

4、如何刪除/關閉默認的StorageClass

不能刪除默認的StorageClass，因為它是作為集群的add-on安裝的，如果它被刪除，會被重新安裝。
當然，可以停掉默認的StorageClass行為，通過刪除annotation：storageclass.beta.kubernetes.io/is-default-class,或者設置為false。
如果沒有StorageClass對象標記默認的annotation，那么PersistentVolumeClaim對象（在不指定StorageClass情況下）將不自動觸發動態配置。相反，它們將回到綁定可用的*PersistentVolume(PV)*的狀態。

5、當刪除PersisetntVolumeClaim（PVC）會發生什么

如果一個卷是動態配置的卷，則默認的回收策略為“刪除”。這意味着，在默認的情況下，當PVC被刪除時，基礎的PV和對應的存儲也會被刪除。如果需要保留存儲在卷上的數據，則必須在PV被設置之后將回收策略從delete更改為retain。

參考文檔:https://github.com/kubernetes-incubator/external-storage/tree/master/nfs-client

https://cloud.tencent.com/developer/article/1602852

轉載自：https://blog.csdn.net/qq_41337034/article/details/117220502