GlusterFS(GFS) 分布式存儲


GFS 分布式文件系統

目錄

一: GlusterFS 概述

1.1 GlusterFS 簡介

GlusterFS 是一個開源的分布式文件系統。

由存儲服務器、客戶端以及NFS/Samba 存儲網關(可選,根據需要選擇使用)組成。

沒有元數據服務器組件,這有助於提升整個系統的性能、可靠性和穩定性。


GlusterFS同時也是Scale-Out(橫向擴展)存儲解決方案Gluster的核心,在存儲數據方面具有強大的橫向擴展能力,通過擴展能夠支持數PB存儲容量和處理數千客戶端。


GlusterFS支持借助TCP/IP或InfiniBandRDMA網絡(一種支持多並發鏈接的技術,具有高帶寬、低時延、高擴展性的特點)將物理分散分布的存儲資源匯聚在一起,統一提供存儲服務,並使用統一全局命名空間來管理數據。


傳統的分布式文件系統MFS介紹:

MFS

傳統的分布式文件系統大多通過元服務器來存儲元數據,元數據包含存儲節點上的目錄信息、目錄結構等。這樣的設計在瀏覽目錄時效率高,但是也存在一些缺陷,例如單點故障。一旦元數據服務器出現故障,即使節點具備再高的冗余性,整個存儲系統也將崩潰。而 GlusterFS 分布式文件系統是基於無元服務器的設計,數據橫向擴展能力強,具備較高的可靠性及存儲效率。



1.2 GlusterFS特點

  • 擴展性和高性能
  • 高可用性
  • 全局統一命名空間
  • 彈性卷管理
  • 基於標准協議

1.2.1 擴展性和高性能

GlusterFS利用雙重特性來提供高容量存儲解決方案。


(1)Scale-Out架構允許通過簡單地增加存儲節點的方式來提高存儲容量和性能(磁盤、計算和I/O資源都可以獨立增加),支持10GbE和 InfiniBand等高速網絡互聯。

(2)Gluster彈性哈希(ElasticHash)解決了GlusterFS對元數據服務器的依賴,改善了單點故障和性能瓶頸,真正實現了並行化數據訪問。GlusterFS采用彈性哈希算法在存儲池中可以智能地定位任意數據分片(將數據分片存儲在不同節點上),不需要查看索引或者向元數據服務器查詢。



1.2.2 高可用性

GlusterFS可以對文件進行自動復制,如鏡像或多次復制,從而確保數據總是可以訪問,甚至是在硬件故障的情況下也能正常訪問。


當數據出現不一致時,自我修復功能能夠把數據恢復到正確的狀態,數據的修復是以增量的方式在后台執行,幾乎不會產生性能負載。


GlusterFS可以支持所有的存儲,因為它沒有設計自己的私有數據文件格式,而是采用操作系統中主流標准的磁盤文件系統(如EXT3、XFS等)來存儲文件,因此數據可以使用傳統訪問磁盤的方式被訪問。



1.2.3  全局統一命名空間

分布式存儲中,將所有節點的命名空間整合為統一命名空間,將整個系統的所有節點的存儲容量組成一個大的虛擬存儲池,供前端主機訪問這些節點完成數據讀寫操作。



1.2.4 彈性卷管理

GlusterFS通過將數據儲存在邏輯卷中,邏輯卷從邏輯存儲池進行獨立邏輯划分而得到。


邏輯存儲池可以在線進行增加和移除,不會導致業務中斷。邏輯卷可以根據需求在線增長和縮減,並可以在多個節點中實現負載均衡。


文件系統配置也可以實時在線進行更改並應用,從而可以適應工作負載條件變化或在線性能調優



1.2.5 基於標准協議

Gluster 存儲服務支持 NFS、CIFS、HTTP、FTP、SMB 及 Gluster原生協議,完全與 POSIX 標准(可移植操作系統接口)兼容。


現有應用程序不需要做任何修改就可以對Gluster 中的數據進行訪問,也可以使用專用 API 進行訪問。



1.3 GlusterFS 術語

  • Brick(存儲塊):

    • 指可信主機池中由主機提供的用於物理存儲的專用分區,是GlusterFS中的基本存儲單元,同時也是可信存儲池中服務器上對外提供的存儲目錄。
    • 存儲目錄的格式由服務器和目錄的絕對路徑構成,表示方法為 SERVER:EXPORT,如 192.168.80.10:/data/mydir/。
  • Volume(邏輯卷):

    • 一個邏輯卷是一組 Brick 的集合。卷是數據存儲的邏輯設備,類似於 LVM 中的邏輯卷。大部分 Gluster 管理操作是在卷上進行的。
  • FUSE:

    • 是一個內核模塊,允許用戶創建自己的文件系統,無須修改內核代碼。
  • VFS:

    • 內核空間對用戶空間提供的訪問磁盤的接口。
  • Glusterd(后台管理進程):

    • 在存儲群集中的每個節點上都要運行。



1.4 模塊化堆棧式架構

GlusterFS 采用模塊化、堆棧式的架構。

通過對模塊進行各種組合,即可實現復雜的功能。例如 Replicate 模塊可實現 RAID1,Stripe 模塊可實現 RAID0, 通過兩者的組合可實現 RAID10 和 RAID01,同時獲得更高的性能及可靠性。



1.5 GlusterFS的工作流程

(1)客戶端或應用程序通過 GlusterFS 的掛載點訪問數據。

(2)linux系統內核通過 VFS API 收到請求並處理。

(3)VFS 將數據遞交給 FUSE 內核文件系統,並向系統注冊一個實際的文件系統 FUSE,而 FUSE 文件系統則是將數據通過 /dev/fuse 設備文件遞交給了 GlusterFS client 端。可以將 FUSE 文件系統理解為一個代理。

(4)GlusterFS client 收到數據后,client 根據配置文件的配置對數據進行處理。

(5)經過 GlusterFS client 處理后,通過網絡將數據傳遞至遠端的 GlusterFS Server,並且將數據寫入到服務器存儲設備上。

image-20210924145545124



1.6 彈性HASH 算法

彈性 HASH 算法是 Davies-Meyer 算法的具體實現,通過 HASH 算法可以得到一個 32 位的整數范圍的 hash 值,

假設邏輯卷中有 N 個存儲單位 Brick,則 32 位的整數范圍將被划分為 N 個連續的子空間,每個空間對應一個 Brick。

當用戶或應用程序訪問某一個命名空間時,通過對該命名空間計算 HASH 值,根據該 HASH 值所對應的 32 位整數空間定位數據所在的 Brick。


彈性 HASH 算法的優點:

  • 保證數據平均分布在每一個 Brick 中。

  • 解決了對元數據服務器的依賴,進而解決了單點故障以及訪問瓶頸。





二: GlusterFS 的卷類型


GlusterFS 支持七種卷類型

  • 分布式卷
  • 條帶卷
  • 復制卷
  • 分布式條帶卷
  • 分布式復制卷
  • 條帶復制卷
  • 分布式條帶復制卷

2.1 分布式卷(Distribute volume)

文件通過 HASH 算法分布到所有 Brick Server 上,這種卷是 GlusterFS 的默認卷;以文件為單位根據 HASH 算法散列到不同的 Brick,其實只是擴大了磁盤空間,如果有一塊磁盤損壞,數據也將丟失,屬於文件級的 RAID0, 不具有容錯能力。

在該模式下,並沒有對文件進行分塊處理,文件直接存儲在某個 Server 節點上。 由於直接使用本地文件系統進行文件存儲,所以存取效率並沒有提高,反而會因為網絡通信的原因而有所降低。


2.1.1 分布式卷示例原理

File1 和 File2 存放在 Server1,而 File3 存放在 Server2,文件都是隨機存儲,一個文件(如 File1)要么在 Server1 上,要么在 Server2 上,不能分塊同時存放在 Server1和 Server2 上。

img


2.1.2 分布式卷特點 

  • 文件分布在不同的服務器,不具備冗余性
  • 更容易和廉價地擴展卷的大小
  • 單點故障會造成數據丟失
  • 依賴底層的數據保護

 2.1.3 創建分布式卷

創建一個名為dis-volume的分布式卷,文件將根據HASH分布在server1:/dir1、server2:/dir2和server3:/dir3中

gluster volume create dis-volume server1:/dir1 server2:/dir2 server3:/dir3



2.2 條帶卷 (Stripe volume)

類似 RAID0,文件被分成數據塊並以輪詢的方式分布到多個 Brick Server 上,文件存儲以數據塊為單位,支持大文件存儲, 文件越大,讀取效率越高,但是不具備冗余性。


2.2.1 條帶卷示例原理

File 被分割為 6 段,1、3、5 放在 Server1,2、4、6 放在 Server2。


2.2.2 條帶卷特點

  • 根據偏移量將文件分成N塊(N個條帶點),輪詢的存儲在每個Brick Serve 節點.
  • 分布減少了負載,在存儲大文件時,性能尤為突出.
  • 沒有數據冗余,類似於Raid 0

image-20210924151703550


2.2.3創建條帶卷

創建了一個名為stripe-volume的條帶卷,文件將被分塊輪詢的存儲在Server1:/dir1和Server2:/dir2兩個Brick中

gluster volume create stripe-volume stripe 2 transport tcp server1:/dir1 server2:/dir2



2.3 復制卷(Replica volume)

將文件同步到多個 Brick 上,使其具備多個文件副本,屬於文件級 RAID 1,具有容錯能力。因為數據分散在多個 Brick 中,所以讀性能得到很大提升,但寫性能下降。

復制卷具備冗余性,即使一個節點損壞,也不影響數據的正常使用。但因為要保存副本,所以磁盤利用率較低。

2.3.1 復制卷示例原理

File1 同時存在 Server1 和 Server2,File2 也是如此,相當於 Server2 中的文件是 Server1 中文件的副本。

image-20210924152742271


2.3.2  復制卷特點

  • 卷中所有的服務器均保存一個完整的副本。具備冗余性.
  • 卷的副本數量可由客戶創建的時候決定,但復制數必須等於卷中 Brick 所包含的存儲服務器數。
  • 至少由兩個塊服務器或更多服務器。
  • 若多個節點上的存儲空間不一致,將按照木桶效應取最低節點的容量作為改卷的總容量。

2.3.3 創建復制卷

創建名為rep-volume的復制卷,文件將同時存儲兩個副本,分別在Server1:/dir1和Server2:/dir2兩個Brick中

gluster volume create rep-volume replica 2 transport tcp server1:/dir1 server2:/dir2



2.4 分布式條帶卷(Distribute Stripe volume)

Brick Server 數量是條帶數(數據塊分布的 Brick 數量)的倍數,兼具分布式卷和條帶卷的特點。 主要用於大文件訪問處理,創建一個分布式條帶卷最少需要 4 台服務器。

2.4.1 分布式條帶卷示例原理 

File1 和 File2 通過分布式卷的功能分別定位到Server1和 Server2。在 Server1 中,File1 被分割成 4 段,其中 1、3 在 Server1 中的 exp1 目錄中,2、4 在 Server1 中的 exp2 目錄中。在 Server2 中,File2 也被分割成 4 段,其中 1、3 在 Server2 中的 exp3 目錄中,2、4 在 Server2 中的 exp4 目錄中。

img


2.4.2 創建分布式條帶卷

創建一個名為dis-stripe的分布式條帶卷,配置分布式的條帶卷時,卷中Brick所包含的存儲服務器數必須是條帶數的倍數(>=2倍)。Brick 的數量是 4(Server1:/dir1、Server2:/dir2、Server3:/dir3 和 Server4:/dir4),條帶數為 2(stripe 2)

gluster volume create dis-stripe stripe 2 transport tcp server1:/dir1 server2:/dir2 server3:/dir3 server4:/dir4


創建卷時,存儲服務器的數量如果等於條帶或復制數,那么創建的是條帶卷或者復制卷;如果存儲服務器的數量是條帶或復制數的 2 倍甚至更多,那么將創建的是分布式條帶卷或分布式復制卷。

2.5 分布式復制卷(Distribute Replica volume)

●分布式復制卷(Distribute Replica volume):

Brick Server 數量是鏡像數(數據副本數量)的倍數,兼具分布式卷和復制卷的特點。主要用於需要冗余的情況下。

2.5.1 分布式條帶卷的示例原理

File1 和 File2 通過分布式卷的功能分別定位到 Server1 和 Server2。在存放 File1 時,File1 根據復制卷的特性,將存在兩個相同的副本,分別是 Server1 中的exp1 目錄和 Server2 中的 exp2 目錄。在存放 File2 時,File2 根據復制卷的特性,也將存在兩個相同的副本,分別是 Server3 中的 exp3 目錄和 Server4 中的 exp4 目錄。

img


 2.5.2 創建分布式復制卷

建一個名為dis-rep的分布式復制卷,配置分布式的復制卷時,卷中Brick所包含的存儲服務器數必須是復制數的倍數(>=2倍)。Brick 的數量是 4(Server1:/dir1、Server2:/dir2、Server3:/dir3 和 Server4:/dir4),復制數為 2(replica 2)

gluster volume create dis-rep replica 2 transport tcp server1:/dir1 server2:/dir2 server3:/dir3 server4:/dir4



2.6 條帶復制卷(Stripe Replica volume)和分布式條帶復制卷(Distribute Stripe Replicavolume)


  • 條帶復制卷(Stripe Replica volume)
    • 類似 RAID 10,同時具有條帶卷和復制卷的特點。
  • 分布式條帶復制卷(Distribute Stripe Replicavolume)
    • 三種基本卷的復合卷,通常用於類 Map Reduce 應用



三: 部署GlusterFS

image-20210924161715580


3.1 准備環境(所有node節點)

3.1.1 關閉防火牆

[root@host103 ~]# systemctl  stop firewalld
[root@host103 ~]# setenforce 0

3.1.2 磁盤分區,並掛載

vim /opt/fdisk.sh
#!/bin/bash
#獲取sdb,sdc,sdd,sde 
NEWDEV=`ls /dev/sd* | grep -o 'sd[b-z]' | uniq`

for VAR in $NEWDEV
do
   #免交互分區
   echo -e "n\np\n\n\n\nw\n" | fdisk /dev/$VAR &> /dev/null
   
   #刷新分區表
   partprobe &> /dev/null

   #格式化
   mkfs.xfs /dev/${VAR}"1" &> /dev/null
 
   #創建掛載點
   mkdir -p /data/${VAR}"1" &> /dev/null

  #在 /etc/fstab配置開機自動掛載
   echo "/dev/${VAR}"1" /data/${VAR}"1" xfs defaults 0 0" >> /etc/fstab
done
#檢測並掛載
mount -a  &> /dev/null

#授予腳本執行權限,運行腳本,查看掛載情況
[root@host103 ~]# chmod  +x /opt/fdisk.sh 
[root@host103 ~]# /opt/fdisk.sh 
[root@host103 ~]# df -h

image-20210924163514533

image-20210924163737718

image-20210924164550616



3.1.3 修改主機名,配置/etc/hosts文件

#其他節點修改為相應的主機名
#修改完主機名可以重新連接,或者使用 su 切換
[root@host11 ~]# hostnamectl  set-hostname node1

#每台node 節點都將 所有node 節點的主機名映射寫入到 /etc/hosts文件
[root@node1 ~]# echo "192.168.23.11 node1" >> /etc/hosts
[root@node1 ~]# echo "192.168.23.12 node2" >> /etc/hosts
[root@node1 ~]# echo "192.168.23.13 node3" >> /etc/hosts
[root@node1 ~]# echo "192.168.23.103 node4" >> /etc/hosts



3.2 安裝GFS

#將gfsrepo 軟件上傳到/opt目錄下。可以在windows里將包壓縮成 zip 格式上傳到linux
[root@node3 ~]# cd  /opt/
[root@node3 opt]# unzip gfsrepo.zip

[root@node1 ~]#cd /etc/yum.repos.d/
[root@node1 yum.repos.d]# mkdir bak2
[root@node1 yum.repos.d]# mv *.repo bak2


[root@node1 yum.repos.d]# vim glfs.repo
[glfs]
name=glfs
baseurl=file:///opt/gfsrepo
gpgcheck=0
enabled=1

[root@node1 ~]# yum -y install glusterfs glusterfs-server glusterfs-fuse glusterfs-rdma



#啟動服務
[root@node1 ~]# systemctl start glusterd.service 
[root@node1 ~]# systemctl  enable glusterd.service 

image-20210924173355826

image-20210924173404702



3.3 任意node上,添加節點到存儲信任池中

#在任意node節點上,將節點添加到存儲信任池中
[root@node1 ~]# gluster peer probe node1
peer probe: success. Probe on localhost not needed
[root@node1 ~]# gluster peer probe node2
peer probe: success. 
[root@node1 ~]# gluster peer probe node3
peer probe: success. 
[root@node1 ~]# gluster peer probe node4
peer probe: success. 
[root@node1 ~]# 

在任意Node節點查看集群狀態

[root@node1 ~]# gluster peer  status

image-20210926153124258

image-20210926153144499



四 創建卷

根據規划創建如下卷:

卷名 卷類型 Brick
dis-volume 分布式卷 node1(/data/sdb1), node2(/data/sdb1)
stripe-volume 條帶卷 node1(/data/sdc1)、node2(/data/sdc1)
rep-volume 復制卷 node3(/data/sdb1)、node4(/data/sdb1)
dis-stripe 分布式條帶卷 node1(/data/sdd1)、node2(/data/sdd1)、node3(/data/sdd1)、node4(/data/sdd1)
dis-rep 分布式復制卷 node1(/data/sde1)、node2(/data/sde1)、node3(/data/sde1)、node4(/data/sde1)

在任意node主機都可以操作。因為都關聯起來了.


4.1  分布式卷

4.1.1 創建分布式卷

創建分布式卷,沒有指定類型,默認創建的是分布式卷.。在沒有指傳輸協議時,默認使用tcp

[root@node1 ~]# gluster volume create dis-volume node1:/data/sdb1 node2:/data/sdb1 force

image-20210926154318446


4.1.2 查看卷列表

[root@node1 ~]# gluster volume list
dis-volume

image-20210926154443910


4.1.3 啟動新建分布式卷

[root@node1 ~]# gluster volume start dis-volume 
volume start: dis-volume: success

image-20210926154606427


4.14 查看創建分布式卷信息

[root@node1 ~]# gluster volume info  dis-volume 

image-20210926155029406



4.2 創建條帶卷

指定類型為 stripe ,數值為2,且后面跟了2 個 Brick Server,所以創建的是條帶卷

[root@node1 ~]# gluster volume create stripe-volume stripe 2 node1:/data/sdc1 node2:/data/sdc1 force

[root@node1 ~]# gluster volume start stripe-volume

[root@node1 ~]# gluster volume info stripe-volume

l

image-20210926155436086



4.3 創建復制卷

指定類型為replica  ,數值為2 ,且后面跟了2 個 Brick Server,所以創建的是復制卷

[root@node3 ~]# gluster volume create rep-volume replica 2 node3:/data/sdb1 node4:/data/sdb1 force

[root@node3 ~]# gluster volume start rep-volume

[root@node3 ~]# gluster volume info rep-volume

image-20210926155850456



4.4 創建分布式條帶卷

指定類型為stripe ,數值為2,后面跟了4個brick Server,是2的兩倍。所以創建的是分布式條帶卷

[root@node1 ~]# gluster volume create dis-stripe stripe 2 node1:/data/sdd1 node2:/data/sdd1 node3:/data/sdd1 node4:/data/sdd1 force

[root@node1 ~]# gluster volume start dis-stripe

[root@node1 ~]# gluster volume info dis-stripe
 

image-20210926160311839



4.5 創建分布式復制卷

指定類型為 replica,數值為 2,而且后面跟了 4 個 Brick Server,是 2 的兩倍,所以創建的是分布式復制

[root@node1 ~]# gluster volume create dis-rep replica 2 node1:/data/sde1 node2:/data/sde1 node3:/data/sde1 node4:/data/sde1 force

[root@node1 ~]# gluster volume start dis-rep

[root@node1 ~]# gluster volume info dis-rep 

image-20210926160657397



4.6 查看當前所有卷列表

[root@node1 ~]# gluster volume list
dis-rep
dis-stripe
dis-volume
rep-volume
stripe-volume

image-20210926160858981



五: 部署Gluster 客戶端

5.1 安裝部客戶端軟件

將gfsrepo 軟件上傳到  /opt 目錄下(可以解壓后壓縮為zip 格式上傳到linux中)

[root@host104 opt]# unzip gfsrepo.zip
[root@host104 opt]# cd /etc/yum.repos.d/
[root@host104 yum.repos.d]# mkdir bak02
[root@host104 yum.repos.d]# mv *.repo bak02
[root@host104 yum.repos.d]# vim glfs.repo
[glfs]
name=glfs
baseurl=file:///opt/gfsrepo
gpgcheck=0
enabled=1

[root@host104 yum.repos.d]# yum clean all && yum makecache
[root@host104 yum.repos.d]# yum -y install glusterfs glusterfs-fuse.x86_64



5.2 創建掛載點目錄,配置主機名映射,掛載卷

[root@host104 ~]# mkdir -p /test/{dis,stripe,rep,dis_stripe,dis_rep}
[root@host104 ~]# ls /test/
dis  dis_rep  dis_stripe  rep  stripe

[root@host104 ~]# echo "192.168.23.11 node1" >> /etc/hosts
[root@host104 ~]# echo "192.168.23.12 node2" >> /etc/hosts
[root@host104 ~]# echo "192.168.23.13 node3" >> /etc/hosts
[root@host104 ~]# echo "192.168.23.103 node4" >> /etc/hosts


[root@host104 ~]# ping node1
[root@host104 ~]# ping node2
[root@host104 ~]# ping node3
[root@host104 ~]# ping node4

[root@host104 ~]# vim /etc/fstab
node1:dis-volume /test/dis glusterfs defaults,_netdev 0 0
node1:stripe-volume /test/stripe glusterfs defaults,_netdev 0 0node1:rep-volume /test/rep glusterfs defaults,_netdev 0 0
node1:dis-stripe /test/dis_stripe glusterfs defaults,_netdev 0 0node1:dis-rep /test/dis_rep glusterfs defaults,_netdev 0 0

[root@host104 ~]# mount -a
[root@host104 ~]# df -h

image-20210926173229991





六:測試GlusterFS 文件系統

6.1 卷中寫入文件,客戶端操作

[root@host104 opt]# dd if=/dev/zero of=/opt/test1.txt bs=1M count=40
[root@host104 opt]# dd if=/dev/zero of=/opt/test2.txt bs=1M count=40
[root@host104 opt]# dd if=/dev/zero of=/opt/test3.txt bs=1M count=40
[root@host104 opt]# dd if=/dev/zero of=/opt/test4.txt bs=1M count=40
[root@host104 opt]# dd if=/dev/zero of=/opt/test5.txt bs=1M count=40


[root@host104 opt]# cp test* /test/dis
[root@host104 opt]# cp test* /test/stripe/
[root@host104 opt]# cp test* /test/rep/
[root@host104 opt]# cp test* /test/dis_stripe/
[root@host104 opt]# cp test* /test/dis_rep/



6.2 查看文件分布

6.2.1 node1,node2 查看分布式文件分布

[root@node1 ~]# ls -lh /data/sdb1
[root@node2 ~]# ls -lh  /data/sdb1

image-20210926174251359


6.2.2 node1,node2 查看條帶卷文件分布

[root@node1 ~]# ls -lh /data/sdc1
[root@node2 ~]# ls -lh /data/sdc1

image-20210926174521004


6.2.3 node3,node4查看復制卷

[root@node3 ~]# ls -lh /data/sdb1
[root@node4 ~]# ls -lh /data/sdb1

image-20210926174928364


6.2.4 node1,node2,node3,node4 查看分布式條帶卷 

[root@node1 ~]# ls -lh /data/sdd1
[root@node2 ~]# ls -lh /data/sdd1
[root@node3 ~]# ls -lh /data/sdd1
[root@node4 ~]# ls -lh /data/sdd1

image-20210926175511690


6.2.5 node1,node2,node3,node4 查看分布式復制卷

[root@node1 ~]# ls -lh /data/sde1
[root@node2 ~]# ls -lh /data/sde1
[root@node3 ~]# ls -lh /data/sde1
[root@node4 ~]# ls -lh /data/sde1

image-20210926175912767



6.3 破壞性測試

(虛擬機)掛起node2節點或者關閉glusterd服務來模擬故障

虛擬機掛起node2或者停止glusterd服務
[root@node2 ~]# systemctl stop glusterd.service

image-20210926180501681


6.3.1 客戶端查看分布式卷數據

[root@host104 ~]# ls /test/dis/
test1.txt  test3.txt  test4.txt

image-20210926180732479


6.3.2 客戶端查看條帶卷數據

[root@host104 ~]# ls  /test/stripe/
[root@host104 ~]#

image-20210926180955421


6.3.3 客戶端查看分布式條帶卷

[root@host104 ~]# ls /test/dis_stripe/
test2.txt  test5.txt

image-20210926181614973


6.3.4 客戶端查看分布式復制卷

[root@host104 ~]# ls /test/dis_rep/
test1.txt  test2.txt  test3.txt  test4.txt  test5.txt

image-20210926182014757


6.3.5 宕機node3.客戶端查看復制卷

[root@host104 ~]# ls /test/rep/
test1.txt  test2.txt  test3.txt  test4.txt  test5.txt

image-20210926182349039


6.3.6 小結

所以,凡是帶復制數據的,相比而言數據比較安全。在寫入數據時,條帶式卷比復制卷和分布式卷速度更快



6.4 其他維護命令

6.4.1 查看 GlusterFS卷

[root@node1 ~]# gluster volume list

image-20210926183107839


6.4.2 查看卷信息

#查看卷dis-volume 的信息
[root@node1 ~]# gluster volume  info dis-volume

#查看所有卷的信息
[root@node1 ~]# gluster volume info

image-20210926183427809


6.4.3 查看卷狀態

#查看 卷 dis—volume的狀態
[root@node1 ~]# gluster volume status dis-volume

#查看所有卷的狀態
[root@node1 ~]# gluster volume status

image-20210926183747266


6.2.4 停止一個卷

[root@node1 ~]# gluster volume stop dis-stripe 
Stopping volume will make its data inaccessible. Do you want to continue? (y/n) y 

image-20210926184138449


6.2.5 刪除一個卷 

刪除卷時,需要先停止卷,且信任池中不能有主機處於宕機狀態,否則刪除不成功

[root@node1 ~]# gluster volume delete dis-stripe 
Deleting volume will erase all information about the volume. Do you want to continue? (y/n) y

image-20210926184528698


當沒有停止卷而嘗試刪除卷,則報錯

[root@node1 ~]# gluster volume delete dis-rep 
Deleting volume will erase all information about the volume. Do you want to continue? (y/n) y
volume delete: dis-rep: failed: Volume dis-rep has been started.Volume needs to be stopped before deletion.

image-20210926185133657


當信任池中有處於宕機狀態的主機,刪除時則報錯

#宕機 node3.然后停止卷 rep-volume,並嘗試刪除
[root@node1 ~]# gluster volume stop  rep-volume
[root@node1 ~]# gluster volume delete  rep-volume 
#報錯
volume delete: rep-volume: failed: Some of the peers are down

image-20210926185636238


6.2.6設置卷的訪問控制值

設置白名單(僅允許)

[root@node1 ~]# gluster volume  set dis-rep auth.allow 192.168.23.104
volume set: success

image-20210926190316004


設置黑名單(僅拒絕)

[root@node1 ~]# gluster volume set rep-volume auth.reject 192.168.23.104
volume set: success

image-20210926191539086


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM