GFS分布式文件系統概述及集群部署


目錄:

一、GlusterFS概述

二、GFS部署

三、客戶端部署與測試

 

一、GlusterFS概述
1、GlusterFS簡介
① GlusterFS是一-個開源的分布式文件系統。
由存儲服務器、客戶端以及NFS/Samba存儲網關(可選,根據需要選擇使用)組成。
沒有元數據服務器組件,這有助於提升整個系統的性能、可靠性和穩定性。

② 傳統的分布式文件系統大多通過元服務器來存儲元數據,元數據包含存儲節點上的目錄信息、目錄結構等。這樣的設計在瀏覽目錄時效率高,但是也存在一-些缺陷,例如單點故障。一旦元數據服務器出現故障,即使節點具備再高的冗余性,整個存儲系統也將崩潰。而GlusterFS分布式文件系統是基於無元服務器的設計,數據橫向擴展能力強,具備較高的可靠性及存儲效率。

③ GlusterFS同時也是Scale-Out ( 橫向擴展) 存儲解決方案Gluster的核心,在存儲數據方面具有強大的橫向擴展能力,通過擴展能夠支持數PB存儲容量和處理數千客戶端。

④ GlusterFS支持借助TCP/ IP或InfiniBandRDMA網絡(一種支持多並發鏈接的技術,具有高帶寬、低時延、高擴展性的特點)將物理分散分布的存儲資源匯聚在一-起,統一提供存儲服務,並使用統一-全局命名空間來管理數據。

2、GlusterFS特點
● 擴展性和高性能
GlusterFS利用雙重特性來提供高容量存儲解決方案。

(1)Scale-Out架構允許通過簡單地增加存儲節點的方式來提高存儲容量和性能(磁盤、計算和I/0資源都可以獨立增加),支持10GbE和InfiniBand等 高速網絡互聯

(2) Gluster彈 性哈希(ElasticHash) 解決了GlusterFS對元數據服務器的依賴,改善了單點故障和性能瓶頸,真正實現了並行化數據訪問。GlusterFS采用彈性哈希算法在存儲池中可以智能地定位任意數據分片(將數據分片存儲在不同節點上),不需要查看索引或者向元數據服務器查詢

● 高可用性
GlusterFS可以對文件進行自動復制,如鏡像或多次復制,從而確保數據總是可以訪問,甚至是在硬件故障的情況下也能正常訪問

當數據出現不一致時,自我修復功能能夠把數據恢復到正確的狀態,數據的修復是以增量的方式在后台執行,幾乎不會產生性能負載。

GlusterFS可以支持所有的存儲,因為它沒有設計自己的私有數據文件格式,而是采用操作系統中主流標准的磁盤文件系統(如EXT3、XFS等)來存儲文件,因此數據可以使用傳統訪問磁盤的方式被訪問

● 全局統一命名空間
分布式存儲中,將所有節點的命名空間整合為統一命名空間,將整個系統的所有節點的存儲容量組成一-個大的虛擬存儲池,供前端主機訪問這些節點完成數據讀寫操作

● 彈性卷管理
GlusterFS通過將數據儲存在邏輯卷中,邏輯卷從邏輯存儲池進行獨立邏輯划分而得到

邏輯存儲池可以在線進行增加和移除,不會導致業務中斷。邏輯卷可以根據需求在線增長和縮減,並可以在多個節點中實現負載均衡

文件系統配置也可以實時在線進行更改並應用,從而可以適應工作負載條件變化或在線性能調優

● 基於標准協議
Gluster存儲服務支持NFS、CIFS、HTTP、 FTP、SMB及Gluster原生協議,完全與POSIX 標准( 可移植操作系統接口)兼容

現有應用程序不需要做任何修改就可以對Gluster中的數據進行訪問,也可以使用專用API進行訪問

3、GlusterFS術語
● Brick (存儲塊) :
指可信主機池中由主機提供的用於物理存儲的專用分區,是GlusterFS中的基本存儲單元,同時也是可信存儲池中服務器上對外提供的存儲目錄

存儲目錄的格式由服務器和目錄的絕對路徑構成,表示方法為SERVER: EXPORT,如192.168.80.10:/data/mydir/

● Volume (邏輯卷) :
一個邏輯卷是一組Brick 的集合。卷是數據存儲的邏輯設備,|類似於LVM中的邏輯卷。大部分Gluster
管理操作是在卷上進行的

● FUSE:
是一個內核模塊,允許用戶創建自己的文件系統,無須修改內核代碼

● VFS:
內核空間對用戶空間提供的訪問磁盤的接口

● Glusterd ( 后台管理進程) :
在存儲群集中的每個節點上都要運行

4、模塊化堆棧式架構
GlusterFS采用模塊化、堆棧式的架構。
通過對模塊進行各種組合,即可實現復雜的功能。例如Replicate 模塊可實現RAID1,Stripe 模塊可實現RAIDO
通過兩者的組合可實現RAID10和RAID01,同時獲得更高的性能及可靠性。.

5、GlusterFS 工作流程
(1) 客戶端或應用程序通過GlusterFS 的掛載點訪問數據。

(2) linux 系統內核通過VFS API收到請求並處理。

(3) VFS將數據遞交給FUSE內核文件系統,並向系統注冊-一個實際的文件系統FUSE,而FUSE文件系統則是將數據通過/dev/fuse 設備文件遞交給了GlusterFS client端。可以將FUSE 文件系統理解為一個代理。

(4) GlusterFS client 收到數據后,client 根據配置文件的配置對數據進行處理。

(5) 經過GlusterFS client 處理后,通過網絡將數據傳遞至遠端的GlusterFS Server,並且將數據寫入到服務器存儲設備上。

6、彈性HASH算法
彈性HASH 算法是Davies-Meyer 算法的具體實現,通過HASH 算法可以得到一個32位的整數范圍的hash 值,假設邏輯卷中有N個存儲單位Brick, 則32位的整數范圍將被划分為N個連續的子空間,每個空間對應一個Brick。當用戶或應用程序訪問某一個命名空間時,通過對該命名空間計算HASH值,根據該HASH值所對應的32位整數空間定位數據所在的Brick。

彈性HASH 算法的優點:

  • 保證數據平均分布在每一個Brick中。
  • 解決了對元數據服務器的依賴,進而解決了單點故障以及訪問瓶頸。

7、GlusterFs的卷類型

GlusterFS支持七種卷,即分布式卷、條帶卷、復制卷、分布式條帶卷、分布式復制卷、條帶復制卷和分布式條帶復制卷

● 分布式卷( Distribute volume)

文件通過HASH算法分布到所有Brick Server上,這種卷是GlusterFS 的默認卷;以文件為單位根據HASH算法散列到不同的Brick, 其實只是擴大了磁盤空間,如果有一塊磁盤損壞,數據也將丟失,屬於文件級的RAIDO,不具有容錯能力

在該模式下,並沒有對文件進行分塊處理,文件直接存儲在某個Server 節點上
由於直接使用本地文件系統進行文件存儲,所以存取效率並沒有提高,反而會因為網絡通信的原因而有所降低

示例原理:
File1 和File2存放在Server1, 而File3存放在Server2, 文件都是隨機存儲,一個文件(如Filel) 要么在Server1上,要么在Server2上,不能分塊同時存放在Server1和 Server2上

分布式卷具有如下特點:

  • 文件分布在不同的服務器,不具備冗余性
  • 更容易和廉價地擴展卷的大小
  • 單點故障會造成數據丟失
  • 依賴底層的數據保護

創建一個名為dis-volume的分布式卷,文件將根據HASH分布在server1 :/dir1、server2:/dir2 和server3:/dir3中

gluster volume create dis-volume server1:/dir1 server2:/dir2 server3:/dir3

 

● 條帶卷(Stripe volume) :

類似RAIDO,文件被分成數據塊並以輪詢的方式分布到多個BrickServer.上,文件存儲以數據塊為單位,支持大文件存儲,文件越大,讀取效率越高,但是不具備冗余性

示例原理:
File被分割為6段,1、3、5放在Server1,2、4、6放在Server2

條帶卷特點:

  • 數據被分割成更小塊分布到塊服務器群中的不同條帶區
  • 分布減少了負載且更小的文件加速了存取的速度
  • 沒有數據冗余

創建了一個名為stripe-volume的條帶卷,文件將被分塊輪詢的存儲在Server1 : /dir1和Server2:/dir2兩個Brick中

gluster volume create stripe-volume stripe 2 transport tcp server1:/dir1 server2:/dir2

 

● 復制卷(Replica volume) :

將文件同步到多個Brick 上,使其具備多個文件副本,屬於文件級RAID 1,具有容錯能力。因為數據分散在多個Brick中,所以讀性能得到很大提升,但寫性能下降
復制卷具備冗余性,即使一個節點損壞,也不影響數據的正常使用。但因為要保存副本,所以磁盤利用率較低

示例原理:
File1同時存在Server1 和Server2, File2 也是如此,相當於Server2 中的文件是Server1 中文件的副本

復制卷特點:

  • 卷中所有的服務器均保存一個完整的副本
  • 卷的副本數量可由客戶創建的時候決定,但復制數必須等於卷中Brick所包含的存儲服務器數
  • 至少由兩個塊服務器或更多服務器
  • 具備冗余性

創建名為rep-volume的復制卷,文件將同時存儲兩個副本,分別在Server1 :/dir1和Server2:/dir2兩個Brick中

gluster volume create rep-volume replica 2 transport tcp server1:/dir1 server2:/dir2

 

● 分布式條帶卷(Distribute Stripe volume) :

BrickServer數量是條帶數(數據塊分布的Brick數量)的倍數,兼具分布式卷和條帶卷的特點
主要用於大文件訪問處理,創建一個分布式條帶卷最少需要4台服務器

示例原理:
Filel和File2 通過分布式卷的功能分別定位到Server1和Server2。 在Serverl 中,File1 被分割成4段,其中1、3在Server1中的exp1目錄中,2、4在Server1中的exp2 目錄中。在Server2 中,File2也被分割成4段,其中1、3在Server2中的exp3目錄中,2、4在Server2中的exp4 目錄中

創建一個名為dis-stripe的分布式條帶卷,配置分布式的條帶卷時,卷中Brick所包含的存儲服務器數必須是條帶數的倍數(>=2倍)。Brick的數量是4 (Server1:/dir1、 Server2:/dir2、 Server3:/dir3 和Server4:/dir4) ,條帶數為2 (stripe 2)

gluster volume create dis-stripe stripe 2 transport tcp server1:/dir1 server2:/dir2 server3:/dir3 server4:/dir4

創建卷時,存儲服務器的數量如果等於條帶或復制數,那么創建的是條帶卷或者復制卷;如果存儲服務器的數量是條帶或復制數的2倍甚至更多,那么將創建的是分布式條帶卷或分布式復制卷

 

 

 

● 分布式復制卷(Distribute Replica volume) :

Brick Server數量是鏡像數( 數據副本數量)的倍數,兼具分布式卷和復制卷的特點。主要用於需要冗余的情況下。

示例原理:
File1和File2 通過分布式卷的功能分別定位到Server1 和Server2。 在存放File1 時,File1
根據復制卷的特性,將存在兩個相同的副本,分別是Server1中的exp1目錄和Server2中的exp2目錄。在存放File2
時,File2 根據復制卷的特性,也將存在兩個相同的副本,分別是Server3 中的exp3 目 錄和Server4中的exp4 目錄。

創建一個名為dis-rep的分布式復制卷,配置分布式的復制卷時,卷中Brick所包含的存儲服務器數必須是復制數的倍數(>=2倍)。Brick 的數量是4 ( Server1: /dir1、 Server2: /dir2、 Server3: /dir3 和Server4: /dir4),復制數為2 (replica 2 )

gluster volume create dis-rep replica 2 transport tcp server1: /dir1 server2: /dir2 server3: /dir3 server4: /dir4 

 

 

● 條帶復制卷(Stripe Replica volume) :
類似RAID10,同時具有條帶卷和復制卷的特點

● 分布式條帶復制卷(Distribute Stripe Replicavolume) :
三種基本卷的復合卷,通常用於類Map Reduce 應用

二、GFS部署

1、集群環境

Node1節點:node1/192.168.91.5 磁盤: /dev/sdb1 掛載點: /data/sdb1
/dev/sdc1       /data/sdc1
/dev/sdd1      /data/sdd1
/dev/sde1      /data/sde1

Node2節點:node2/192.168.91.10    磁盤: /dev/sdb1 掛載點: /data/sdb1
/dev/sdc1       /data/sdc1
/dev/sdd1      /data/sdd1
/dev/sde1      /data/sde1

Node3節點:node3/192.168.91.15   磁盤: /dev/sdb1 掛載點: /data/sdb1
/dev/sdc1      /data/sdc1
/dev/sdd1      /data/sdd1
/dev/sde1      /data/sde1

Node4節點:node4/192.168.91.20      磁盤: /dev/sdb1 掛載點: /data/sdb1
/dev/sdc1      /data/sdc1
/dev/sdd1      /data/sdd1
/dev/sde1      /data/sde1

=====客戶端節點:192.168.91.25=====

1、首先,每台節點添加四塊磁盤,僅做實驗,無需太大
2、然后,重啟服務器,准備開始部署  

 

1、關閉防火牆

systemctl stop firewalld
setenforce 0

 

2、更改節點名稱

#以Node1節點為例:
hostnamectl set-hostname node1
su

echo "192.168.116.60 node1" >> /etc/hosts     #做IP與主機名映射
echo "192.168.116.70 node2" >> /etc/hosts
echo "192.168.116.80 node3" >> /etc/hosts
echo "192.168.116.90 node4" >> /etc/hosts

 

3、磁盤分區,並掛載 

vim /opt/fdisk.sh

#!/bin/bash
NEWDEV=`ls /dev/sd* | grep -0 'sd[b-z]'  | uniq`
for VAR in $NEWDEV
do
echo -e "n\np\n\n\n\nw\n" | fdisk /dev/$VAR &> /dev/null
mkfs.xfs /dev/${VAR}"1" &> /dev/null
mkdir -p /data/${VAR}"1" &> /dev/null
echo "/dev/${VAR}"1" /data/${VAR}"1" xfs defaults 0 0" >> /etc/fstab 
done
mount -a &> /dev/null

chmod +x /opt/fdisk.sh 
cd /opt/
./fdisk.sh

 

 

 

 

----- 安裝、啟動GlusterFS (所有node節點上操作) -----
#將gfsrepo軟件.上傳到/opt目錄下
cd /etc/yum.repos.d/
mkdir repo.bak
mv *.repo repo.bak

vim glfs.repo 
[glfs]
name=glfs
baseurl= file:///opt/gfsrepo
gpgcheck=0
enabled=1
yum clean all && yum makecache
#yum -y install centos-release-gluster
#如采用官方YUM源安裝,可以直接指向互聯網倉庫
yum -y install glusterfs glusterfs-server glusterfs-fuse glusterfs-rdma

systemctl start glusterd. service
systemctl enable glusterd. service
systemctl status glusterd. service

每個節點都要操作

 

 

 

 

========添加節點到存儲信任池/群集中(在 node1 節點上操作)========
#只要在一台Node節點上添加其它節點即可
gluster peer probe node1
gluster peer probe node2
gluster peer probe node3
gluster peer probe node4

#在每個Node節點上查看群集狀態
gluster peer status

 

========根據以下規划創建卷=========
卷名稱 				卷類型				Brick
dis-volume			分布式卷			node1(/data/sdb1)、node2(/data/sdb1)
stripe-volume		        條帶卷			node1(/data/sdc1)、node2(/data/sdc1)
rep-volume			復制卷			node3(/data/sdb1)、node4(/data/sdb1)
dis-stripe			分布式條帶卷		node1(/data/sdd1)、node2(/data/sdd1)、node3(/data/sdd1)、node4(/data/sdd1)
dis-rep				分布式復制卷		node1(/data/sde1)、node2(/data/sde1)、node3(/data/sde1)、node4(/data/sde1)

1.創建分布式卷
#創建分布式卷,沒有指定類型,默認創建的是分布式卷
gluster volume create dis-volume node1:/data/sdb1 node2:/data/sdb1 force	

#查看卷列表
gluster volume list

#啟動新建分布式卷
gluster volume start dis-volume

#查看創建分布式卷信息
gluster volume info dis-volume

2.創建條帶卷
#指定類型為 stripe,數值為 2,且后面跟了 2 個 Brick Server,所以創建的是條帶卷
gluster volume create stripe-volume stripe 2 node1:/data/sdc1 node2:/data/sdc1 force
gluster volume start stripe-volume
gluster volume info stripe-volume


3.創建復制卷
#指定類型為 replica,數值為 2,且后面跟了 2 個 Brick Server,所以創建的是復制卷
gluster volume create rep-volume replica 2 node3:/data/sdb1 node4:/data/sdb1 force
gluster volume start rep-volume
gluster volume info rep-volume


4.創建分布式條帶卷
#指定類型為 stripe,數值為 2,而且后面跟了 4 個 Brick Server,是 2 的兩倍,所以創建的是分布式條帶卷
gluster volume create dis-stripe stripe 2 node1:/data/sdd1 node2:/data/sdd1 node3:/data/sdd1 node4:/data/sdd1 force
gluster volume start dis-stripe
gluster volume info dis-stripe


5.創建分布式復制卷
#指定類型為 replica,數值為 2,而且后面跟了 4 個 Brick Server,是 2 的兩倍,所以創建的是分布式復制卷
gluster volume create dis-rep replica 2 node1:/data/sde1 node2:/data/sde1 node3:/data/sde1 node4:/data/sde1 force
gluster volume start dis-rep
gluster volume info dis-rep	
gluster volume list

 

 

 

 

 

三、客戶端部署與測試

1.將gfsrepo軟件.上傳到/opt目錄下

2.配置本地yum源
cd /etc/yum.repos.d/
mkdir repo.bak
mv *.repo repo.bak

vim glfs.repo
[glfs]
name=glfs
baseurl=file:///opt/gfsrepo
gpgcheck=0
enabled=1

yum clean all && yum makecache

yum -y install glusterfs glusterfs-fuse

3.創建掛載目錄
mkdir -p /test/{dis,stripe,rep,dis_stripe,dis_rep}
ls /test

4.配置/etc/hosts 文件
echo "192.168.116.60 node1" >> /etc/hosts
echo "192.168.116.70 node2" >> /etc/hosts
echo "192.168.116.80 node3" >> /etc/hosts
echo "192.168.116.90 node4" >> /etc/hosts	

5.掛載 Gluster 文件系統
#臨時掛載
mount.glusterfs node1:dis-volume /test/dis
mount.glusterfs node1:stripe-volume /test/stripe
mount.glusterfs node1:rep-volume /test/rep
mount.glusterfs node1:dis-stripe /test/dis_stripe
mount.glusterfs node1:dis-rep /test/dis_rep

df -Th

#永久掛載
vim /etc/fstab
node1:dis-volume			/test/dis				glusterfs		defaults,_netdev		0 0
node1:stripe-volume		/test/stripe			glusterfs		defaults,_netdev		0 0
node1:rep-volume			/test/rep				glusterfs		defaults,_netdev		0 0
node1:dis-stripe			/test/dis_stripe			glusterfs		defaults,_netdev		0 0
node1:dis-rep			/test/dis_rep			glusterfs		defaults,_netdev		0 0

 

 

 

 

======測試 Gluster 文件系統======

1.卷中寫入文件,客戶端操作

cd /opt
dd if=/dev/zero of=/opt/demo1.log bs=1M count=40
dd if=/dev/zero of=/opt/demo2.log bs=1M count=40
dd if=/dev/zero of=/opt/demo3.log bs=1M count=40
dd if=/dev/zero of=/opt/demo4.log bs=1M count=40
dd if=/dev/zero of=/opt/demo5.log bs=1M count=40

ls -lh /opt

cp demo* /test/dis
cp demo* /test/stripe/
cp demo* /test/rep/
cp demo* /test/dis_stripe/
cp demo* /test/dis_rep/

2.查看文件分布

#查看分布式文件分布
[root@node1 ~]# ls -lh /data/sdb1					#數據沒有被分片
總用量 160M
-rw-r--r-- 2 root root 40M 12月 18 14:50 demo1.log
-rw-r--r-- 2 root root 40M 12月 18 14:50 demo2.log
-rw-r--r-- 2 root root 40M 12月 18 14:50 demo3.log
-rw-r--r-- 2 root root 40M 12月 18 14:50 demo4.log
[root@node2 ~]# ll -h /data/sdb1
總用量 40M
-rw-r--r-- 2 root root 40M 12月 18 14:50 demo5.log

#查看條帶卷文件分布
[root@node1 ~]# ls -lh /data/sdc1					#數據被分片50% 沒副本 沒冗余
總用量 101M
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo1.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo2.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo3.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo4.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo5.log

[root@node2 ~]# ll -h /data/sdc1					#數據被分片50% 沒副本 沒冗余
總用量 101M
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo1.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo2.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo3.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo4.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo5.log

#查看復制卷分布
[root@node3 ~]# ll -h /data/sdb1					#數據沒有被分片 有副本 有冗余     
總用量 201M
-rw-r--r-- 2 root root 40M 12月 18 14:51 demo1.log
-rw-r--r-- 2 root root 40M 12月 18 14:51 demo2.log
-rw-r--r-- 2 root root 40M 12月 18 14:51 demo3.log
-rw-r--r-- 2 root root 40M 12月 18 14:51 demo4.log
-rw-r--r-- 2 root root 40M 12月 18 14:51 demo5.log

[root@node4 ~]# ll -h /data/sdb1					#數據沒有被分片 有副本 有冗余
總用量 201M
-rw-r--r-- 2 root root 40M 12月 18 14:51 demo1.log
-rw-r--r-- 2 root root 40M 12月 18 14:51 demo2.log
-rw-r--r-- 2 root root 40M 12月 18 14:51 demo3.log
-rw-r--r-- 2 root root 40M 12月 18 14:51 demo4.log
-rw-r--r-- 2 root root 40M 12月 18 14:51 demo5.log

#查看分布式條帶卷分布
[root@node1 ~]# ll -h /data/sdd1					#數據被分片50% 沒副本 沒冗余
總用量 81M
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo1.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo2.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo3.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo4.log

[root@node2 ~]# ll -h /data/sdd1
總用量 81M
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo1.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo2.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo3.log
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo4.log

[root@node3 ~]# ll -h /data/sdd1
總用量 21M
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo5.log

[root@node4 ~]# ll -h /data/sdd1
總用量 21M
-rw-r--r-- 2 root root 20M 12月 18 14:51 demo5.log

#查看分布式復制卷分布						#數據沒有被分片 有副本 有冗余
[root@node1 ~]# ll -h /data/sde1
總用量 161M
-rw-r--r-- 2 root root 40M 12月 18 14:52 demo1.log
-rw-r--r-- 2 root root 40M 12月 18 14:52 demo2.log
-rw-r--r-- 2 root root 40M 12月 18 14:52 demo3.log
-rw-r--r-- 2 root root 40M 12月 18 14:52 demo4.log

[root@node2 ~]# ll -h /data/sde1
總用量 161M
-rw-r--r-- 2 root root 40M 12月 18 14:52 demo1.log
-rw-r--r-- 2 root root 40M 12月 18 14:52 demo2.log
-rw-r--r-- 2 root root 40M 12月 18 14:52 demo3.log
-rw-r--r-- 2 root root 40M 12月 18 14:52 demo4.log

[root@node3 ~]# ll -h /data/sde1
總用量 41M
-rw-r--r-- 2 root root 40M 12月 18 14:52 demo5.log
[root@node3 ~]# 

[root@node4 ~]# ll -h /data/sde1
總用量 41M
-rw-r--r-- 2 root root 40M 12月 18 14:52 demo5.log

 

 

文件分布就不展示了,太多截圖了

======破壞性測試======
#掛起 node2 節點或者關閉glusterd服務來模擬故障
[root@node2 ~]# systemctl stop glusterd.service

#在客戶端上查看文件是否正常
#分布式卷數據查看
[root@localhost dis]# ll 						#在客戶端上發現少了demo5.log文件,這個是在node2上的
總用量 163840
-rw-r--r-- 1 root root 41943040 12月 18 14:50 demo1.log
-rw-r--r-- 1 root root 41943040 12月 18 14:50 demo2.log
-rw-r--r-- 1 root root 41943040 12月 18 14:50 demo3.log
-rw-r--r-- 1 root root 41943040 12月 18 14:50 demo4.log

#條帶卷
[root@localhost text]# cd stripe/					#無法訪問,條帶卷不具備冗余性
[root@localhost stripe]# ll
總用量 0

#掛起 node2 和 node4 節點,在客戶端上查看文件是否正常
#測試復制卷是否正常

[root@localhost rep]# ls -l						#在客戶機上測試正常 數據有
總用量 204800
-rw-r--r-- 1 root root 41943040 12月 18 14:51 demo1.log
-rw-r--r-- 1 root root 41943040 12月 18 14:51 demo2.log
-rw-r--r-- 1 root root 41943040 12月 18 14:51 demo3.log
-rw-r--r-- 1 root root 41943040 12月 18 14:51 demo4.log
-rw-r--r-- 1 root root 41943040 12月 18 14:51 demo5.log


#測試分布式條帶卷是否正常
[root@localhost dis_stripe]# ll						#在客戶機上測試正常 沒有數據 
總用量 0


#測試分布式復制卷是否正常
[root@localhost dis_rep]# ll         #在客戶機上測試正常 有數據
總用量 204800
-rw-r--r-- 1 root root 41943040 12月 18 14:52 demo1.log
-rw-r--r-- 1 root root 41943040 12月 18 14:52 demo2.log
-rw-r--r-- 1 root root 41943040 12月 18 14:52 demo3.log
-rw-r--r-- 1 root root 41943040 12月 18 14:52 demo4.log
-rw-r--r-- 1 root root 41943040 12月 18 14:52 demo5.log

 

 

其他就不一一測試了

測試總結
凡是帶復制的卷,相比而言,數據比較安全

分布式卷文件分布:數據不被分片

條帶卷文件分布:數據被分片 ,沒副本 ,沒冗余

復制卷文件分布:數據不被分片,有副本,可以冗余

分布式條帶卷文件分布:數據被分片,無副本,沒冗余

分布式復制卷文件分布:數據不被分片,有副本,可以冗余

補充:
其它GFS常用命令

1.查看GlusterFS卷
gluster volume list 

2.查看所有卷的信息
gluster volume info

3.查看所有卷的狀態
gluster volume status

4.停止一個卷
gluster volume stop dis-stripe

5.刪除一個卷,注意:刪除卷時,需要先停止卷,且信任池中不能有主機處於宕機狀態,否則刪除不成功
gluster volume delete dis-stripe

6.設置卷的訪問控制
#僅拒絕
gluster volume set dis-rep auth.allow 192.168.184.100

#僅允許
gluster volume set dis-rep auth.allow 192.168.184.*	  #設置192.168.184.0網段的所有IP地址都能訪問dis-rep卷(分布式復制卷

  

 

 

 

 

  

 

 

 

 

 

  

 

  

 

 

 

 

  

 

 

 

 

 

 

 

 

  

 

  

  

  


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM