一、文件接口性能測試
1、小文件讀寫性能測試
測試文件大小為64KB,數量為100萬個,文件IO大小為32KB,文件操作設置為6:4混合讀寫,運行時長為10分鍾
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
fsd=fsd1,anchor=/client/smalltest1,depth=2,width=100,files=100,size=64k,shared=yes
fwd=format,threads=32,xfersize=32k
fwd=default,xfersize=32k,fileio=random,fileselect=random,rdpct=60,threads=32
fwd=fwd1,fsd=fsd1,host=hd1
fwd=fwd2,fsd=fsd1,host=hd2
fwd=fwd3,fsd=fsd1,host=hd3
rd=rd1,fwd=fwd*,fwdrate=max,format=restart,elapsed=600,interval=1
2、小文件時延性能測試
測試文件大小為4KB,數量為100萬個,文件IO大小為4KB,文件操作設置為100%讀,運行時長為10分鍾
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
fsd=fsd1,anchor=/client/smalltest2,depth=2,width=100,files=100,size=4k,shared=yes
fwd=format,threads=32,xfersize=4k
fwd=default,operation=read,xfersize=4k,fileio=random,fileselect=sequential,threads=32
fwd=fwd1,fsd=fsd1,host=hd1
fwd=fwd2,fsd=fsd1,host=hd2
fwd=fwd3,fsd=fsd1,host=hd3
rd=rd1,fwd=fwd*,fwdrate=max,format=restart,elapsed=600,interval=1
3、大文件讀寫性能測試
測試文件大小為200MB,數量為3000個,文件IO大小為1MB,文件操作設置為6:4混合讀寫,運行時長為10分鍾
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
fsd=fsd1,anchor=/client/largetest1,depth=1,width=100,files=30,size=200m,shared=yes
fwd=format,threads=32,xfersize=1m
fwd=default,xfersize=1m,fileio=random,fileselect=random,rdpct=60,threads=32
fwd=fwd1,fsd=fsd1,host=hd1
fwd=fwd2,fsd=fsd1,host=hd2
fwd=fwd3,fsd=fsd1,host=hd3
rd=rd1,fwd=fwd*,fwdrate=max,format=restart,elapsed=600,interval=1
4、大文件時延性能測試
測試文件大小為1MB,數量為50萬個,文件IO大小為1MB,文件操作設置為100%讀,運行時長為10分鍾
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
fsd=fsd1,anchor=/client/largetest2,depth=2,width=100,files=50,size=1m,shared=yes
fwd=format,threads=32,xfersize=1m
fwd=default,operation=read,xfersize=1m,fileio=random,fileselect=sequential,threads=32
fwd=fwd1,fsd=fsd1,host=hd1
fwd=fwd2,fsd=fsd1,host=hd2
fwd=fwd3,fsd=fsd1,host=hd3
rd=rd1,fwd=fwd*,fwdrate=max,format=restart,elapsed=600,interval=1
二、塊接口性能測試
以下測試基於三節點集群環境,配置三個客戶端一對一掛載訪問
-
存儲系統以4T划分所有可用存儲空間的50%,不足4T的空間按實際大小划分卷,存儲系統中所有已划分空間按1024k塊大小寫滿
注:單個硬盤大小為3800000MB,當前集群容量為124TB,集群可用容量為62,當前可用存儲空間的50%大小為31TB -
划分7個4TB的LUN,1個3TB的LUN,三個集群節點各出一個target,平分這8個LUN,客戶端一對一進行target連接訪問,各客戶端節點使用下面的fio測試命令進行數據寫入
-
在性能測試的時候,進行存儲定義SD的時候,三個客戶端按照2個4TB、2個4TB&1個3TB、3個4TBLUN數量比例進行LUN掛載,進行預填充數據之后,對這部分已掛載LUN重新進行性能數據測試
進行工作負載定義WD的時候,對於每個工作負載定義中sd的定義,則寫sd*即可,屆時測試的時候,vdbench會根據之前存儲定義部分的LUN進行測試
#fio預填充數據使用以下命令
[global]
ioengine=aio
invalidate=0 # mandatory
rw=write
direct=1
bs=1024k
group_reporting
[test1]
iodepth=32
size=4096g
filename=/dev/sdb
[test2]
iodepth=32
size=4096g
filename=/dev/sdc
1、8k數據塊隨機讀寫性能測試
8K塊大小隨機讀寫,讀寫比例為7:3,測試數據量為400G
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node112
hd=hd2,system=node113
hd=hd3,system=node114
sd=sd1,hd=hd1,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd2,hd=hd1,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd3,hd=hd2,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd4,hd=hd2,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd5,hd=hd2,lun=/dev/sdd,openflags=o_direct,threads=6
sd=sd6,hd=hd3,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd7,hd=hd3,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd8,hd=hd3,lun=/dev/sdd,openflags=o_direct,threads=6
wd=wd1,sd=sd*,seekpct=100,rdpct=70,xfersize=8k
rd=rd1,wd=wd1,iorate=max,elapse=604800,maxdata=400GB,interval=5,warmup=30
2、1024k數據塊順序讀寫性能測試
1M塊大小隨機讀寫,讀寫比例為7:3,測試數據量為400G
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node112
hd=hd2,system=node113
hd=hd3,system=node114
sd=sd1,hd=hd1,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd2,hd=hd1,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd3,hd=hd2,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd4,hd=hd2,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd5,hd=hd2,lun=/dev/sdd,openflags=o_direct,threads=6
sd=sd6,hd=hd3,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd7,hd=hd3,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd8,hd=hd3,lun=/dev/sdd,openflags=o_direct,threads=6
wd=wd1,sd=sd*,seekpct=0,rdpct=70,xfersize=1024k
rd=rd1,wd=wd1,iorate=max,elapse=604800,maxdata=400GB,interval=5,warmup=30
3、綜合模型讀寫性能測試
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node112
hd=hd2,system=node113
hd=hd3,system=node114
sd=sd1,hd=hd1,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd2,hd=hd1,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd3,hd=hd2,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd4,hd=hd2,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd5,hd=hd2,lun=/dev/sdd,openflags=o_direct,threads=6
sd=sd6,hd=hd3,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd7,hd=hd3,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd8,hd=hd3,lun=/dev/sdd,openflags=o_direct,threads=6
wd=wd1,sd=sd*,seekpct=100,rdpct=100,xfersize=8k,skew=40
wd=wd2,sd=sd*,seekpct=100,rdpct=0,xfersize=8k,skew=10
wd=wd3,sd=sd*,seekpct=100,rdpct=100,xfersize=1024k,skew=40
wd=wd4,sd=sd*,seekpct=100,rdpct=0,xfersize=1024k,skew=10
rd=rd1,wd=wd*,iorate=max,elapse=604800,maxdata=400GB,interval=5,warmup=30
4、OLTP模型讀寫性能測試
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node112
hd=hd2,system=node113
hd=hd3,system=node114
sd=sd1,hd=hd1,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd2,hd=hd1,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd3,hd=hd2,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd4,hd=hd2,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd5,hd=hd2,lun=/dev/sdd,openflags=o_direct,threads=6
sd=sd6,hd=hd3,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd7,hd=hd3,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd8,hd=hd3,lun=/dev/sdd,openflags=o_direct,threads=6
wd=wd1,sd=sd*,seekpct=100,rdpct=100,xfersize=8k,skew=20
wd=wd2,sd=sd*,seekpct=100,rdpct=100,xfersize=4k,skew=45
wd=wd3,sd=sd*,seekpct=100,rdpct=0,xfersize=8k,skew=15
wd=wd4,sd=sd*,seekpct=0,rdpct=100,xfersize=64k,skew=10
wd=wd5,sd=sd*,seekpct=0,rdpct=0,xfersize=64k,skew=10
rd=rd1,wd=wd*,iorate=max,elapse=604800,maxdata=400GB,interval=5,warmup=30
5、OLAP模型讀寫性能測試
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node112
hd=hd2,system=node113
hd=hd3,system=node114
sd=sd1,hd=hd1,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd2,hd=hd1,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd3,hd=hd2,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd4,hd=hd2,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd5,hd=hd2,lun=/dev/sdd,openflags=o_direct,threads=6
sd=sd6,hd=hd3,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd7,hd=hd3,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd8,hd=hd3,lun=/dev/sdd,openflags=o_direct,threads=6
wd=wd1,sd=sd*,seekpct=100,rdpct=100,xfersize=4k,skew=15
wd=wd2,sd=sd*,seekpct=100,rdpct=0,xfersize=4k,skew=5
wd=wd3,sd=sd*,seekpct=0,rdpct=100,xfersize=64k,skew=70
wd=wd4,sd=sd*,seekpct=0,rdpct=0,xfersize=64k,skew=10
rd=rd1,wd=wd*,iorate=max,elapse=604800,maxdata=400GB,interval=5,warmup=30
6、8k數據塊隨機讀寫時延測試
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node112
hd=hd2,system=node113
hd=hd3,system=node114
sd=sd1,hd=hd1,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd2,hd=hd1,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd3,hd=hd2,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd4,hd=hd2,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd5,hd=hd2,lun=/dev/sdd,openflags=o_direct,threads=6
sd=sd6,hd=hd3,lun=/dev/sdb,openflags=o_direct,threads=6
sd=sd7,hd=hd3,lun=/dev/sdc,openflags=o_direct,threads=6
sd=sd8,hd=hd3,lun=/dev/sdd,openflags=o_direct,threads=6
wd=wd1,sd=sd*,seekpct=100,rdpct=70,xfersize=8k
rd=rd1,wd=wd1,iorate=max{可自行調整},elapse=604800,maxdata=400GB,interval=5,warmup=30
三、系統測試
1、【文件】4K隨機讀寫測試
1.1、4K隨機寫
測試文件大小為64KB,數量為144萬個,文件IO大小為4KB,文件操作設置為100%寫,運行時長為10分鍾
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
fsd=fsd1,anchor=/client/smalltest01,depth=2,width=120,files=100,size=64k,shared=yes
fwd=format,threads=32,xfersize=4k
fwd=default,operation=write,xfersize=4k,fileio=random,fileselect=random,threads=32
fwd=fwd1,fsd=fsd1,host=hd1
fwd=fwd2,fsd=fsd1,host=hd2
fwd=fwd3,fsd=fsd1,host=hd3
rd=rd1,fwd=fwd*,fwdrate=max,format=restart,elapsed=600,interval=1
1.2、4K隨機讀
測試文件大小為64KB,數量為144萬個,文件IO大小為4KB,文件操作設置為100%讀,運行時長為10分鍾
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
fsd=fsd1,anchor=/client/smalltest02,depth=2,width=120,files=100,size=64k,shared=yes
fwd=format,threads=32,xfersize=4k
fwd=default,operation=read,xfersize=4k,fileio=random,fileselect=random,threads=32
fwd=fwd1,fsd=fsd1,host=hd1
fwd=fwd2,fsd=fsd1,host=hd2
fwd=fwd3,fsd=fsd1,host=hd3
rd=rd1,fwd=fwd*,fwdrate=max,format=restart,elapsed=600,interval=1
1.3、4K順序混合讀寫
測試文件大小為4KB,數量為2048個,數據量1T,文件IO大小為4KB,文件操作設置為70%讀,運行時長為5分鍾
messagescan=no
hd=default,vdbench=/root/vdbench/vdbench50406,user=root,shell=ssh
hd=hd1,system=node13
hd=hd2,system=node14
hd=hd3,system=node15
hd=hd4,system=node16
hd=hd5,system=node17
hd=hd6,system=node18
hd=hd7,system=node19
hd=hd8,system=node20
fsd=default,openflags=directio,depth=1,width=1,files=2048,size=512MB,shared=yes
fsd=fsd1,anchor=/client/4ksr
fwd=format,threads=64,xfersize=4k
fwd=default,xfersize=4k,fileio=sequential,fileselect=sequential,threads=64
fwd=fwd1,fsd=fsd1,host=hd1
fwd=fwd2,fsd=fsd1,host=hd2
fwd=fwd3,fsd=fsd1,host=hd3
fwd=fwd4,fsd=fsd1,host=hd4
fwd=fwd5,fsd=fsd1,host=hd5
fwd=fwd6,fsd=fsd1,host=hd6
fwd=fwd7,fsd=fsd1,host=hd7
fwd=fwd8,fsd=fsd1,host=hd8
rd=rd1,fwd=fwd*,operation=read,forrdpct=70,fwdrate=max,format=restart,warmup=30,elapsed=300,interval=10
1.4、4K隨機混合讀寫
測試文件大小為4KB,數量為2048個,數據量1T,文件IO大小為4KB,文件操作設置為70%讀,運行時長為5分鍾
messagescan=no
hd=default,vdbench=/root/vdbench/vdbench50406,user=root,shell=ssh
hd=hd1,system=node13
hd=hd2,system=node14
hd=hd3,system=node15
hd=hd4,system=node16
hd=hd5,system=node17
hd=hd6,system=node18
hd=hd7,system=node19
hd=hd8,system=node20
fsd=fsd1,anchor=/client/4ksr,depth=1,width=1,files=2048,size=512MB,openflags=directio,shared=yes
fwd=format,threads=64,xfersize=4k
fwd=default,operation=read,rdpct=70,xfersize=4k,fileio=random,fileselect=random,threads=64
fwd=fwd1,fsd=fsd1,host=hd1
fwd=fwd2,fsd=fsd1,host=hd2
fwd=fwd3,fsd=fsd1,host=hd3
fwd=fwd4,fsd=fsd1,host=hd4
fwd=fwd5,fsd=fsd1,host=hd5
fwd=fwd6,fsd=fsd1,host=hd6
fwd=fwd7,fsd=fsd1,host=hd7
fwd=fwd8,fsd=fsd1,host=hd8
rd=rd1,fwd=fwd*,fwdrate=max,format=restart,warmup=30,elapsed=300,interval=10
2、【文件】1M順序讀寫測試
2.1、1M順序寫
測試文件大小為200MB,數量為3000個,文件IO大小為1MB,文件操作設置為100%寫,運行時長為10分鍾
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
fsd=fsd1,anchor=/client/largetest01,depth=1,width=100,files=30,size=200m,shared=yes
fwd=format,threads=32,xfersize=1m
fwd=default,operation=write,xfersize=1m,fileio=sequential,fileselect=sequential,threads=32
fwd=fwd1,fsd=fsd1,host=hd1
fwd=fwd2,fsd=fsd1,host=hd2
fwd=fwd3,fsd=fsd1,host=hd3
rd=rd1,fwd=fwd*,fwdrate=max,format=restart,elapsed=600,interval=1
2.2、1M順序讀
測試文件大小為200MB,數量為3000個,文件IO大小為1MB,文件操作設置為100%讀,運行時長為10分鍾
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
fsd=fsd1,anchor=/client/largetest02,depth=1,width=100,files=30,size=200m,shared=yes
fwd=format,threads=32,xfersize=1m
fwd=default,operation=read,xfersize=1m,fileio=sequential,fileselect=sequential,threads=32
fwd=fwd1,fsd=fsd1,host=hd1
fwd=fwd2,fsd=fsd1,host=hd2
fwd=fwd3,fsd=fsd1,host=hd3
rd=rd1,fwd=fwd*,fwdrate=max,format=restart,elapsed=600,interval=1
==========
塊測試數據預填步驟:
以下測試基於三節點集群環境,配置三個客戶端一對一掛載訪問
-
存儲系統以4T划分所有可用存儲空間的50%,不足4T的空間按實際大小划分卷,存儲系統中所有已划分空間按1024k塊大小寫滿
注:單個硬盤大小為5.4T,當前集群容量為194TB,集群可用容量為97TB,當前可用存儲空間的50%大小為48TB -
划分12個4TB的LUN,三個集群節點各出一個target,平分這12個LUN,客戶端一對一進行target連接訪問,各客戶端節點使用下面的fio測試命令進行數據寫入
-
在性能測試的時候,進行存儲定義SD的時候,三個客戶端按照單客戶端4個4TLUN的數量比例進行LUN掛載,進行預填充數據之后,對這部分已掛載LUN重新進行性能數據測試
進行工作負載定義WD的時候,對於每個工作負載定義中sd的定義,則寫sd*即可,屆時測試的時候,vdbench會根據之前存儲定義部分的LUN進行測試
#fio預填充數據使用以下命令
[global]
ioengine=aio
invalidate=0 # mandatory
rw=write
direct=1
bs=1024k
group_reporting
[test1]
iodepth=32
size=4096g
filename=/dev/sdd
[test2]
iodepth=32
size=4096g
filename=/dev/sde
[test3]
iodepth=32
size=4096g
filename=/dev/sdf
[test4]
iodepth=32
size=4096g
filename=/dev/sdg
3、【塊】4K隨機讀寫測試
3.1、4K隨機寫
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
sd=sd1,hd=hd1,lun=/dev/sdd,openflags=o_direct,threads=8
sd=sd2,hd=hd1,lun=/dev/sde,openflags=o_direct,threads=8
sd=sd3,hd=hd1,lun=/dev/sdf,openflags=o_direct,threads=8
sd=sd4,hd=hd1,lun=/dev/sdg,openflags=o_direct,threads=8
sd=sd5,hd=hd2,lun=/dev/sdd,openflags=o_direct,threads=8
sd=sd6,hd=hd2,lun=/dev/sde,openflags=o_direct,threads=8
sd=sd7,hd=hd2,lun=/dev/sdf,openflags=o_direct,threads=8
sd=sd8,hd=hd2,lun=/dev/sdg,openflags=o_direct,threads=8
sd=sd9,hd=hd3,lun=/dev/sdd,openflags=o_direct,threads=8
sd=sd10,hd=hd3,lun=/dev/sde,openflags=o_direct,threads=8
sd=sd11,hd=hd3,lun=/dev/sdf,openflags=o_direct,threads=8
sd=sd12,hd=hd3,lun=/dev/sdg,openflags=o_direct,threads=8
wd=wd1,sd=sd*,seekpct=100,rdpct=0,xfersize=4k
rd=rd1,wd=wd1,iorate=max,elapse=604800,maxdata=200GB,interval=5,warmup=30
3.2、4K隨機讀
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
sd=sd1,hd=hd1,lun=/dev/sdd,openflags=o_direct,threads=8
sd=sd2,hd=hd1,lun=/dev/sde,openflags=o_direct,threads=8
sd=sd3,hd=hd1,lun=/dev/sdf,openflags=o_direct,threads=8
sd=sd4,hd=hd1,lun=/dev/sdg,openflags=o_direct,threads=8
sd=sd5,hd=hd2,lun=/dev/sdd,openflags=o_direct,threads=8
sd=sd6,hd=hd2,lun=/dev/sde,openflags=o_direct,threads=8
sd=sd7,hd=hd2,lun=/dev/sdf,openflags=o_direct,threads=8
sd=sd8,hd=hd2,lun=/dev/sdg,openflags=o_direct,threads=8
sd=sd9,hd=hd3,lun=/dev/sdd,openflags=o_direct,threads=8
sd=sd10,hd=hd3,lun=/dev/sde,openflags=o_direct,threads=8
sd=sd11,hd=hd3,lun=/dev/sdf,openflags=o_direct,threads=8
sd=sd12,hd=hd3,lun=/dev/sdg,openflags=o_direct,threads=8
wd=wd1,sd=sd*,seekpct=100,rdpct=100,xfersize=4k
rd=rd1,wd=wd1,iorate=max,elapse=604800,maxdata=200GB,interval=5,warmup=30
4、【塊】1M順序讀寫測試
4.1、1M順序寫
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
sd=sd1,hd=hd1,lun=/dev/sdd,openflags=o_direct,threads=8
sd=sd2,hd=hd1,lun=/dev/sde,openflags=o_direct,threads=8
sd=sd3,hd=hd1,lun=/dev/sdf,openflags=o_direct,threads=8
sd=sd4,hd=hd1,lun=/dev/sdg,openflags=o_direct,threads=8
sd=sd5,hd=hd2,lun=/dev/sdd,openflags=o_direct,threads=8
sd=sd6,hd=hd2,lun=/dev/sde,openflags=o_direct,threads=8
sd=sd7,hd=hd2,lun=/dev/sdf,openflags=o_direct,threads=8
sd=sd8,hd=hd2,lun=/dev/sdg,openflags=o_direct,threads=8
sd=sd9,hd=hd3,lun=/dev/sdd,openflags=o_direct,threads=8
sd=sd10,hd=hd3,lun=/dev/sde,openflags=o_direct,threads=8
sd=sd11,hd=hd3,lun=/dev/sdf,openflags=o_direct,threads=8
sd=sd12,hd=hd3,lun=/dev/sdg,openflags=o_direct,threads=8
wd=wd1,sd=sd*,seekpct=0,rdpct=0,xfersize=1M
rd=rd1,wd=wd1,iorate=max,elapse=604800,maxdata=200GB,interval=5,warmup=30
4.2、1M順序讀
messagescan=no
hd=default,vdbench=/root/vdbench50406,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
sd=sd1,hd=hd1,lun=/dev/sdd,openflags=o_direct,threads=8
sd=sd2,hd=hd1,lun=/dev/sde,openflags=o_direct,threads=8
sd=sd3,hd=hd1,lun=/dev/sdf,openflags=o_direct,threads=8
sd=sd4,hd=hd1,lun=/dev/sdg,openflags=o_direct,threads=8
sd=sd5,hd=hd2,lun=/dev/sdd,openflags=o_direct,threads=8
sd=sd6,hd=hd2,lun=/dev/sde,openflags=o_direct,threads=8
sd=sd7,hd=hd2,lun=/dev/sdf,openflags=o_direct,threads=8
sd=sd8,hd=hd2,lun=/dev/sdg,openflags=o_direct,threads=8
sd=sd9,hd=hd3,lun=/dev/sdd,openflags=o_direct,threads=8
sd=sd10,hd=hd3,lun=/dev/sde,openflags=o_direct,threads=8
sd=sd11,hd=hd3,lun=/dev/sdf,openflags=o_direct,threads=8
sd=sd12,hd=hd3,lun=/dev/sdg,openflags=o_direct,threads=8
wd=wd1,sd=sd*,seekpct=0,rdpct=100,xfersize=1M
rd=rd1,wd=wd1,iorate=max,elapse=604800,maxdata=200GB,interval=5,warmup=30
5、大文件穩定性測試
5.1、集采穩定性測試
7x24小時寫入過程集群未出現寫入異常,且未出現低於平均寫入速度50%的情況
messagescan=no
hd=default,vdbench=/root/vd,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
fsd=default,depth=1,width=10,files=128,size=512M,shared=no,openflag=o_direct
fsd=fsd1,anchor=/mnt/client1
fsd=fsd2,anchor=/mnt/client2
fsd=fsd3,anchor=/mnt/client3
fwd=default,rdpct=60,xfersizes=2M,fileio=random,fileselect=random,threads=32
fwd=fwd1,fsd=fsd1,host=hd1
fwd=fwd2,fsd=fsd2,host=hd2
fwd=fwd3,fsd=fsd3,host=hd3
rd=rd1,fwd=fwd*,fwdrate=max,format=yes,warmup=600,elapsed=604800,interval=10
5.2、版本穩定性測試
messagescan=no
hd=default,vdbench=/root/vd,user=root,shell=ssh
hd=hd1,system=node1
hd=hd2,system=node2
hd=hd3,system=node3
fsd=default,depth=1,width=100,files=10000,size=4M,shared=no,openflag=o_direct
fsd=fsd1,anchor=/mnt/client1
fsd=fsd2,anchor=/mnt/client2
fsd=fsd3,anchor=/mnt/client3
fwd=default,rdpct=30,xfersizes=1M,fileio=random,fileselect=random,threads=20
fwd=fwd1,fsd=fsd1,host=hd1
fwd=fwd2,fsd=fsd2,host=hd2
fwd=fwd3,fsd=fsd3,host=hd3
rd=rd1,fwd=fwd*,fwdrate=max,format=yes,warmup=600,elapsed=604800,interval=10