最近,在生產環境中,hdfs集群數據量已達到存儲的90%,亟需對存儲空間進行擴容。
通過調研和實驗,確定添加datanoe的存儲目錄比較適合我們的生產環境!在這里記錄一下添加數據目錄的過程。
- 第一步:備份hdfs-site.xml配置文件
cp hdfs-site.xml hdfs-site.xml.20190330.bak
- 第二步:添加數據磁盤、格式化,並掛載到/data2目錄
#格式化磁盤
mkfs.ext4 /dev/sdb
#掛載磁盤到/data2
mount -t ext4 /dev/sdb /data2
#添加開機掛載
vim /etc/fstab
- 第三步:創建hdfs數據存儲目錄
mkdir /data2/hadoop
注意:如果hadoop集群有用戶權限,需要修改相應權限,例如:chown -R hadoop.hdfs /data2/hadoop
- 第四步:修改hdfs-site.xml文件(所有節點),增加dfs.datanode.data.dir數據目錄(用逗號分隔)
<property> <name>dfs.datanode.data.dir</name> <value>file:/data1/my_data/dfs-data,/data2/hadoop</value> </property>
- 第五步:重啟HBASE集群
執行重啟命令。。
重啟完成后,可以發現舊的數據目錄會均衡一部分數據到新的目錄,擴容工作完成~~