一、某某公司超融合項目整體網絡拓撲
某省某某公司科技有限責任公司研發測試平台超融合項目整體網絡拓撲,如圖1所示:
節點1~3服務器
節點1~3服務器采用超融合架構,主要用於研發測試平台,部署在某某公司辦公室對面的機房,建設內容包括:
1)服務器設備,在服務器機櫃部署3台服務器硬件;
2)虛擬化套件,在服務器上部署1套虛擬化套件PVE;
3)分布式存儲,在服務器上部署1套分布式存儲套件Ceph。
三層交換機
在服務器機櫃中部署1台華三S5110V2-28P-SI弱三層交換機,建設內容包括:
1) 服務器集群接入,獨立划分VLAN網段,用於實現節點1~3服務器集群接入;
2)接入既有網絡,用於接入既有交換機S1724G,實現接入既有網絡,通過既有網絡實現服務器集群與互聯網互通。
注意,由於3個節點服務器組建成集群,且使用Ceph搭建分布式存儲,為保證性能,保證虛擬機遷移速率,強烈建議采用全萬兆交換機部署。由於客戶預算問題,本項目采用了全千兆交換機部署。
研發測試工位
研發工位與測試工位接入到既有交換機S1724G,建設內容包括:
1)研發測試工位保持既有的上網IP地址和網關不變;
2)研發測試工位實現訪問超融合服務器集群的業務虛擬主機。
既有服務器群
既有服務器運行着某某公司的應用系統,如研發管理系統、測試管理系統、OA系統等等,既有服務器群與研發測試超融合平台不做互聯互通。
二、服務器基礎配置
本項目中,通用服務器硬件采用的是白牌服務器Baixxxx-Cloud-X10,Baixxxx-Cloud-X10是一款2U雙路高端旗艦機架式服務器,以強勁的計算性能,完善的生態兼容,極致的空間擴展能力,滿足各行業應用配置需求,適用於數據分析處理、深度學習分布式存儲等多種應用場景。白牌服務器Baixxxx-Cloud-X10 如圖2 所示。
圖2. 白牌服務器Baixxxx-Cloud-X10
白牌服務器Baixxxx-Cloud-X10的技術規格如表1所示:
表1. Baixxxx-Cloud-X10的技術規格
2.1.RAID規划
本項目中,白牌服務器Baixxxx-Cloud-X10是八盤位,如圖3所示。
圖3. 白牌服務器Baixxxx-Cloud-X10的盤位
白牌服務器Baixxxx-Cloud-X10有八個盤位,一共有2 塊1.9TB SSD盤,2塊480GB SSD盤,4塊8TB HDD盤。
2.1.1 系統盤
在每個節點服務器上,2塊480GB SSD盤組成RAID1,作為系統盤。做RAID1之后,2塊480GB SSD盤相互備份,容量只有一半,系統文件存放在RAID1盤中。除了2塊480GB SSD盤做RAID1之外,其余SSD盤、HDD盤均不做RAID。
2.1.2 Ceph盤
本項目中,后端存儲采用Ceph分布式存儲搭建,為了保證可靠性,Ceph采用了數據多副本的存儲方式,這意味着不再需要RAID,也就克服了 RAID 存在的諸多問題。換句話說,Ceph已經解決了容錯問題,無需使用RAID。
紅帽官網文檔有關於構建Ceph存儲集群時,不建議基於RAID盤創建OSD,除了系統盤之外,其余磁盤全部設置為非RAID模式。也就是說,Ceph不要與RAID混合使用,如果已經使用了Ceph的話,應該禁用RAID,將RADI控制器配置為RAID0,如圖4所示。
圖4. 紅帽官網Ceph章節對RAID使用建議
2.2 服務器網卡規划
本項目中,白牌Baixxxx-Cloud-X10服務器一共有5張物理網卡,物理網卡的IP 地址規划如圖5所示。
圖5. Baixxxx-Cloud-X10服務器網卡規划
2.3 服務器IPMI接口
IPMI是指一組用於帶外管理的計算機接口規范。帶外是指無需與系統的物理資產位於同一區域即可訪問計算機系統。IPMI 支持遠程監視,不需要計算機操作系統的許可。IPMI 在連接到主板或服務器的單獨硬件上運行。此單獨的硬件是底板管理控制器(BMC)。
通常情況下,白牌Baixxxx-Cloud-X10服務器的IPMI 接口的默認用戶名為:ADMIN,密碼則貼在機箱前面板上,或者是機箱中的主板上。IPMI 主板集成管理芯片BMC的IP的首次設置,需要在服務器開啟時按“DEL”鍵進入BIOS 設置,具體步驟略。如對該步驟設置感興趣,請參見《GPU直通+單節點單業務vlan的虛擬網絡項目實戰》博文。
當IPMI接口的IP地址設置好之后,可通過WEB UI進入查看服務器監控系統,如節點1服務器的IPMI接口的IP地址是10.129.255.21,使用https登錄進入IPMI監控系統,如圖6所示。
圖6. 服務器IPMI監控系統界面
2.4 服務器數據接口
有關服務器數據接口的IP 地址規划,詳見表2。具體配置詳見《5.3.2.業務網絡配置》的章節,這里不再贅述。
2.5 服務器管理接口
有關服務器管理接口的IP 地址規划,詳見表2。具體配置詳見《5.3.1.管理網絡配置》的章節,這里不再贅述。