五、虛擬網絡
5.1 PVE虛擬網絡拓撲
某某公司超融合項目的虛擬網絡的核心架構是在PVE虛擬化平台上創建虛擬交換機(OVS類型)、創建虛擬主機,並與物理交換機、物理路由器一起,組建管理網以及業務網。虛擬主機通過接入到虛擬交換機中實現相互通信,虛擬交換機接入到物理交換機中,物理交換機接入到物理路由器中,組成虛擬網絡與物理網絡互聯互通的混合網絡,如圖23所示。
圖23. 虛擬網絡與物理網絡混合架構
5.2 PVE虛擬網絡簡介
Proxmox VE基於Debian Linux操作系統,Debian Linux操作系統支持原生的虛擬網絡有Linux Bridge、Linux Bond及Linux VLAN三種類型。Proxmox VE同時集成了Open vSwitch(OVS)開放虛擬交換機組件,所以Proxmox VE的原生虛擬網絡除了Linux Bridge、Linux Bond及Linux VLAN這三種類型之外,還包括Open vSwitch類型,如圖24所示。
圖24. Proxmox VE原生虛擬網絡模型
根據Proxmox VE官網的wiki文檔《Open vSwitch》介紹,Open vSwitch和Linux Bridge、Linux Bond或Linux VLAN不能混合使用。例如,不要嘗試將Linux VLAN添加到OVS Bond,或將Linux Bond添加到OVS Bridge,反之亦然。Open vSwitch是專門為在虛擬化環境中運行而定制的,無需使用主機自帶的Linux Bridge、Linux Bond或Linux VLAN等功能,如圖25所示。
圖25. Open vSwitch不能與Linux原生虛擬網絡混用
在本項目中,Proxmox VE的虛擬網絡使用Open vSwitch,不使用Linux原生虛擬網絡,后續不再做聲明。
5.3 節點1的PVE虛擬網絡配置
如圖20中的虛擬網絡與物理網絡的混合架構看起來非常復雜,以致於不得不刪減了一些跟集群相關的虛擬網,為了方便進行配置,有必要對圖22的網絡架構進行解構,進行還原,節點1的PVE虛擬網絡如圖26所示。
圖26. 節點1的PVE虛擬網絡架構
5.3.1 管理網絡配置
根據表2和表3,管理網絡的VLAN ID是VLAN 255,包括節點1的PVE系統的管理以及節點1服務器的BMC接口都統一划分到VLAN 255,其中VLAN 255的虛擬IP地址在S5110V2-28P-SI上。注意,在Proxmox VE語境下,Bridge(網橋)等同於Switch(交換機),后續不再做聲明。在做配置演示之前,我先把節點1的虛擬網絡配置截圖出來,大家有個大概了解,不至於蒙圈,如圖27所示。
圖27. 節點1的虛擬網絡配置
好了,下面我們開始演示節點1的管理網絡的配置,有了圖27,相信大家很容易能理解下面這些步驟。
- 第一步:創建名稱為“vmbr1”的OVS Bridge(虛擬交換機),並將“eno2”物理接口捆綁到虛擬交換機,如圖28所示。
圖28. 創建名稱為vmbr1的虛擬交換機
注意:eno1和eno2的類型是“網絡設備”,這表明是物理接口。當物理接口eno1和eno2被捆綁到虛擬交換機之后,eno1和eno2的類型就會變成“OVS Port”,也就是成為虛擬交換機上的接口,這個接口是可以使用物理網線直接連接的,仍然屬於物理接口,只不過在虛擬交換機上,變了個稱呼,叫“OVS Port”。
- 第二步:配置“eno2”的VLAN屬性,VLAN屬性與物理交換機相對應的接口保持一致,如圖29所示。
OVS Port是物理接口“eno2”在虛擬交換機上的接口屬性,本質上是一個物理接口,可以使用網線將“eno2”與物理交換機S5110V2-28P-SI的G1/0/12接口連接起來,所以“eno2”的VLAN屬性與G1/0/12的VLAN屬性要一致,才能進行通信。
圖29. “eno2”的VLAN屬性
- 第三步:創建名稱為“br1mgnt”的OVS IntPort(虛擬接口),並將“br1mgnt”虛擬接口捆綁到虛擬交換機vmbr1上,如圖30所示。
OVS IntPort與OVS Port的區別就是,OVS IntPort是一個虛擬接口,是OVS虛擬出來的一個接口,無法連接網線的,而OVS Port是可以的。OVS IntPort如果要與物理網絡通信,需要與物理接口(OVS Port)比如說“eno2”捆綁到同一個虛擬交換機上,且該虛擬交換機不能直接配置IP地址。
圖30. 創建名稱為br1mgnt的虛擬接口
注意1,“br1mgnt”虛擬接口中填寫了默認網關“10.129.255.1”,整個節點1的PVE虛擬網絡只能有一個默認網關,類似於物理主機只能有一個默認網關,也就是說只能有一條八個零的路由,如圖26所示,節點1的PVE虛擬網絡只有“10.129.255.1”一個默認網關。
注意2,如果節點服務器的物理網卡數量多,也可以直接使用物理接口捆綁虛擬交換機,然后直接給虛擬交換機配置管理IP地址,而不需要使用IntPort接口。
本項目中,PVE虛擬網絡只有二層交換,不涉及到IP路由,無需創建虛擬路由器,IP路由算法由物理網絡設備負責。
5.3.2 業務網絡配置
根據表2和表3,業務網絡的VLAN ID是VLAN 250和VLAN 251,包括節點1的虛擬主機VM1~VM7划分到VLAN 251,節點2的虛擬機VM8~VM14划分到VLAN 250,節點3的虛擬機VM15~VM21划分到VLAN 250,其中VLAN 250和VLAN 251的虛擬IP地址在物理交換機S5110V2-28P-SI上。
- 第一步:創建名稱為“vmbr2”的OVS Bridge(虛擬交換機),並將“eno1”物理接口捆綁到虛擬交換機,如圖31所示。
圖31. 創建名稱為vmbr2的虛擬交換機
- 第二步:配置“eno1”的VLAN屬性,VLAN屬性與物理交換機相對應的接口保持一致,如圖32所示。
OVS Port是物理接口“eno1”在虛擬交換機上的接口屬性,本質上是一個物理接口,可以使用網線將“eno1”與物理交換機S5110V2-28P-SI的G1/0/17接口連接起來,所以“eno1”的VLAN屬性與G1/0/17的VLAN屬性要一致,才能進行通信。
圖32. “eno1”的VLAN屬性
本項目中,PVE虛擬網絡只有二層交換,不涉及到IP路由,無需創建虛擬路由器,IP路由算法由物理網絡設備負責。
5.3.3 存儲網絡配置
根據表2和表3,存儲網絡的VLAN ID是VLAN 252,各個節點的存儲采用VLAN 252進行通信。由於節點1服務器上物理網卡不多,節點1的存儲通信采用IntPort虛擬接口。
第一步:創建名稱為“br1ceph”的OVS IntPort(虛擬接口),並將“br1ceph”虛擬接口捆綁到虛擬交換機vmbr1上,如圖33所示。
圖33. 創建名稱為br1ceph的虛擬接口
“br1ceph”虛擬接口捆綁到虛擬交換機vmbr1上,使用物理接口“eno2”進行通信,因此物理接口“eno2”要允許VLAN 252透傳。
5.3.4 集群網絡配置
根據表2和表3,集群網絡的VLAN ID是VLAN 253,各個節點的集群采用VLAN 253進行通信。由於節點1服務器上物理網卡不多,節點1的集群通信采用IntPort虛擬接口。
- 第一步:創建名稱為“br1ceph_cluster”的OVS IntPort(虛擬接口),並將“br1ceph_cluster”虛擬接口捆綁到虛擬交換機vmbr1上,如圖34所示。
圖34. 創建名稱為br1ceph_cluster的虛擬接口
“br1ceph_cluster”虛擬接口捆綁到虛擬交換機vmbr1上,使用物理接口“eno2”進行通信,因此物理接口“eno2”要允許VLAN253透傳。
5.3.5 公共網絡配置
根據表2和表3,公共網絡的VLAN ID是VLAN 254,各個節點的公共網絡采用VLAN 254進行通信。由於節點1服務器上物理網卡不多,節點1的公共網絡通信采用IntPort虛擬接口。
- 第一步:創建名稱為“br1ceph_public”的OVS IntPort(虛擬接口),並將“br1ceph_public”虛擬接口捆綁到虛擬交換機vmbr1上,如圖35所示。
圖35. 創建名稱為br1ceph_public的虛擬接口
“br1ceph_public”虛擬接口捆綁到虛擬交換機vmbr1上,使用物理接口“eno2”進行通信,因此物理接口“eno2”要允許VLAN 254透傳。
5.4 節點2的PVE虛擬網絡配置
節點2的PVE虛擬網絡配置與節點1的類似,這里就不演示節點2了,只給出虛擬節點2的PVE虛擬網絡架構圖和節點2的虛擬網絡配置圖,如圖36和圖37所示。
圖36. 節點2的PVE虛擬網絡架構圖
圖37. 節點2的虛擬網絡配置圖
5.5 節點3的PVE虛擬網絡配置
節點3的PVE虛擬網絡配置與節點1的類似,這里就不演示節點3了,只給出虛擬節點3的PVE虛擬網絡架構圖和節點3的虛擬網絡配置圖,如圖38和圖39所示。
圖38. 節點3的PVE虛擬網絡架構圖
圖39. 節點3的虛擬網絡配置圖
5.6 各節點虛擬主機網絡配置
根據圖26、圖36以及圖38所示,各節點的虛擬主機的網絡配置就很簡單了,這里只演示節點1的VM1虛擬機網絡配置,其他節點不再演示。
第一步:在節點1的PVE上將VM1的虛擬網卡捆綁到虛擬交換機vmbr2上,vlan標簽為251
選擇“VM1→硬件→網絡設備(net0)→編輯”,如圖40所示。
圖40. 虛擬機VM1網卡屬性配置
第二步:根據表4的IP地址規划,在VM1上配置相對於的IP地址和網關,如圖41所示。
圖41. 虛擬機IP地址配置