Linux雙網卡綁定bond詳解
1、 什么是bond
網卡bond是通過多張網卡綁定為一個邏輯網卡,實現本地網卡的冗余,帶寬擴容和負載均衡,在生產場景中是一種常用的技術。Kernels 2.4.12及以后的版本均供bonding模塊,以前的版本可以通過patch實現。可以通過以下命令確定內核是否支持 bonding:
[root@lixin network-scripts]#cat /boot/config-2.6.32-573.el6.x86_64 |grep -i bonding CONFIG_BONDING=m
2、 bond的模式
bond的模式常用的有兩種:
mode=0(balance-rr)
表示負載分擔round-robin,並且是輪詢的方式比如第一個包走eth0,第二個包走eth1,直到數據包發送完畢。
優點:流量提高一倍
缺點:需要接入交換機做端口聚合,否則可能無法使用
mode=1(active-backup)
表示主備模式,即同時只有1塊網卡在工作。
優點:冗余性高
缺點:鏈路利用率低,兩塊網卡只有1塊在工作
bond其他模式:
mode=2(balance-xor)(平衡策略)
表示XOR Hash負載分擔,和交換機的聚合強制不協商方式配合。(需要xmit_hash_policy,需要交換機配置port channel)
特點:基於指定的傳輸HASH策略傳輸數據包。缺省的策略是:(源MAC地址 XOR 目標MAC地址) % slave數量。其他的傳輸策略可以通過xmit_hash_policy選項指定,此模式提供負載平衡和容錯能力
mode=3(broadcast)(廣播策略)
表示所有包從所有網絡接口發出,這個不均衡,只有冗余機制,但過於浪費資源。此模式適用於金融行業,因為他們需要高可靠性的網絡,不允許出現任何問題。需要和交換機的聚合強制不協商方式配合。
特點:在每個slave接口上傳輸每個數據包,此模式提供了容錯能力
mode=4(802.3ad)(IEEE 802.3ad 動態鏈接聚合)
表示支持802.3ad協議,和交換機的聚合LACP方式配合(需要xmit_hash_policy).標准要求所有設備在聚合操作時,要在同樣的速率和雙工模式,而且,和除了balance-rr模式外的其它bonding負載均衡模式一樣,任何連接都不能使用多於一個接口的帶寬。
特點:創建一個聚合組,它們共享同樣的速率和雙工設定。根據802.3ad規范將多個slave工作在同一個激活的聚合體下。外出流量的slave選舉是基於傳輸hash策略,該策略可以通過xmit_hash_policy選項從缺省的XOR策略改變到其他策略。需要注意的是,並不是所有的傳輸策略都是802.3ad適應的,尤其考慮到在802.3ad標准43.2.4章節提及的包亂序問題。不同的實現可能會有不同的適應性。
必要條件:
條件1:ethtool支持獲取每個slave的速率和雙工設定
條件2:switch(交換機)支持IEEE802.3ad Dynamic link aggregation
條件3:大多數switch(交換機)需要經過特定配置才能支持802.3ad模式
mode=5(balance-tlb)(適配器傳輸負載均衡)
是根據每個slave的負載情況選擇slave進行發送,接收時使用當前輪到的slave。該模式要求slave接口的網絡設備驅動有某種ethtool支持;而且ARP監控不可用。
特點:不需要任何特別的switch(交換機)支持的通道bonding。在每個slave上根據當前的負載(根據速度計算)分配外出流量。如果正在接受數據的slave出故障了,另一個slave接管失敗的slave的MAC地址。
必要條件:
ethtool支持獲取每個slave的速率
mode=6(balance-alb)(適配器適應性負載均衡)
在5的tlb基礎上增加了rlb(接收負載均衡receiveload balance).不需要任何switch(交換機)的支持。接收負載均衡是通過ARP協商實現的.
特點:該模式包含了balance-tlb模式,同時加上針對IPV4流量的接收負載均衡(receiveload balance, rlb),而且不需要任何switch(交換機)的支持。接收負載均衡是通過ARP協商實現的。bonding驅動截獲本機發送的ARP應答,並把源硬件地址改寫為bond中某個slave的唯一硬件地址,從而使得不同的對端使用不同的硬件地址進行通信。來自服務器端的接收流量也會被均衡。當本機發送ARP請求時,bonding驅動把對端的IP信息從ARP包中復制並保存下來。當ARP應答從對端到達時,bonding驅動把它的硬件地址提取出來,並發起一個ARP應答給bond中的某個slave。使用ARP協商進行負載均衡的一個問題是:每次廣播 ARP請求時都會使用bond的硬件地址,因此對端學習到這個硬件地址后,接收流量將會全部流向當前的slave。這個問題可以通過給所有的對端發送更新(ARP應答)來解決,應答中包含他們獨一無二的硬件地址,從而導致流量重新分布。當新的slave加入到bond中時,或者某個未激活的slave重新激活時,接收流量也要重新分布。接收的負載被順序地分布(round robin)在bond中最高速的slave上當某個鏈路被重新接上,或者一個新的slave加入到bond中,接收流量在所有當前激活的slave中全部重新分配,通過使用指定的MAC地址給每個 client發起ARP應答。下面介紹的updelay參數必須被設置為某個大於等於switch(交換機)轉發延時的值,從而保證發往對端的ARP應答不會被switch(交換機)阻截。
bond模式小結:
mode5和mode6不需要交換機端的設置,網卡能自動聚合。mode4需要支持802.3ad。mode0,mode2和mode3理論上需要靜態聚合方式。
3、 配置bond
測試環境:
[root@lixin ~]# cat/etc/redhat-release CentOS release 6.7 (Final) [root@lixin ~]# uname -r 2.6.32-573.el6.x86_64
(1)配置物理網卡
[root@lixin network-scripts]#cat ifcfg-eth0 DEVICE=eth0 TYPE=Ethernet ONBOOT=yes BOOTPROTO=none MASTER=bond0 SLAVE=yes //可以沒有此字段,就需要開機執行ifenslave bond0 eth0 eth1命令了。 [root@lixin network-scripts]# [root@lixin network-scripts]#cat ifcfg-eth1 DEVICE=eth1 TYPE=Ethernet ONBOOT=yes BOOTPROTO=none MASTER=bond0 SLAVE=yes
(2)配置邏輯網卡bond0
[root@lixin network-scripts]#cat ifcfg-bond0 //需要我們手工創建 DEVICE=bond0 TYPE=Ethernet ONBOOT=yes BOOTPROTO=static IPADDR=10.0.0.10 NETMASK=255.255.255.0 DNS2=4.4.4.4 GATEWAY=10.0.0.2 DNS1=10.0.0.2
由於沒有這個配置文件我們可以使用拷貝一個ifcfg-eth1來用:cp ifcfg-{eth0,bond1}
(3)加載模塊,讓系統支持bonding
[root@lixin ~]# cat/etc/modprobe.conf //不存在的話,手動創建(也可以放在modprobe.d下面) alias bond0 bonding options bond0 miimon=100 mode=0
配置bond0的鏈路檢查時間為100ms,模式為0。
注意:
linux網卡bonging的備份模式實驗在真實機器上做完全沒問題(前提是linux內核支持),但是在vmware workstation虛擬中做就會出現如下圖問題。
配置完成后出現如上圖問題,但是bond0能夠正常啟動也能夠正常使用,只不過沒有起到備份模式的效果。當使用ifdown eth0后,網絡出現不通現象。
內核文檔中有說明:bond0獲取mac地址有兩種方式,一種是從第一個活躍網卡中獲取mac地址,然后其余的SLAVE網卡的mac地址都使用該mac地址;另一種是使用fail_over_mac參數,是bond0使用當前活躍網卡的mac地址,mac地址或者活躍網卡的轉換而變。
既然vmware workstation不支持第一種獲取mac地址的方式,那么可以使用fail_over_mac=1參數,所以這里我們添加fail_over_mac=1參數
[root@lixin etc]# cat/etc/modprobe.d/modprobe.conf alias bond0 bonding options bond0 miimon=100 mode=0fail_over_mac=1
(4)加載bond module
[root@lixin etc]# modprobe bonding
(5)查看綁定結果
[root@lixin etc]# cat/proc/net/bonding/bond0 Ethernet Channel BondingDriver: v3.7.1 (April 27, 2011) Bonding Mode: load balancing(round-robin) MII Status: up MII Polling Interval (ms): 100 Up Delay (ms): 0 Down Delay (ms): 0 Slave Interface: eth0 MII Status: up Speed: 1000 Mbps Duplex: full Link Failure Count: 0 Permanent HW addr:00:50:56:28:7f:51 Slave queue ID: 0 Slave Interface: eth1 MII Status: up Speed: 1000 Mbps Duplex: full Link Failure Count: 0 Permanent HW addr:00:50:56:29:9b:da Slave queue ID: 0
4、 測試bond
由於使用的是mode=0,負載均衡的方式,這時我們ping百度,然后斷開一個網卡,此時ping不會中斷。
[root@lixin etc]# pingbaidu.com PING baidu.com (111.13.101.208)56(84) bytes of data. 64 bytes from 111.13.101.208:icmp_seq=1 ttl=128 time=10.6 ms 64 bytes from 111.13.101.208:icmp_seq=2 ttl=128 time=9.05 ms 64 bytes from 111.13.101.208:icmp_seq=3 ttl=128 time=11.7 ms 64 bytes from 111.13.101.208:icmp_seq=4 ttl=128 time=7.93 ms 64 bytes from 111.13.101.208:icmp_seq=5 ttl=128 time=9.50 ms 64 bytes from 111.13.101.208:icmp_seq=6 ttl=128 time=7.17 ms 64 bytes from 111.13.101.208:icmp_seq=7 ttl=128 time=21.2 ms 64 bytes from 111.13.101.208:icmp_seq=8 ttl=128 time=7.46 ms 64 bytes from 111.13.101.208:icmp_seq=9 ttl=128 time=7.82 ms 64 bytes from 111.13.101.208:icmp_seq=10 ttl=128 time=8.15 ms 64 bytes from 111.13.101.208:icmp_seq=11 ttl=128 time=6.89 ms 64 bytes from 111.13.101.208: icmp_seq=12ttl=128 time=8.33 ms 64 bytes from 111.13.101.208:icmp_seq=13 ttl=128 time=8.65 ms 64 bytes from 111.13.101.208:icmp_seq=14 ttl=128 time=7.16 ms 64 bytes from 111.13.101.208:icmp_seq=15 ttl=128 time=9.31 ms 64 bytes from 111.13.101.208:icmp_seq=16 ttl=128 time=10.5 ms 64 bytes from 111.13.101.208:icmp_seq=17 ttl=128 time=7.61 ms 64 bytes from 111.13.101.208:icmp_seq=18 ttl=128 time=10.2 ms ^C --- baidu.com ping statistics--- 18 packets transmitted, 18received, 0% packet loss, time 17443ms rtt min/avg/max/mdev = 6.899/9.417/21.254/3.170 ms
//用另一個終端手動關閉eth0網卡,ping並沒有中斷
[root@lixin etc]# !ca cat /proc/net/bonding/bond0 Ethernet Channel BondingDriver: v3.7.1 (April 27, 2011) Bonding Mode: load balancing(round-robin) MII Status: up MII Polling Interval (ms): 100 Up Delay (ms): 0 Down Delay (ms): 0 Slave Interface: eth0 MII Status: down Speed: Unknown Duplex: Unknown Link Failure Count: 1 Permanent HW addr:00:50:56:28:7f:51 Slave queue ID: 0 Slave Interface: eth1 MII Status: up Speed: 1000 Mbps Duplex: full Link Failure Count: 0 Permanent HW addr:00:50:56:29:9b:da Slave queue ID: 0
//查看bond0狀態,發現eth0,down了,但是bond正常
Linux網卡配置與綁定
Redhat Linux的網絡配置,基本上是通過修改幾個配置文件來實現的,雖然也可以用ifconfig來設置IP,用route來配置默認網關,用hostname來配置主機名,但是重啟后會丟失。
相關的配置文件
/ect/hosts 配置主機名和IP地址的對應
/etc/sysconfig/network 配置主機名和網關
/etc/sysconfig/network-scripts/ifcfg-eth0 eth0配置文件,eth1則文件名為ifcfg-eth1,以此類推
一、網卡配置
假設我們要配置主機名為test,eth0的IP地址192.168.168.1/24,網關地址192.168.168.250
則/etc/sysconfig/network文件內容如下:
NETWORKING=yes HOSTNAME=test GATEWAY=192.168.168.250
eth0對應的配置文件/etc/sysconfig/network-scripts/ifcfg-eth0內容如下:
DEVICE=eth0 BOOTPROTO=static IPADDR=192.168.168.1 NETMASK=255.255.255.0 TYPE=Ethernet ONBOOT=yes
二、單網卡綁定多個IP
有時,我們需要在一塊網卡上配置多個IP,例如,在上面的例子中,我們還需要為eth0配置IP 192.168.168.2和192.168.168.3。那么需要再在/etc/sysconfig/network-scripts下新建兩個配置文件:
ifcfg-eth0:0內容如下:
DEVICE=eth0:0 BOOTPROTO=static IPADDR=192.168.168.2 NETMASK=255.255.255.0 ONBOOT=yes
ifcfg-eth0:1內容如下:
DEVICE=eth0:1 BOOTPROTO=static IPADDR=192.168.168.3 NETMASK=255.255.255.0 ONBOOT=yes
三、多個網卡綁定成一塊虛擬網卡
為了提供網絡的高可用性,我們可能需要將多塊網卡綁定成一塊虛擬網卡對外提供服務,這樣即使其中的一塊物理網卡出現故障,也不會導致連接中斷。比如我們可以將eth0和eth1綁定成虛擬網卡bond0
首先在/etc/sysconfig/network-scripts/下創建虛擬網卡bond0的配置文件ifcfg-bond0,內容如下
DEVICE=bond0 BOOTPROTO=none BROADCAST=192.168.168.255 IPADDR=192.168.168.1 NETMASK=255.255.255.0 NETWORK=192.168.168.0 ONBOOT=yes TYPE=Ethernet GATEWAY=192.168.168.250 USERCTL=no
然后分別修改eth0和eth1的配置文件
ifcfg-eth0內容:
DEVICE=eth0 BOOTPROTO=none ONBOOT=yes USERCTL=no MASTER=bond0 SLAVE=yes
ifcfg-eth1內容
DEVICE=eth1 BOOTPROTO=none ONBOOT=yes USERCTL=no MASTER=bond0 SLAVE=yes
因為linux的虛擬網卡是在內核模塊中實現的,所以需要安裝的時候已經裝好該module。在/etc/modules.conf文件中添加如下內容(如果沒有該文件,則新建一個):
alias bond0 bonding options bond0 miimon=100 mode=1 primary=eth0
其中miimon=100表示每100ms檢查一次鏈路連接狀態,如果不通則會切換物理網卡
mode=1表示主備模式,也就是只有一塊網卡是active的,只提供失效保護。如果mode=0則是負載均衡模式的,所有的網卡都是active,還有其他一些模式很少用到
primary=eth0表示主備模式下eth0為默認的active網卡
miimon是毫秒數,每100毫秒觸發檢測線路穩定性的事件。
mode 是ifenslave的工作狀態。
一共有7種方式:
=0: (balance-rr) Round-robin policy: (平衡掄循環策略):傳輸數據包順序是依次傳輸,直到最后一個傳輸完畢, 此模式提供負載平衡和容錯能力。
=1: (active-backup) Active-backup policy:(主-備份策略):只有一個設備處於活動狀態。 一個宕掉另一個馬上由備份轉換為主設備。mac地址是外部可見得。 此模式提供了容錯能力。
=2:(balance-xor) XOR policy:(平衡 策略): 傳輸根據原地址布爾值選擇傳輸設備。 此模式提供負載平衡和容錯能力。
=3:(broadcast) broadcast policy: (廣播策略):將所有數據包傳輸給所有接口。 此模式提供了容錯能力。
=4:(802.3ad) IEEE 802.3ad Dynamic link aggregation. IEEE 802.3ad 動態鏈接聚合:創建共享相同的速度和雙工設置的聚合組。(我不是太懂。)
=5:(balance-tlb) Adaptive transmit load balancing(適配器傳輸負載均衡):沒有特殊策略,第一個設備傳不通就用另一個設備接管第一個設備正在處理的mac地址,幫助上一個傳。
=6:(balance-alb) Adaptive load balancing: (適配器傳輸負載均衡):大致意思是包括mode5,bonding驅動程序截獲 ARP 在本地系統發送出的請求,用其中之一的硬件地址覆蓋從屬設備的原地址。就像是在服務器上不同的人使用不同的硬件地址一樣。
這些選項可以用命令:# modinfo bonding 來查看
最后,在/etc/rc.local中加入
modprobe bonding miimon=100 mode=1
重啟機器后可以看到虛擬網卡已經生效,可以通過插拔兩個物理網卡的網線來進行測試,不過linux中網卡接管的時間好象比較長
====================================================
需要說明的是如果想做成負載均衡,僅僅設置這里modprode bonding miimon=100 mode=0是不夠的,還需要設置交換機的端口.
轉載於:https://www.cnblogs.com/sinsenliu/p/9166405.html