Linux主機網卡綁定bond0詳解


1 什么是bond

         網卡bond是通過多張網卡綁定為一個邏輯網卡,實現本地網卡的冗余,帶寬擴容和負載均衡,在生產場景中是一種常用的技術。Kernels 2.4.12及以后的版本均供bonding模塊,以前的版本可以通過patch實現。可以通過以下命令確定內核是否支持 bonding:

[root@lixin network-scripts]# cat /boot/config-2.6.32-573.el6.x86_64 |grep -i bonding

CONFIG_BONDING=m

[root@lixin network-scripts]#

 

2 bond的模式

bond的模式常用的有兩種:

1. mode=0(balance-rr

  表示負載分擔round-robin,並且是輪詢的方式比如第一個包走eth0,第二個包走eth1,直到數據包發送完畢。

  a) 優點:流量提高一倍

  b) 缺點:需要接入交換機做端口聚合,否則可能無法使用。

 2. mode=1(active-backup

  表示主備模式,即同時只有1塊網卡在工作。

  a) 優點:冗余性高

  b) 缺點:鏈路利用率低,兩塊網卡只有1塊在工作

bond其他模式:

1.mode=2(balance-xor)(平衡策略)

    表示XOR Hash負載分擔,和交換機的聚合強制不協商方式配合。(需要xmit_hash_policy,需要交換機配置port channel)

特點:基於指定的傳輸HASH策略傳輸數據包。缺省的策略是:(源MAC地址 XOR 目標MAC地址) % slave數量。其他的傳輸策略可以通過xmit_hash_policy選項指定,此模式提供負載平衡和容錯能力

2. mode=3(broadcast)(廣播策略)

    表示所有包從所有網絡接口發出,這個不均衡,只有冗余機制,但過於浪費資源。此模式適用於金融行業,因為他們需要高可靠性的網絡,不允許出現任何問題。需要和交換機的聚合強制不協商方式配合。

特點:在每個slave接口上傳輸每個數據包,此模式提供了容錯能力

3.mode=4(802.3ad)(IEEE 802.3ad 動態鏈接聚合)

    表示支持802.3ad協議,和交換機的聚合LACP方式配合(需要xmit_hash_policy).標准要求所有設備在聚合操作時,要在同樣的速率和雙工模式,而且,和除了balance-rr模式外的其它bonding負載均衡模式一樣,任何連接都不能使用多於一個接口的帶寬。

特點:創建一個聚合組,它們共享同樣的速率和雙工設定。根據802.3ad規范將多個slave工作在同一個激活的聚合體下。外出流量的slave選舉是基於傳輸hash策略,該策略可以通過xmit_hash_policy選項從缺省的XOR策略改變到其他策略。需要注意的 是,並不是所有的傳輸策略都是802.3ad適應的,尤其考慮到在802.3ad標准43.2.4章節提及的包亂序問題。不同的實現可能會有不同的適應 性。

    必要條件:

     - 條件1:ethtool支持獲取每個slave的速率和雙工設定

     - 條件2:switch(交換機)支持IEEE 802.3ad Dynamic link aggregation

     - 條件3:大多數switch(交換機)需要經過特定配置才能支持802.3ad模式

4. mode=5(balance-tlb)(適配器傳輸負載均衡)

    是根據每個slave的負載情況選擇slave進行發送,接收時使用當前輪到的slave。該模式要求slave接口的網絡設備驅動有某種ethtool支持;而且ARP監控不可用。

特點:不需要任何特別的switch(交換機)支持的通道bonding。在每個slave上根據當前的負載(根據速度計算)分配外出流量。如果正在接受數據的slave出故障了,另一個slave接管失敗的slave的MAC地址。

    必要條件:

     - ethtool支持獲取每個slave的速率

5.mode=6(balance-alb)(適配器適應性負載均衡)

    在5的tlb基礎上增加了rlb(接收負載均衡receive load balance).不需要任何switch(交換機)的支持。接收負載均衡是通過ARP協商實現的.

特點:該模式包含了balance-tlb模式,同時加上針對IPV4流量的接收負載均衡(receive load balance, rlb),而且不需要任何switch(交換機)的支持。接收負載均衡是通過ARP協商實現的。bonding驅動截獲本機發送的ARP應答,並把源硬件地址改寫為bond中某個slave的唯一硬件地址,從而使得不同的對端使用不同的硬件地址進行通信。來自服務器端的接收流量也會被均衡。當本機發送ARP請求時,bonding驅動把對端的IP信息從ARP包中復制並保存下來。當ARP應答從對端到達 時,bonding驅動把它的硬件地址提取出來,並發起一個ARP應答給bond中的某個slave。使用ARP協商進行負載均衡的一個問題是:每次廣播 ARP請求時都會使用bond的硬件地址,因此對端學習到這個硬件地址后,接收流量將會全部流向當前的slave。這個問題可以通過給所有的對端發送更新 (ARP應答)來解決,應答中包含他們獨一無二的硬件地址,從而導致流量重新分布。當新的slave加入到bond中時,或者某個未激活的slave重新 激活時,接收流量也要重新分布。接收的負載被順序地分布(round robin)在bond中最高速的slave上當某個鏈路被重新接上,或者一個新的slave加入到bond中,接收流量在所有當前激活的slave中全部重新分配,通過使用指定的MAC地址給每個 client發起ARP應答。下面介紹的updelay參數必須被設置為某個大於等於switch(交換機)轉發延時的值,從而保證發往對端的ARP應答 不會被switch(交換機)阻截。

    必要條件:

     - 條件1:ethtool支持獲取每個slave的速率;

     - 條件2:底層驅動支持設置某個設備的硬件地址,從而使得總是有個slave(curr_active_slave)使用bond的硬件地址,同時保證每個bond 中的slave都有一個唯一的硬件地址。如果curr_active_slave出故障,它的硬件地址將會被新選出來的 curr_active_slave接管其實mod=6與mod=0的區別:mod=6,先把eth0流量占滿,再占eth1,….ethX;而mod=0的話,會發現2個口的流量都很穩定,基本一樣的帶寬。而mod=6,會發現第一個口流量很高,第2個口只占了小部分流量。

bond模式小結:

    mode5和mode6不需要交換機端的設置,網卡能自動聚合。mode4需要支持802.3ad。mode0,mode2和mode3理論上需要靜態聚合方式。

3 配置bond

測試環境:

[root@lixin ~]# cat /etc/redhat-release

CentOS release 6.7 (Final)

[root@lixin ~]# uname -r

2.6.32-573.el6.x86_64

[root@lixin ~]#

1、配置物理網卡

[root@lixin network-scripts]# cat ifcfg-eth0   

DEVICE=eth0

TYPE=Ethernet

ONBOOT=yes

BOOTPROTO=none

MASTER=bond0

SLAVE=yes        //可以沒有此字段,就需要開機執行ifenslave bond0 eth0 eth1命令了。

[root@lixin network-scripts]#

[root@lixin network-scripts]# cat ifcfg-eth1   

DEVICE=eth1

TYPE=Ethernet

ONBOOT=yes

BOOTPROTO=none

MASTER=bond0

SLAVE=yes       

[root@lixin network-scripts]#

2、配置邏輯網卡bond0

[root@lixin network-scripts]# cat ifcfg-bond0     //需要我們手工創建

DEVICE=bond0

TYPE=Ethernet

ONBOOT=yes

BOOTPROTO=static

IPADDR=10.0.0.10

NETMASK=255.255.255.0

DNS2=4.4.4.4

GATEWAY=10.0.0.2

DNS1=10.0.0.2

[root@lixin network-scripts]#

//由於沒有這個配置文件我們可以使用拷貝一個ifcfg-eth1來用:cp ifcfg-{eth0,bond1}

3、加載模塊,讓系統支持bonding

[root@lixin ~]# cat /etc/modprobe.conf  //不存在的話,手動創建(也可以放在modprobe.d下面)

alias bond0 bonding

options bond0 miimon=100 mode=0

[root@lixin ~]#

//配置bond0的鏈路檢查時間為100ms,模式為0。

注意:

linux網卡bonging的備份模式實驗在真實機器上做完全沒問題(前提是linux內核支持),但是在vmware workstation虛擬中做就會出現如下圖問題。  

 

配置完成后出現如上圖問題,但是bond0能夠正常啟動也能夠正常使用,只不過沒有起到備份模式的效果。當使用ifdown eth0后,網絡出現不通現象。

內核文檔中有說明:bond0獲取mac地址有兩種方式,一種是從第一個活躍網卡中獲取mac地址,然后其余的SLAVE網卡的mac地址都使用該mac地址;另一種是使用fail_over_mac參數,是bond0使用當前活躍網卡的mac地址,mac地址或者活躍網卡的轉換而變。  

既然vmware workstation不支持第一種獲取mac地址的方式,那么可以使用fail_over_mac=1參數,所以這里我們添加fail_over_mac=1參數

[root@lixin etc]# cat /etc/modprobe.d/modprobe.conf

alias bond0 bonding

options bond0 miimon=100 mode=0 fail_over_mac=1

[root@lixin etc]#

4、加載bond module

 //讓系統識別bond配置

[root@lixin etc]# modprobe bonding

5、查看綁定結果

[root@lixin etc]# cat /proc/net/bonding/bond0

Ethernet Channel Bonding Driver: v3.7.1 (April 27, 2011)

 

Bonding Mode: load balancing (round-robin)

MII Status: up

MII Polling Interval (ms): 100

Up Delay (ms): 0

Down Delay (ms): 0

 

Slave Interface: eth0

MII Status: up

Speed: 1000 Mbps

Duplex: full

Link Failure Count: 0

Permanent HW addr: 00:50:56:28:7f:51

Slave queue ID: 0

 

Slave Interface: eth1

MII Status: up

Speed: 1000 Mbps

Duplex: full

Link Failure Count: 0

Permanent HW addr: 00:50:56:29:9b:da

Slave queue ID: 0

[root@lixin etc]#

4 測試bond

         由於使用的是mode=0,負載均衡的方式,這時我們ping百度,然后斷開一個網卡,此時ping不會中斷。

[root@lixin etc]# ping baidu.com

PING baidu.com (111.13.101.208) 56(84) bytes of data.

64 bytes from 111.13.101.208: icmp_seq=1 ttl=128 time=10.6 ms

64 bytes from 111.13.101.208: icmp_seq=2 ttl=128 time=9.05 ms

64 bytes from 111.13.101.208: icmp_seq=3 ttl=128 time=11.7 ms

64 bytes from 111.13.101.208: icmp_seq=4 ttl=128 time=7.93 ms

64 bytes from 111.13.101.208: icmp_seq=5 ttl=128 time=9.50 ms

64 bytes from 111.13.101.208: icmp_seq=6 ttl=128 time=7.17 ms

64 bytes from 111.13.101.208: icmp_seq=7 ttl=128 time=21.2 ms

64 bytes from 111.13.101.208: icmp_seq=8 ttl=128 time=7.46 ms

64 bytes from 111.13.101.208: icmp_seq=9 ttl=128 time=7.82 ms

64 bytes from 111.13.101.208: icmp_seq=10 ttl=128 time=8.15 ms

64 bytes from 111.13.101.208: icmp_seq=11 ttl=128 time=6.89 ms

64 bytes from 111.13.101.208: icmp_seq=12 ttl=128 time=8.33 ms

64 bytes from 111.13.101.208: icmp_seq=13 ttl=128 time=8.65 ms

64 bytes from 111.13.101.208: icmp_seq=14 ttl=128 time=7.16 ms

64 bytes from 111.13.101.208: icmp_seq=15 ttl=128 time=9.31 ms

64 bytes from 111.13.101.208: icmp_seq=16 ttl=128 time=10.5 ms

64 bytes from 111.13.101.208: icmp_seq=17 ttl=128 time=7.61 ms

64 bytes from 111.13.101.208: icmp_seq=18 ttl=128 time=10.2 ms

^C

--- baidu.com ping statistics ---

18 packets transmitted, 18 received, 0% packet loss, time 17443ms

rtt min/avg/max/mdev = 6.899/9.417/21.254/3.170 ms

//用另一個終端手動關閉eth0網卡,ping並沒有中斷

[root@lixin etc]# !ca

cat /proc/net/bonding/bond0

Ethernet Channel Bonding Driver: v3.7.1 (April 27, 2011)

 

Bonding Mode: load balancing (round-robin)

MII Status: up

MII Polling Interval (ms): 100

Up Delay (ms): 0

Down Delay (ms): 0

 

Slave Interface: eth0

MII Status: down

Speed: Unknown

Duplex: Unknown

Link Failure Count: 1

Permanent HW addr: 00:50:56:28:7f:51

Slave queue ID: 0

 

Slave Interface: eth1

MII Status: up

Speed: 1000 Mbps

Duplex: full

Link Failure Count: 0

Permanent HW addr: 00:50:56:29:9b:da

Slave queue ID: 0

[root@lixin etc]#

//查看bond0狀態,發現eth0,down了,但是bond正常

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM