第一次從Typora寫完復制過來，明明在Typora里面排版異常美觀，不知為何到博客園上字體大小全部變化了，見諒！
負載均衡
參考：《CDN技術詳解》
1.概念
負載均衡（Load Balance），是一種計算機技術，意思是將負載（工作任務，訪問請求）進行平衡、分攤到多個操作單元（服務器，組件）上進行執行。是解決高性能，單點故障（高可用），擴展性（水平伸縮）的終極解決方案。負載平衡服務通常可以由專用軟件（nginx、Lvs等）和硬件（F5負載均衡器）來完成。
2.負載均衡原理
系統的擴展可以分為縱向（垂直）擴展和橫向（水平）擴展。
- 縱向擴展：從單機角度出發，通過增加硬件處理能力，例如CPU處理能力、內存容量、磁盤等，目的是實現服務器處理能力的提升，但缺點是不能滿足大型分布式系統或者網站大流量、高並發、海量數據的問題。
- 橫向擴展：通過添加機器數量來滿足大型網站服務的處理能力。例如一台機器不能滿足需求，我就增加兩台或者多台機器，共同承擔訪問壓力，這就是典型的集群和負載均衡的原理，
集群和負載均衡的架構圖如下：
- 應用集群：將同一應用部署到多台機器上，組成處理集群，接收負載均衡設備分發的請求，進行處理，並返回相應數據。
- 負載均衡設備：將用戶訪問的請求，根據負載均衡算法，分發到集群中的一台處理服務器。
負載均衡的作用：
- 解決並發壓力，提高應用處理性能（增加吞吐量，加強網絡處理能力）；
- 提供故障轉移，實現高可用；
- 通過添加或減少服務器數量，提供網站伸縮性（擴展性）；
- 安全防護；（負載均衡設備上做一些過濾，黑白名單等處理）
3.負載均衡的實現
根據實現技術不同，可分為DNS域名解析負載均衡，HTTP重定向負載均衡，IP負載均衡，鏈路層負載均衡，反向代理負載均衡等。
3.1 DNS域名解析負載均衡
原理
最早的負載均衡技術，在DNS服務器內配置多個記錄，這些記錄對應服務器構成集群，每次域名解析請求都會根據負載均衡算法計算一個不同的IP地址返回，這樣就實現了負載均衡。
優點
- 使用簡單：載均衡工作，交給DNS服務器處理，省掉了負載均衡服務器維護的麻煩
- 提高性能：可以支持基於地址的域名解析，解析成距離用戶最近的服務器地址，可以加快訪問速度，改善性能；
缺點
- 可用性差：DNS解析是多級解析，新增/修改DNS后，解析時間較長；解析過程中，用戶訪問網站將失敗；
- 擴展性差：DNS負載均衡的控制權在域名商那里，無法對其做更多的改善和擴展；
適用場景
所以，結合DNS域名解析負載均衡的原理，大型網站一般都會把DNS負載均衡作為第一級負載均衡手段，然后再在內部做第二級負載均衡。
3.2 HTTP重定向負載均衡
原理
HTTP重定向負載均衡服務器是一台普通的應用服務器，其唯一的功能就是根據用戶的HTTP請求以及負載均衡算法計算出一台真實的服務器地址，並將真實的服務器地址寫入HTTP重定向響應中（響應狀態碼302）返回給瀏覽器，然后瀏覽器再自動請求真實的服務器。
優點
簡單易實現
缺點
- 缺點是瀏覽器需要每次請求兩次服務器才能拿完成一次訪問，性能較差；
- 重定向服務器自身的處理能力有可能成為瓶頸
適用場景
綜上，此方案在實際中並不經常使用。
3.3 IP負載均衡
原理
在網絡層結合負載均衡算法通過修改請求目標IP地址進行負載均衡。
用戶請求數據包，到達負載均衡服務器后，負載均衡服務器在操作系統內核進程獲取網絡數據包，根據負載均衡算法得到一台真實服務器地址，然后將請求目的地址修改為獲得的真實ip地址，整個過程不需要經過用戶進程處理。真實服務器處理完成后，響應數據包回到負載均衡服務器，負載均衡服務器再將數據包源地址修改為自身的ip地址，發送給用戶瀏覽器。
整個流程的關鍵在於真實WEB服務器響應數據包如何返回給負載均衡服務器，
- 一種是負載均衡服務器在修改目的IP地址的同時修改源地址，將數據包源地址改為自身的IP，即源地址轉換（SNAT）
- 另一種方案是將負載均衡服務器同時作為真實物理服務器的網關服務器，這樣所有的數據都會到達負載均衡服務器。
優點
IP負載均衡在內核進程完成數據分發，處理性能更好
缺點
由於所有請求響應的數據包都需要經過負載均衡服務器，因此負載均衡的網卡帶寬成為系統的瓶頸
3.4 數據鏈路層負載均衡
原理
數據鏈路層負載均衡是指在通信協議的數據鏈路層修改mac地址進行負載均衡。
這種數據傳輸方式又稱作三角傳輸模式，即數據在分發過程中不修改IP地址，只根據負載均衡算法修改目的地的mac地址，然后通過配置真實物理服務器集群所有機器虛擬IP和負載均衡服務器IP地址一樣，從而達到依靠mac地址進行傳輸，這種負載均衡方式又稱為直接路由方式（DR）.
在上圖中，用戶請求到達負載均衡服務器后，負載均衡服務器將請求數據的目的mac地址修改為真實WEB服務器的mac地址，並不修改數據包目標IP地址，因此數據可以正常到達目標WEB服務器，該服務器在處理完數據后可以不經過負載均衡服務器直接到達用戶瀏覽器。
優點
使用三角傳輸模式的鏈路層負載均衡是目前大型網站所使用的最廣的一種負載均衡手段。四層負載均衡軟件LVS其中的DR工作模式就是基於數據鏈路層負載均衡原理實現的。
缺點
配置可能復雜一點。
3.5 反向代理負載均衡
原理
傳統代理服務器位於瀏覽器一端，代理瀏覽器將HTTP請求發送到互聯網上（正向代理）。而反向代理服務器則位於網站機房一側，代理網站web服務器接收http請求。反向代理服務器也可以實現負載均衡的功能，典型的反向代理服務就是nginx。
除此之外，代理服務器也可以配置緩存加速web請求。當用戶第一次訪問靜態內容的時候，靜態內存就被緩存在反向代理服務器上，這樣當其他用戶訪問該靜態內容時，就可以直接從反向代理服務器返回，加速web請求響應速度，減輕web服務器負載壓力。
由於反向代理服務器轉發請求在HTTP協議層面，因此也叫應用層負載均衡。優點是部署簡單，缺點是可能成為系統的瓶頸。
4.負載均衡的算法
負載均衡算法的目標是將用戶請求和相關流量高效、正確地分發到處於正常工作狀態的服務器上，使得各台服務器盡可能地保持負載均衡。
負載均衡算法可以分為靜態算法和動態算法兩大類。
（1）靜態算法是指按照預先設定的策略進行分發，而不考慮當前服務器的實際負載情況，其實現比較簡單快捷。典型的靜態算法包括輪詢、加權輪詢、隨機、加權隨機、基於源IP的Hash、基於源IP端口的Hash、基於目的IP的Hash等;
（2）動態算法能夠根據各服務器實際運行中的負載情況進行連接分發，具有更優的均衡效果，典型的動態算法包括基於最小連接、基於加權最小連接、最小響應時間等。
4.1 靜態負載均衡算法
- 輪詢(
Round Robin) :依次將請求分發到不同的服務器上,使得各台服務器平均分擔用戶的連接請求，該算法適用於集群中各服務器性能相當而無明顯優劣差異的場景。 - 加權輪詢(
Weighted Round Robin) :依次將請求分發到不同的服務器上，其中權值大的分配較多請求,權值小的分配較少請求，該算法利用權值標識服務器間的性能差異，適用於各服務器間性能不一的場景。 - 隨機(
Random) :隨機地將請求分發到不同的服務器上,從統計學角度看,調度的結果為各台服務器平均分擔用戶的連接請求，該算法適用於集群中各服務器性能相當而無明顯優劣差異的場景。 - 基於源IP的Hash (
Source IP Hashing) :通過一個Hash函數將來自同一個源IP地址的請求映射到一台服務器上,該算法適用於需要保證來自同一用戶的請求被分發到同一台服務器的場景。 - 基於源IP端口的Hash (
Source IP and Source Port Hashing) :通過一個Hash函數將來自同一個源IP地址和源端口號的請求映射到一台服務器上,該算法適用於需要保證來自同一用戶同一業務的請求被分發到同一台服務器的場景。 - 基於目的IP的Hash (
Destination IP Hashing) :通過一個Hash函數將去往同一個目的IP地址的請求映射到一台服務器上,該算法適用於需要保證到達同一目的地的請求被分發到同一台服務器的場景。
4.2 動態負載均衡算法
- 最小連接(
Least Conection) :根據當前各台服務器的連接數估算服務器的負載情況，把新的連接分配給連接數最小的服務器。該算法能夠將連接保持時長差異較大的用戶請求合理地分發到各台服務器上，適用於集群中各服務器性能相當、無明顯優劣差異，而且不同用戶發起的連接保持時長差異較大的場景。 - 加權最小連接(
Weighted Least Connection) :調度新連接時盡可能使得服務器上已經建立的活動連接數和服務器權值成-定比例，其中權值標識了服務器間的性能差異，該算法適用於集群中各服務器性能存在差異，而且不同用戶發起的連接保持時長差異較大的場景。 - 最小響應時間(
Least Response Time) :調度新連接時盡可能選擇對用戶請求響應時間短的服務器，該算法適用於用戶請求對服務器響應時間要求較高的場景。
4.3 總結
不同的調度算法所實現的負載均衡效果不盡相同，可以根據實際應用場景的需求，選用不同的算法。
(1)例如在Web服務器集群可以采用輪詢算法獲得較高的訪問響應，
(2)FTP服務器集群可以采用最小連接算法減輕單台服務器的壓力,
(3)報稅等專用業務集群可以采用基於源IP端口的Hash算法確保用戶訪問的持續性。
除了上述傳統的分發算法外，近年來$針對內容分析的分發算法$越來越受到負載均衡設備廠商的重視。舉個例子來說，對於Web網站服務器集群而言，其使用的負載均衡設備不僅需要能夠根據IP地址和默認80端口分發HTTP流量,
還需要根據HTTP報文頭或內容分配到指定服務器。這類設備可以對HTTP報文進行分析，獲得Accept-Encoding、Accept-language、 Host、 Request-Method、URL-file、URL-function、User-agent 等信息，並以此為依據向合適的服務器分發請求。
5.服務器負載均衡的分類
服務器負載均衡常見的可以分為基於四層交換技術的負載均衡、基於七層交換技術的負載均衡
5.1 基於四層交換技術的負載均衡
(1) 概念
基於四層交換技術的負載均衡的主要工作是轉發，它在接收到客戶端的報文以后主要通過修改報文中的目標地址，再加上負載均衡算法，決定最終選擇的真實物理服務器。
(2) 兩種常見的實現方式
四層負載均衡的實現主要有NAT方式以及DR方式，它們適用於不同的應用場景。
具有代表意義的產品：LVS（開源軟件），F5（硬件）
(3) 優缺點
- 優點：性能高、支持各種網絡協議
- 缺點：對網絡依賴較大，負載智能化方面沒有7層負載好（比如不支持對url個性化負載），F5硬件性能很高但成本也高需要人民幣幾十萬，對於小公司就望而卻步了。
(4) 四層負載均衡-NAT方式
網絡地址轉換( NAT, Network Address Translation)屬於廣域網接入技術,它是一種將私有(保留)地址轉化為合法IP地址的轉換技術，被廣泛應用於各種類型互聯網接入方式和各種類型的網絡中。
采用NAT方式實現的L4服務器負載均衡,后端服務器可以位於不同的物理位置和不同的局域網內。負載均衡設備在分發服務請求時，需要進行虛擬IP地址和目的IP地址轉換，再通過路由將報文轉發給具有相應目的地址的服務器。NAT方式L4負載均衡的典型組網如圖所示。
工作流程如下：
這種方法使用了網絡地址轉換(NAT)技術實現L4服務器負載均衡，它具有組網靈活，適用於多種組網類型的特征。該方法對服務器沒有額外的要求，不需要修改服務器的配置。
(5) 四層負載均衡-DR方式
DR (Direct Routing) 是另一種L4服務器負載均衡的實現方式。與NAT方式的L4負載均衡不同, DR方式只有客戶端發出的服務請求報文需要通過負載均衡設備，而服務器發出的響應報文則無須通過，這樣能夠有效減少負載均衡設備的負載壓力，避免負載均衡設備成為系統性能瓶頸。DR方式下，負載均衡設備在分發服務器請求時，不采用改變請求目的IP地址的方法，而是將報文的目的MAC地址替換為服務器的MAC地址,然后直接將報文轉發給服務器。DR方式L4負載均衡的典型組網如圖所示：
從上圖中可以看出，DR方式L4服務器負載均衡的實現方案與NAT方式類似，區別是
- 負載均衡設備是以旁掛形式與交換機相連接的
- 集群中每台處理用戶請求的服務器都擁有單獨的虛擬IP地址。
四層服務器負載均衡DR方式的特點如下：
- 必須為負載均衡設備和真實服務器同時配置相同的虛擬IP地址，但是要求真實服務器的虛擬IP地址不能響應ARP請求，只能由負載均衡設備響應（因為兩者處於一個子網中，所以真實服務器是可以響應ARP請求的）。
- 用於響應服務請求的真實服務器上除了虛擬IP地址，還需要配置一個真實的IP地址用於和負載均衡設備通信，同時負載均衡設備要和真實服務器同處於一個二層網絡內(同一個子網)(用於獲取mac地址)。
- 因為服務器的虛擬IP地址不能響應ARP請求,所以從客戶端發送給虛擬IP地址的報文將由負載均衡設備接收,負載均衡設備再將其分發給相應的真實服務器，而從真實服務器發送給客戶端的響應報文則直接由交換機返回。
相應的工作流程如下圖所示。
該方法只要求客戶端到服務器的單方向請求報文經過負載均衡設備，負載均衡設備負擔較小，不易成為瓶頸，具有更高的處理性能。
5.2 基於七層交換技術的負載均衡
(1) 概念
L4服務器負載均衡在截取數據流以后,對數據包的檢查和分析僅局限於IP報文頭部和TCP/UDP報文頭部,而並不關心TCP/UDP數據包的有效載荷信息。而L7服務器負載均衡則要求負載均衡設備除了支持基於四層的負載均衡以外，還要解析數據包中四層以上的信息，即應用層的信息，例如解析HTTP內容, 從而在數據包中提取出HTTP URL或者Cookie信息，用來作為負載均衡的依據。
它的主要特點在於：
- 通過報文中的有意義的應用層內容以及負載均衡算法，決定最終選擇的真實物理服務器。
- 七層負載均衡服務器起了一個代理服務器的作用
與4層服務器負載均衡相比，優點在於
- 能夠根據數據包內容(例如判斷數據包是圖像文件、壓縮文件或者多媒體文件等)把數據流量引向能夠處理相應內容的服務器，提高系統可管理性和靈活性。
- 能夠根據連接請求的數據類型(例如根據URL判定用戶發來的請求是和普通文本、圖像等靜態文檔相關，還是和ASP、CGI等動態文檔相關)，把其引向相應的服務器處理，在提高系統性能的同時有助於改善安全性。
(2) 工作流程
從上圖可以看出七層負載均衡服務器起了一個代理服務器的作用，client要訪問webserver要先與七層負載設備進行三次握手后建立TCP連接，把要訪問的報文信息發送給七層負載均衡；然后七層負載均衡再根據設置的均衡規則選擇特定的webserver，然后通過三次握手與此台webserver建立TCP連接，然后webserver把需要的數據發送給七層負載均衡設備，負載均衡設備再把數據發送給client。
具有代表意義的產品：nginx（軟件）
Nginx的介紹
Nginx (讀作engine-x) 是一款高性能的HTTP和反向代理服務器,同時它也是一個IMAP/POP3/SMTP 代理服務器。Nginx具有非常優越的性能，特別是極高的並發處理能力，因此獲得了眾多互聯網網站的青睞。Nginx實現了完善的HTTP服務器功能，在實際的網站部署中，它經常被用於處理網絡協議棧七層的負載均衡問題。Nginx負載均衡的核心是Upstream模塊，當Nginx 接收到用戶發來的HTTP請求后，它將創建一個到后端應用服務器的Upstream請求，待應用服務器發送回響應數據后，Nginx再將后端Upstream中的數據轉發給用戶。Upstream支持的負載調度算法主要包括基於源IP的Hash、基於目的URL的Hash、基於響應時間的公平調度等。
Nginx的主要特點包括如下幾點。
(1)調度靈活。Nginx工作在網絡協議棧的第七層，能夠對HtTP應用請求進行解析和分流，支持比較復雜的正則規則，具有更優化的負載調度效果。
(2)網絡依賴性低。Nginx對網絡的依賴程度非常低，理論上講，只要能夠Ping通就可以實施負載均衡，而且可以有效區分內網和外網流量。
(3)支持服務器檢測。Nginx能夠根據應用服務器處理頁面返回的狀態碼、超時信息等檢測服務器是否出現故障，並及時將返回錯誤的請求重新提交到其他節點上。
相對於LVS, Nginx主要用於網絡七層的調度，在靈活性和有效性方面更具優勢,同時它對服務器健康狀態的檢測也避免了用戶訪向過程中的連接斷線。但是，網絡七層信息處理的復雜度也使得Nginx 在負載能力和穩定性方面與
LVS相比有較大的差距。另外，它目前只支持HTTP應用和EMAIL應用，在應用場景上不如LVS豐富，而且也不具備現成的雙機熱備方案。總體而言,實際場景中可以考慮LVS和Nginx的結合使用,其中將LVS部署在前端用於處理四層的負載均衡,當需要更細節的負載調度時再啟用Nginx以優化調度效果。
還要說明的是，在實際應用中，L4負載均衡和L7負載均衡往往是搭配使用的，當然最好是在同一台負載均衡設備上兼具四層和七層功能。負載均衡設備首先從報文中提取IP地址和端口號,進行四層負載均衡,如果發現確有必要進行進一步的基於報文內容的轉發，再實施七層負載均衡操作。
6.LVS
LVS ( Linux Virtual Server )是一個的開源軟件項目,其目標是為Linux集群系統研發高性能、高可用的負載均衡解決方案。LVS安裝和部署在負載均衡調度器上。安裝了LVS負載調度器的主要功用類似於路由器，它含有完成LVS負載均衡功能所需的路由表,通過其中的路由信息將用戶請求分發給集群中的應用服務器。同時LVS負載調度器還需要監測各台應用服務器的工作情況，並根據服務器的狀態是否正常可用隨時更新LVS路由表。
LVS的核心是IP負載均衡(見3.3)，實現該功能的是IPVS模塊，它被安裝在負載調度器上並虛擬出一個IP地址提供給用戶，用戶必須通過該虛擬IP地址才能夠訪問到集群提供的應用服務,即所有的用戶請求都首先經由虛擬IP地址達到負載調度器，然后負載調度器將從應用服務器列表中選擇一個合適的節點響應用戶請求。根據調度器將請求發送到應用服務器節點以及應用服務器返回數據給用戶的方式上存在的差異，IPVS具有NAT (Network Address Translation )、TUN (IP Tunneling) 、DR (Direct Routing) 等不同的實現方式。
6.1 LVS體系結構
LVS體系結構主要分為3層，如下圖所示
- 最前端負載均衡器，用
LoadBalancer(LB)表示，有時也稱為負載調度器(director) - 中間的真實服務器群，用
ServerArray表示 - 最底層的數據共享存儲，用Share Storage表示。
LVS三種工作模式如下：
6.2 LVS-DR模式（Direct Routing直接路由模式）
DR模式下需要負載均衡器LoadBalancer(LB)和RS(Real Server后台真實服務器)綁定同一個VIP(virtual IP)【也就是在RS的環回網卡上綁定LB的虛擬服務IP。這樣RS會認為這個虛擬服務IP是自己的IP，自己是能夠處理這個數據包的。防止RS直接丟棄該數據包！】， 一個請求過來時，LB只需要將請求包的MAC地址修改為某一台RS的MAC，該包就會被轉發到相應的RS處理，注意此時的源IP和目標IP都沒變，RS收到LB轉發來的包，發現MAC是自己的，發現IP也是自己的，於是這個包被合法地接受，而當RS返回響應時，只要直接向源IP(即用戶的IP)返回即可，
- DR模式下，LB接收請求輸入，將請求轉發給RS，由RS輸出響應給用戶，性能非常高。特別適合下行流量較大的業務場景，比如請求視頻等大文件。DR模式其實就是基於數據鏈路層負載均衡原理工作的。
- 它的不足之處是要求負載均衡器LB與RS必須在一個子網上。【因為LB在轉發過程中需要改寫數據包的MAC為RS的MAC地址，所以要能夠查詢到RS的MAC。而要獲取到RS的MAC，則需要保證二者位於一個子網，否則LB只能獲取到RS網關的MAC地址。】
6.3 LVS-NAT模式（Network Address Translation地址轉換模式）
NAT模式下，請求包和響應包都需要經過負載均衡器LB處理。當客戶端的請求到達后，LB會對請求包做目的地址轉換（DNAT），將請求包的目的IP改寫為RS的IP。當收到RS的響應后，LB會對響應包做源地址轉換（SNAT），將響應包的源IP改寫為LB的IP。
NAT模式請求和響應都需要經過負載均衡器LB，性能沒有DR模式好。
6.4 LVS-TUN模式(隧道模式)
TUN模式是通過ip隧道技術減輕lvs調度服務器的壓力，許多Internet服務（例如WEB服務器）的請求包很短小，而應答包通常很大，負載均衡器只負責將請求包分發給物理服務器，而物理服務器將應答包直接發給用戶。所以，負載均衡器能處理很巨大的請求量。
- 相比NAT性能要高的多，比DR模式的優點是不限制負載均衡器與RS在一個物理段上。
- 但是它的不足需要所有的服務器（lvs、RS）支持"IP Tunneling"(IP Encapsulation)協議。
6.5 特點
- 性能好。LVS集成在操作系統內核之中，在網絡協議棧第四層對用戶請求進行分發，自身沒有流量的產生，因此具有極高的性能。
- 配置簡單。LVS已經被廣大的Linux、 FreeBSD操作系統所支持，配置文件比較簡單，操作便捷，降低了配置出錯的幾率。
- 工作穩定。LVS在實際應用中已被廣泛證明具有極強的可靠性，同時它具有完整的雙機熱備方案：
LVS+Keepalived和LVS+Heartbeat等。
7.負載均衡部署方式
負載均衡設備在具體實現中分直連和旁掛兩種部署方式。此外，為了提高網絡可用性，負載均衡設備的雙機熱備部署也是十分必要的。
7.1 常用負載均衡部署方式
（1）直連部署方式
直連部署方式比較簡單,就是將負載均衡設備直接部署在報文必經之路上，作為服務器和客戶端之間的路由設備，來往報文均直接由負載均衡設備進行路由，其部署示意如圖所示。
（2）旁掛部署方式
負載均衡設備的旁掛部署方式是指負載均衡設備並不作為服務器和客戶端之間的路由設備,而只是旁掛在通用路由設備上，例如以板卡的形式插在路由設備的擴展插槽中，其部署示意如圖所示。
在如圖所示的旁掛模式中，用於中轉報文的路由交換設備的配置非常重要,因為客戶端發送給服務器的請求流量如果要首先被負載均衡設備接收，就必須在路由交換設備上預先配置到負載均衡設備虛擬IP地址的路由信息。
一般情況下， 旁掛部署方式中從服務器返回給客戶端的流量可以不經過負載均衡設備，而是直接通過路由交換設備發給客戶端。如果仍然希望流量先返回負載均衡設備，那么需要一些特殊的操作步驟， 例如:令服務器和負載均衡設備處於同一個二層網絡中，服務器將其網關設置為負載均衡設備;在路由交換設備.上配置路由策略,將從服務器返回的流量定向到負載均衡設備上;負載均衡設備在轉發客戶端流量時進行源地址NAT轉換。這些處理操作在負載均衡設備需要承擔更多功用(例如SSL加速)的時候，是非常重要的。
7.2 雙機熱備部署方式
無論是直連還是旁掛的部署方式，負載均衡設備始終處於網絡的關鍵路徑上，因此負載均衡設備的穩定性和安全性直接影響網絡的可用性。為了避免出現負載均衡設備故障導致整個系統的單點故障，負載均衡設備必須支持雙機熱
備，即在兩台負載均衡設備之間通過備份鏈路進行對端設備.上的業務備份，以保證兩台設備的業務狀態始終保持一致。當其中一台設備發生故障時，業務流量能夠被及時切換到另一台設備上。因為另一台設備已經備份了故障設備上的全部業務信息，所以業務流量能夠繼續由該設備處理並分發，從而盡可能避免造成業務中斷。
（1）主備模式
兩台負載均衡設備中，一台作為主設備,另一台作為備份設備。主設備負貴處理所有業務，並將產生的業務信息通過備份鏈路傳送給備份設備。備份設備並不處理實際業務，而只用於備份。當主設備出現故障時，備份設備及時接替主設備處理業務，在負責正常處理新發起的負載均衡業務的同時也要保證此前正在進行中的負載均衡業務不會中斷。
（2）負載分擔模式
兩台負載均衡設備均為主設備,都能夠處理業務流量，同時又作為彼此的備份設備，負責備份對端設備產生的業務信息。當其中一台設備出現故障后，另一設備將負責處理全部業務,在負責正常處理新發起的負載均衡業務的同時,也要保證此前正在進行中的負載均衡業務不會中斷。