nginx負載均衡分配的6種策略


Nginx負載均衡策略

  負載均衡用於從“upstream”模塊定義的后端服務器列表中選取一台服務器接受用戶的請求。一個最基本的upstream模塊是這樣的,模塊內的server是服務器列表:

復制代碼
    #動態服務器組
    upstream dynamic_zuoyu {
        server localhost:8080;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082;  #tomcat 8.5
        server localhost:8083;  #tomcat 9.0
    }
復制代碼

 

  在upstream模塊配置完成后,要讓指定的訪問反向代理到服務器列表:

復制代碼
        #其他頁面反向代理到tomcat容器
        location ~ .*$ {
            index index.jsp index.html;
            proxy_pass http://dynamic_zuoyu;
        }
        
復制代碼

 

  這就是最基本的負載均衡實例,但這不足以滿足實際需求;目前Nginx服務器的upstream模塊支持6種方式的分配:

負載均衡策略
輪詢 默認方式
weight 權重方式
ip_hash 依據ip分配方式
least_conn 最少連接方式
fair(第三方) 響應時間方式
url_hash(第三方) 依據URL分配方式

  在這里,只詳細說明Nginx自帶的負載均衡策略,第三方不多描述。

1、輪詢

  最基本的配置方法,上面的例子就是輪詢的方式,它是upstream模塊默認的負載均衡默認策略。每個請求會按時間順序逐一分配到不同的后端服務器。

  有如下參數:

fail_timeout 與max_fails結合使用。
max_fails
設置在fail_timeout參數設置的時間內最大失敗次數,如果在這個時間內,所有針對該服務器的請求都失敗了,那么認為該服務器會被認為是停機了,
fail_time 服務器會被認為停機的時間長度,默認為10s。
backup 標記該服務器為備用服務器。當主服務器停止時,請求會被發送到它這里。
down 標記服務器永久停機了。

  注意:

  • 在輪詢中,如果服務器down掉了,會自動剔除該服務器。
  • 缺省配置就是輪詢策略。
  • 此策略適合服務器配置相當,無狀態且短平快的服務使用。

2、weight

  權重方式,在輪詢策略的基礎上指定輪詢的幾率。例子如下:

復制代碼
    #動態服務器組
    upstream dynamic_zuoyu {
        server localhost:8080   weight=2;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082   backup;  #tomcat 8.5
        server localhost:8083   max_fails=3 fail_timeout=20s;  #tomcat 9.0
    }
復制代碼

 

  在該例子中,weight參數用於指定輪詢幾率,weight的默認值為1,;weight的數值與訪問比率成正比,比如Tomcat 7.0被訪問的幾率為其他服務器的兩倍。

  注意:

  • 權重越高分配到需要處理的請求越多。
  • 此策略可以與least_conn和ip_hash結合使用。
  • 此策略比較適合服務器的硬件配置差別比較大的情況。

3、ip_hash

  指定負載均衡器按照基於客戶端IP的分配方式,這個方法確保了相同的客戶端的請求一直發送到相同的服務器,以保證session會話。這樣每個訪客都固定訪問一個后端服務器,可以解決session不能跨服務器的問題。

復制代碼
#動態服務器組
    upstream dynamic_zuoyu {
        ip_hash;    #保證每個訪客固定訪問一個后端服務器
        server localhost:8080   weight=2;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082;  #tomcat 8.5
        server localhost:8083   max_fails=3 fail_timeout=20s;  #tomcat 9.0
    }
復制代碼

  注意:

  • 在nginx版本1.3.1之前,不能在ip_hash中使用權重(weight)。
  • ip_hash不能與backup同時使用。
  • 此策略適合有狀態服務,比如session。
  • 當有服務器需要剔除,必須手動down掉。

4、least_conn

  把請求轉發給連接數較少的后端服務器。輪詢算法是把請求平均的轉發給各個后端,使它們的負載大致相同;但是,有些請求占用的時間很長,會導致其所在的后端負載較高。這種情況下,least_conn這種方式就可以達到更好的負載均衡效果。

復制代碼
    #動態服務器組
    upstream dynamic_zuoyu {
        least_conn;    #把請求轉發給連接數較少的后端服務器
        server localhost:8080   weight=2;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082 backup;  #tomcat 8.5
        server localhost:8083   max_fails=3 fail_timeout=20s;  #tomcat 9.0
    }
復制代碼

  注意:

  • 此負載均衡策略適合請求處理時間長短不一造成服務器過載的情況。

5、第三方策略

  第三方的負載均衡策略的實現需要安裝第三方插件。

①fair

  按照服務器端的響應時間來分配請求,響應時間短的優先分配。

復制代碼
    #動態服務器組
    upstream dynamic_zuoyu {
        server localhost:8080;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082;  #tomcat 8.5
        server localhost:8083;  #tomcat 9.0
        fair;    #實現響應時間短的優先分配
    }
復制代碼

 

②url_hash

  按訪問url的hash結果來分配請求,使每個url定向到同一個后端服務器,要配合緩存命中來使用。同一個資源多次請求,可能會到達不同的服務器上,導致不必要的多次下載,緩存命中率不高,以及一些資源時間的浪費。而使用url_hash,可以使得同一個url(也就是同一個資源請求)會到達同一台服務器,一旦緩存住了資源,再此收到請求,就可以從緩存中讀取。 

復制代碼
    #動態服務器組
    upstream dynamic_zuoyu {
        hash $request_uri;    #實現每個url定向到同一個后端服務器
        server localhost:8080;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082;  #tomcat 8.5
        server localhost:8083;  #tomcat 9.0
    }
復制代碼

  

總結

  以上便是6種負載均衡策略的實現方式,其中除了輪詢和輪詢權重外,都是Nginx根據不同的算法實現的。在實際運用中,需要根據不同的場景選擇性運用,大都是多種策略結合使用以達到實際需求。

Nginx負載均衡策略

  負載均衡用於從“upstream”模塊定義的后端服務器列表中選取一台服務器接受用戶的請求。一個最基本的upstream模塊是這樣的,模塊內的server是服務器列表:

復制代碼
    #動態服務器組
    upstream dynamic_zuoyu {
        server localhost:8080;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082;  #tomcat 8.5
        server localhost:8083;  #tomcat 9.0
    }
復制代碼

 

  在upstream模塊配置完成后,要讓指定的訪問反向代理到服務器列表:

復制代碼
        #其他頁面反向代理到tomcat容器
        location ~ .*$ {
            index index.jsp index.html;
            proxy_pass http://dynamic_zuoyu;
        }
        
復制代碼

 

  這就是最基本的負載均衡實例,但這不足以滿足實際需求;目前Nginx服務器的upstream模塊支持6種方式的分配:

負載均衡策略
輪詢 默認方式
weight 權重方式
ip_hash 依據ip分配方式
least_conn 最少連接方式
fair(第三方) 響應時間方式
url_hash(第三方) 依據URL分配方式

  在這里,只詳細說明Nginx自帶的負載均衡策略,第三方不多描述。

1、輪詢

  最基本的配置方法,上面的例子就是輪詢的方式,它是upstream模塊默認的負載均衡默認策略。每個請求會按時間順序逐一分配到不同的后端服務器。

  有如下參數:

fail_timeout 與max_fails結合使用。
max_fails
設置在fail_timeout參數設置的時間內最大失敗次數,如果在這個時間內,所有針對該服務器的請求都失敗了,那么認為該服務器會被認為是停機了,
fail_time 服務器會被認為停機的時間長度,默認為10s。
backup 標記該服務器為備用服務器。當主服務器停止時,請求會被發送到它這里。
down 標記服務器永久停機了。

  注意:

  • 在輪詢中,如果服務器down掉了,會自動剔除該服務器。
  • 缺省配置就是輪詢策略。
  • 此策略適合服務器配置相當,無狀態且短平快的服務使用。

2、weight

  權重方式,在輪詢策略的基礎上指定輪詢的幾率。例子如下:

復制代碼
    #動態服務器組
    upstream dynamic_zuoyu {
        server localhost:8080   weight=2;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082   backup;  #tomcat 8.5
        server localhost:8083   max_fails=3 fail_timeout=20s;  #tomcat 9.0
    }
復制代碼

 

  在該例子中,weight參數用於指定輪詢幾率,weight的默認值為1,;weight的數值與訪問比率成正比,比如Tomcat 7.0被訪問的幾率為其他服務器的兩倍。

  注意:

  • 權重越高分配到需要處理的請求越多。
  • 此策略可以與least_conn和ip_hash結合使用。
  • 此策略比較適合服務器的硬件配置差別比較大的情況。

3、ip_hash

  指定負載均衡器按照基於客戶端IP的分配方式,這個方法確保了相同的客戶端的請求一直發送到相同的服務器,以保證session會話。這樣每個訪客都固定訪問一個后端服務器,可以解決session不能跨服務器的問題。

復制代碼
#動態服務器組
    upstream dynamic_zuoyu {
        ip_hash;    #保證每個訪客固定訪問一個后端服務器
        server localhost:8080   weight=2;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082;  #tomcat 8.5
        server localhost:8083   max_fails=3 fail_timeout=20s;  #tomcat 9.0
    }
復制代碼

  注意:

  • 在nginx版本1.3.1之前,不能在ip_hash中使用權重(weight)。
  • ip_hash不能與backup同時使用。
  • 此策略適合有狀態服務,比如session。
  • 當有服務器需要剔除,必須手動down掉。

4、least_conn

  把請求轉發給連接數較少的后端服務器。輪詢算法是把請求平均的轉發給各個后端,使它們的負載大致相同;但是,有些請求占用的時間很長,會導致其所在的后端負載較高。這種情況下,least_conn這種方式就可以達到更好的負載均衡效果。

復制代碼
    #動態服務器組
    upstream dynamic_zuoyu {
        least_conn;    #把請求轉發給連接數較少的后端服務器
        server localhost:8080   weight=2;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082 backup;  #tomcat 8.5
        server localhost:8083   max_fails=3 fail_timeout=20s;  #tomcat 9.0
    }
復制代碼

  注意:

  • 此負載均衡策略適合請求處理時間長短不一造成服務器過載的情況。

5、第三方策略

  第三方的負載均衡策略的實現需要安裝第三方插件。

①fair

  按照服務器端的響應時間來分配請求,響應時間短的優先分配。

復制代碼
    #動態服務器組
    upstream dynamic_zuoyu {
        server localhost:8080;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082;  #tomcat 8.5
        server localhost:8083;  #tomcat 9.0
        fair;    #實現響應時間短的優先分配
    }
復制代碼

 

②url_hash

  按訪問url的hash結果來分配請求,使每個url定向到同一個后端服務器,要配合緩存命中來使用。同一個資源多次請求,可能會到達不同的服務器上,導致不必要的多次下載,緩存命中率不高,以及一些資源時間的浪費。而使用url_hash,可以使得同一個url(也就是同一個資源請求)會到達同一台服務器,一旦緩存住了資源,再此收到請求,就可以從緩存中讀取。 

復制代碼
    #動態服務器組
    upstream dynamic_zuoyu {
        hash $request_uri;    #實現每個url定向到同一個后端服務器
        server localhost:8080;  #tomcat 7.0
        server localhost:8081;  #tomcat 8.0
        server localhost:8082;  #tomcat 8.5
        server localhost:8083;  #tomcat 9.0
    }
復制代碼

  

三、總結

  以上便是6種負載均衡策略的實現方式,其中除了輪詢和輪詢權重外,都是Nginx根據不同的算法實現的。在實際運用中,需要根據不同的場景選擇性運用,大都是多種策略結合使用以達到實際需求。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM