【轉】Linux Nginx負載均衡【精】


最近迷上了Nginx,真實麻雀雖小,五臟俱全..功能實在強大..

nginx不單可以作為強大的web服務器,也可以作為一個反向代理服務器,而且nginx還可以按照調度規則實現動態、靜態頁面的分離,可以按照輪詢、ip哈希、URL哈希、權重等多種方式對后端服務器做負載均衡,同時還支持后端服務器的健康檢查。

如果只有一台服務器時,這個服務器掛了,那么對於網站來說是個災難.因此,這時候的負載均衡就會大顯身手了,它會自動剔除掛掉的服務器.

下面簡單的介紹下我使用Nginx做負載的體會

下載---安裝Nginx這些不介紹了,前篇有介紹.

windows和Linux下配置Nginx負載的寫法一樣,故不分開介紹.

Nginx負載均衡一些基礎知識:

nginx 的 upstream目前支持 4 種方式的分配
1)、輪詢(默認)
每個請求按時間順序逐一分配到不同的后端服務器,如果后端服務器down掉,能自動剔除。
2)、weight
指定輪詢幾率,weight和訪問比率成正比,用於后端服務器性能不均的情況。
2)、ip_hash
每個請求按訪問ip的hash結果分配,這樣每個訪客固定訪問一個后端服務器,可以解決session的問題。
3)、fair(第三方)
按后端服務器的響應時間來分配請求,響應時間短的優先分配。
4)、url_hash(第三方)

配置:

在http節點里添加:

#定義負載均衡設備的 Ip及設備狀態

upstream myServer {

server 127.0.0.1:9090 down;
server 127.0.0.1:8080 weight=2;
server 127.0.0.1:6060;
server 127.0.0.1:7070 backup;
}

在需要使用負載的Server節點下添加

proxy_pass http://myServer;

upstream 每個設備的狀態:

down 表示單前的server暫時不參與負載
weight 默認為1.weight越大,負載的權重就越大。
max_fails :允許請求失敗的次數默認為1.當超過最大次數時,返回proxy_next_upstream 模塊定義的錯誤
fail_timeout:max_fails 次失敗后,暫停的時間。
backup: 其它所有的非backup機器down或者忙的時候,請求backup機器。所以這台機器壓力會最輕。

Nginx還支持多組的負載均衡,可以配置多個upstream 來服務於不同的Server.

配置負載均衡比較簡單,但是最關鍵的一個問題是怎么實現多台服務器之間session的共享

下面有幾種方法(以下內容來源於網絡,第四種方法沒有實踐.)

1) 不使用session,換作cookie

能把session改成cookie,就能避開session的一些弊端,在從前看的一本J2EE的書上,也指明在集群系統中不能用session,否則惹出禍端來就不好辦。如果系統不復雜,就優先考慮能否將session去掉,改動起來非常麻煩的話,再用下面的辦法。

2) 應用服務器自行實現共享

asp.net可以用數據庫或memcached來保存session,從而在asp.net本身建立了一個session集群,用這樣的方式可以令 session保證穩定,即使某個節點有故障,session也不會丟失,適用於較為嚴格但請求量不高的場合。但是它的效率是不會很高的,不適用於對效率 要求高的場合。

以上兩個辦法都跟nginx沒什么關系,下面來說說用nginx該如何處理:

3) ip_hash

nginx中的ip_hash技術能夠將某個ip的請求定向到同一台后端,這樣一來這個ip下的某個客戶端和某個后端就能建立起穩固的session,ip_hash是在upstream配置中定義的:

upstream backend {
server 127.0.0.1:8080 ;
server 127.0.0.1:9090 ;
ip_hash;
}

ip_hash是容易理解的,但是因為僅僅能用ip這個因子來分配后端,因此ip_hash是有缺陷的,不能在一些情況下使用:

1/ nginx不是最前端的服務器。ip_hash要求nginx一定是最前端的服務器,否則nginx得不到正確ip,就不能根據ip作hash。譬如使用的是squid為最前端,那么nginx取ip時只能得到squid的服務器ip地址,用這個地址來作分流是肯定錯亂的。

2/ nginx的后端還有其它方式的負載均衡。假如nginx后端又有其它負載均衡,將請求又通過另外的方式分流了,那么某個客戶端的請求肯定不能定位到同一台session應用服務器上。這么算起來,nginx后端只能直接指向應用服務器,或者再搭一個squid,然后指向應用服務器。最好的辦法是用location作一次分流,將需要session的部分請求通過ip_hash分流,剩下的走其它后端去。

4) upstream_hash

為了解決ip_hash的一些問題,可以使用upstream_hash這個第三方模塊,這個模塊多數情況下是用作url_hash的,但是並不妨礙將它用來做session共享:

假如前端是squid,他會將ip加入x_forwarded_for這個http_header里,用upstream_hash可以用這個頭做因子,將請求定向到指定的后端:

可見這篇文檔:http://www.sudone.com/nginx/nginx_url_hash.html

在文檔中是使用$request_uri做因子,稍微改一下:

hash $http_x_forwarded_for;

這樣就改成了利用x_forwarded_for這個頭作因子,在nginx新版本中可支持讀取cookie值,所以也可以改成:

hash $cookie_jsessionid;

假如在php中配置的session為無cookie方式,配合nginx自己的一個userid_module模塊就可以用nginx自發一個cookie,可參見userid模塊的英文文檔:
http://wiki.nginx.org/NginxHttpUserIdModule
另可用姚偉斌編寫的模塊upstream_jvm_route:http://code.google.com/p/nginx-upstream-jvm-route/

以下為圖文解說:Nginx+tomcat配置集群負載均衡

開發的應用采用F5負載均衡交換機,F5將請求轉發給5台hp unix服務器,每台服務器有多個webserver實例,對外提供web服務和socket等接口服務。之初,曾有個小小的疑問為何不采用開源的apache、Nginx軟件負載,F5設備動輒幾十萬,價格昂貴?自己一個比較幼稚的問題,后續明白:F5是操作於IOS網絡模型的傳輸層,Nginx、apache是基於http反向代理方式,位於ISO模型的第七層應用層。直白些就是TCP UDP 和http協議的區別,Nginx不能為基於TCP協議的應用提供負載均衡。

了解了二者之間的區別於應用場景,對Nginx產生濃厚的興趣,閱讀張宴的<實戰Nginx>(這個85年的小伙子年輕有為羡慕+妒忌),搞明白了大致原理和配置,Ubuntu10.10,window下對Nginx+tomcat負載均衡做了配置嘗試,將全部請求轉發到tomcat,並未做靜態,動態分開,圖片防盜鏈等配置。
Nginx 介紹

Nginx (發音同 engine x)是一款輕量級的Web 服務器/反向代理服務器及電子郵件(IMAP/POP3)代理服務器,並在一個BSD-like 協議下發行。 其特點是占有內存少,並發能力強,事實上nginx的並發能力確實在同類型的網頁伺服器中表現較好.目前中國大陸使用nginx網站用戶有:新浪、網易、 騰訊,另外知名的微網志Plurk也使用nginx。

上面的全是Nginx介紹基本上是廢話,下面轉入正題,圖文結合展示基本配置,首先是window環境、其次是Ubuntu環境(Vbox虛擬)。本文主要基於Nginx下配置兩台tomcat,結構如下圖:

Window xp環境:Nginx+Tomcat6

1、下載地址

http://nginx.org/en/download.html,這里我們推薦下載穩定版(stable versions),本文采用nginx-0.8.20。

2、目錄結構

Nginx-

|_ conf 配置目錄

|_ contrib

|_ docs 文檔目錄

|_ logs 日志目錄

|_ temp 臨時文件目錄

|_ html 靜態頁面目錄

|_ nginx.exe 主程序

window下安裝Nginx極其簡單,解壓縮到一個無空格的英文目錄即可(個人習慣,擔心中文出問題),雙擊nginx啟動,這里我安裝到:D:\server目錄,下面涉及到的tomcat也安裝在此目錄。

DOS環境啟動

若果想停止nginx,dos環境運行命令:nginx -s stop

3、nginx.conf配置

Nginx配置文件默認在conf目錄,主要配置文件為nginx.conf,我們安裝在D:\server\nginx-0.8.20、默認主配置文件為D:\server\nginx-0.8.20\nginx.conf。下面是nginx作為前端反向代理服務器的配置。

Nginx.conf代碼

#Nginx所用用戶和組,window下不指定
#user  niumd niumd;

#工作的子進程數量(通常等於CPU數量或者2倍於CPU)
worker_processes  2;

#錯誤日志存放路徑
#error_log  logs/error.log;
#error_log  logs/error.log  notice;
error_log  logs/error.log  info;

#指定pid存放文件
pid        logs/nginx.pid;

events {
    #使用網絡IO模型linux建議epoll,FreeBSD建議采用kqueue,window下不指定。
    #use epoll;
    
    #允許最大連接數
    worker_connections  2048;
}

http {
    include       mime.types;
    default_type  application/octet-stream;

		#定義日志格式
    #log_format  main  '$remote_addr - $remote_user [$time_local] $request '
    #                  '"$status" $body_bytes_sent "$http_referer" '
    #                  '"$http_user_agent" "$http_x_forwarded_for"';

    #access_log  off;
    access_log  logs/access.log;

    client_header_timeout  3m;
    client_body_timeout    3m;
    send_timeout           3m;
 
    client_header_buffer_size    1k;
    large_client_header_buffers  4 4k;

    sendfile        on;
    tcp_nopush      on;
    tcp_nodelay     on;

    #keepalive_timeout  75 20;

    include    gzip.conf;
    upstream localhost {
      #根據ip計算將請求分配各那個后端tomcat,許多人誤認為可以解決session問題,其實並不能。
      #同一機器在多網情況下,路由切換,ip可能不同
      #ip_hash; 
      server localhost:18081;
      server localhost:18080;
     }

    server {
            listen       80;
            server_name  localhost;   

            location / {
            		proxy_connect_timeout   3;
            		proxy_send_timeout      30;
            		proxy_read_timeout      30;
                        proxy_pass http://localhost;
            }
            
   }
}

代理設置如下:

Proxy.conf代碼

proxy_redirect          off;
proxy_set_header        Host $host;
proxy_set_header        X-Real-IP $remote_addr;
proxy_set_header        X-Forwarded-For $proxy_add_x_forwarded_for;
client_max_body_size    10m;
client_body_buffer_size 128k;
proxy_connect_timeout   300;
proxy_send_timeout      300;
proxy_read_timeout      300;
proxy_buffer_size       4k;
proxy_buffers           4 32k;
proxy_busy_buffers_size 64k;
proxy_temp_file_write_size 64k;

gzip壓縮相關配置如下:

Gzip.conf代碼

gzip              on;
gzip_min_length      1000;
gzip_types         text/plain text/css application/x-javascript;

4、Tomcat配置

對於tomcat大家都很熟悉,只需要修改server.xml配置文件即可,這里我們以apache-tomcat-6.0.14為例,分別在server目錄,解壓縮並命名為:apache-tomcat-6.0.14_1、apache-tomcat-6.0.14_2。

第一處端口修改:

Xml代碼

  1. <!-- 修改port端口:18006 倆個tomcat不能重復,端口隨意,別太小-->
  2. <Serverport="18006"shutdown="SHUTDOWN">
<!--  修改port端口:18006 倆個tomcat不能重復,端口隨意,別太小-->
<Server port="18006" shutdown="SHUTDOWN">

第二處端口修改:

Xml代碼

  1. <!-- port="18081" tomcat監聽端口,隨意設置,別太小 -->
  2. <Connectorport="18081"protocol="HTTP/1.1"
  3. connectionTimeout="20000"
  4. redirectPort="8443"/>
<!-- port="18081" tomcat監聽端口,隨意設置,別太小 -->
<Connector port="18081" protocol="HTTP/1.1" 
               connectionTimeout="20000" 
               redirectPort="8443" />

 

第三處端口修改:

Java代碼

<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />

Engine元素增加jvmRoute屬性:

Xml代碼

<Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">

兩個tomcat的端口別重復,保證能啟動起來,另一個tomcat配置希捷省略,監聽端口為18080,附件中我們將上傳所有的配置信息。

5、驗證配置與測試負載均衡

首先測試nginx配置是否正確,測試命令:nginx -t (默認驗證:conf\nginx.conf),也可以指定配置文件路徑。

此例nginx安裝目錄:D:\server\nginx-0.8.20,dos環境下圖畫面成功示例:

其次驗證tomcat,啟動兩個tomcat,不出現端口沖突即為成功(tomcat依賴的java等搞“挨踢”的就廢話不說了);

最后驗證配置負載均衡設置,http://localhost/http://localhost/index.jsp。我修改了index.jsp頁面,增加日志輸出信息,便於觀察。注意:左上角小貓頭上的:access tomcat2、access tomcat1。說明訪問了不同的tomcat。

至此window下nginx+tomcat負載均衡配置結束,關於tomcat Session的問題通常是采用memcached,或者采用nginx_upstream_jvm_route ,他是一個 Nginx 的擴展模塊,用來實現基於 Cookie 的 Session Sticky 的功能。如果tomcat過多不建議session同步,server間相互同步session很耗資源,高並發環境容易引起Session風暴。請根據自己應用情況合理采納session解決方案。

作者:niumd

Blog:http://ari.iteye.com

Ubuntu10.10環境:Nginx+Tomcat6

我們下面簡單說下ubuntu10.10下如何安裝配置,主要以圖片為主,簡單解釋。

1、下載Nginx

地址:http://nginx.org/en/download.html,linux版本:nginx-0.8.20.tar.。解壓縮命令:

tar -zxvf nginx-0.8.20.tar.gz

2、編譯安裝Nginx

Nginx依賴一些其他PCRE、openssl(依賴libssl-dev),本人筆記本Ubuntu環境已經安裝PCRE,僅需安裝依賴的openssl,下面我們簡單說下如何安裝PCRE和openssl等

PCRE下載地址:ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/

Shell代碼

tar zxvf  pcre-8.01.tar.gz
cd pcre-8.01
sudo ./configure
sodu make
sodu make install

openssl通過apt-get install安裝,命令、截圖如下:

Shell代碼

sudo apt-get install openssl
sudo apt-get install libssl-dev
//如缺少其他包,請采用此方法安裝,ubuntu有依賴提示

依賴的軟件包安裝完畢,下面來編譯Nginx:

Shell代碼

#將window共享目錄軟件拷貝到當前工作目錄
cp /mnt/fileshare/nginx-0.8.20.tar.gz ./

#解壓縮軟件包
tar zxvf nginx-0.8.20.tar.gz

 cd nginx-0.8.20
//編譯源碼,默認使用nobody,指定本機已存在的用戶,組,啟用nginx-status功能,監控nginx狀態。啟動debug
 sudo ./configure  --user=niumd --group=niumd --with-debug --with-http_stub_status_module 
 

sudo make 
sudo make install

截圖 如下:

安裝結果截圖如下:

編譯安裝正確結束,按照上述window下方法檢查默認配置,然后在默認配置下啟動nginx,訪問http://127.0.0.1,如下圖說明成功

Nginx配置成功后我們對window下nginx.conf少做修改,如下:

Ubuntu nginx.conf代碼

#Nginx所用用戶和組
user  niumd niumd;

#工作的子進程數量(通常等於CPU數量或者2倍於CPU)
worker_processes  2;

#錯誤日志存放路徑
#error_log  logs/error.log;
#error_log  logs/error.log  notice;
error_log  logs/error.log  info;

#指定pid存放文件
pid        logs/nginx.pid;

events {
  #使用網絡IO模型linux建議epoll,FreeBSD建議采用kqueue
    use epoll;
    
    #允許最大連接數
    worker_connections  2048;
}

http {
    include       mime.types;
    default_type  application/octet-stream;

  #定義日志格式
    #log_format  main  '$remote_addr - $remote_user [$time_local] $request '
    #                  '"$status" $body_bytes_sent "$http_referer" '
    #                  '"$http_user_agent" "$http_x_forwarded_for"';

    #access_log  off;
    access_log  logs/access.log;

    client_header_timeout  3m;
    client_body_timeout    3m;
    send_timeout           3m;
 
    client_header_buffer_size    1k;
    large_client_header_buffers  4 4k;

    sendfile        on;
    tcp_nopush      on;
    tcp_nodelay     on;

    #keepalive_timeout  75 20;

    include    gzip.conf;
    upstream localhost {
     #ip_hash
      #ip_hash;
      server localhost:18081;
      server localhost:18080;
     }

    server {
            listen       80;
            server_name  localhost;   

            location / {
              proxy_connect_timeout   3;
              proxy_send_timeout      30;
              proxy_read_timeout      30;
                proxy_pass http://localhost;
            }
            
   }
}

對於上面關於ubuntu下Nginx配置和window下基本相同,區別在使用的IO網絡模型,linux下建議使用epoll,另外就是運行所用的用戶和組;

3、配置tomcat

請參考window下配置,完全相同。

4、啟動停止nginx

ubuntu下啟動nginx與window稍有不同,大致啟動停止方法如下。

Java代碼

#nginx目錄執行
sbin/nginx
或通過-c 指定配置文件
sbin/nginx -c usr/local/nginx8.20/conf/nginx/conf

Shell代碼

niumd@niumd-laptop:/usr/local/nginx$ pwd
/usr/local/nginx
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -t
the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok
configuration file /usr/local/nginx/conf/nginx.conf test is successful
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -v
nginx version: nginx/0.8.20
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -V
nginx version: nginx/0.8.20
built by gcc 4.4.3 (Ubuntu 4.4.3-4ubuntu5) 
configure arguments: --user=niumd --group=niumd --with-debug --with-http_sub_module
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx 
niumd@niumd-laptop:/usr/local/nginx$ ps -ef|grep nginx
root      5158     1  0 22:32 ?        00:00:00 nginx: master process sbin/nginx
niumd     5159  5158  0 22:32 ?        00:00:00 nginx: worker process
niumd     5161  1577  0 22:32 pts/0    00:00:00 grep --color=auto nginx
niumd@niumd-laptop:/usr/local/nginx$ 

我們通過ps -ef|grep nginx,看到如下結果:

注意:在啟動時linux提示一句警告【warn】……,是因為我們設置的 #允許最大連接數 worker_connections 2048,超過linux默認1024的限制。

停止:kill -信號類型 pid

nginx/logs目錄下有個nginx。pid的文件,此文件記錄了每次運行的pid,也可以通過ps命令查詢。

信號類型如下:

信號控制

信號類型
描述

RERM.INT
快速關閉

HUP
平滑重啟,加載配置

USR1
重新加載日志

USER2
平滑升級執行程序

WINCH
從容關閉工作進程

QUIT
從容關閉

Memcached Session Manager + Ngnix的配置
 

1. 下載三個JAR:

memcached-2.5.jar

memcached-session-manager-1.5.1.jar

memcached-session-manager-tc6-1.5.1.jar

把它們 放入%tomcat%/lib/ 目錄下

2. 修改 %tomcat%/conf/context.xml文件,加入這樣一行代碼:

<Manager className="de.javakaffee.web.msm.MemcachedBackupSessionManager"
memcachedNodes="n1:localhost:11211"

sticky="false" requestUriIgnorePattern=".*\.(ico|png|gif|jpg|css|js)$" />

3. 配置兩台這樣的tomcat, 一個8080, 一個8090

4. 配置nginx,與個tomcat連接起來

upstream localhost {
server locahost:8080;
server locahost:8090;
}

location / {
root html;
index index.html index.htm;

proxy_set_header Host $host;
proxy_set_header X_Real_IP $remote_addr;
proxy_set_header X-Forwarded-For $remote_addr;
proxy_pass http://localhost;

5.OK


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM