Nginx+tomcat配置集群


開發的應用采用F5負載均衡交換機,F5將請求轉發給5台hp unix服務器,每台服務器有多個webserver實例,對外提供web服務和socket等接口服務。之初,曾有個小小的疑問為何不采用開源的apache、Nginx軟件負載,F5設備動輒幾十萬,價格昂貴?自己一個比較幼稚的問題,后續明白:F5是操作於IOS網絡模型的傳輸層,Nginx、apache是基於http反向代理方式,位於ISO模型的第七層應用層。直白些就是TCP UDP 和http協議的區別,Nginx不能為基於TCP協議的應用提供負載均衡。 

了解了二者之間的區別於應用場景,對Nginx產生濃厚的興趣,閱讀張宴的<實戰Nginx>(這個85年的小伙子年輕有為羡慕+妒忌),搞明白了大致原理和配置,Ubuntu10.10,window下對Nginx+tomcat負載均衡做了配置嘗試,將全部請求轉發到tomcat,並未做靜態,動態分開,圖片防盜鏈等配置。 

Nginx 介紹 

Nginx (發音同 engine x)是一款輕量級的Web 服務器/反向代理服務器及電子郵件(IMAP/POP3)代理服務器,並在一個BSD-like 協議下發行。  其特點是占有內存少,並發能力強,事實上nginx的並發能力確實在同類型的網頁伺服器中表現較好.目前中國大陸使用nginx網站用戶有:新浪、網易、 騰訊,另外知名的微網志Plurk也使用nginx。 
上面的全是Nginx介紹基本上是廢話,下面轉入正題,圖文結合展示基本配置,首先是window環境、其次是Ubuntu環境(Vbox虛擬)。 

Window xp環境:Nginx+Tomcat6 
1、下載地址 
http://nginx.org/en/download.html ,這里我們推薦下載穩定版(stable versions),本文采用nginx-0.8.20。 

2、目錄結構 
      Nginx- 

               |_  conf   配置目錄 

               |_  contrib 

               |_  docs 文檔目錄 

               |_  logs  日志目錄 

               |_  temp 臨時文件目錄 

               |_  html 靜態頁面目錄 

               |_  nginx.exe 主程序 

window下安裝Nginx極其簡單,解壓縮到一個無空格的英文目錄即可(個人習慣,擔心中文出問題),雙擊nginx啟動,這里我安裝到:D:\server目錄,下面涉及到的tomcat也安裝在此目錄。 
DOS環境啟動 
若果想停止nginx,dos環境運行命令:nginx -s stop 

3、nginx.conf配置 
Nginx配置文件默認在conf目錄,主要配置文件為nginx.conf,我們安裝在D:\server\nginx-0.8.20、默認主配置文件為D:\server\nginx-0.8.20\nginx.conf。下面是nginx作為前端反向代理服務器的配置。 

Nginx.conf代碼 

#Nginx所用用戶和組,window下不指定  
#user  niumd niumd;  
  
#工作的子進程數量(通常等於CPU數量或者2倍於CPU)  
worker_processes  2;  
  
#錯誤日志存放路徑  
#error_log  logs/error.log;  
#error_log  logs/error.log  notice;  
error_log  logs/error.log  info;  
  
#指定pid存放文件  
pid        logs/nginx.pid;  
  
events {  
    #使用網絡IO模型linux建議epoll,FreeBSD建議采用kqueue,window下不指定。  
    #use epoll;  
      
    #允許最大連接數  
    worker_connections  2048;  
}  
  

引用
http {  
    include       mime.types;  
    default_type  application/octet-stream;  
  
        #定義日志格式  
    #log_format  main  '$remote_addr - $remote_user [$time_local] $request '  
    #                  '"$status" $body_bytes_sent "$http_referer" '  
    #                  '"$http_user_agent" "$http_x_forwarded_for"';  
  
    #access_log  off;  
    access_log  logs/access.log;  
  
    client_header_timeout  3m;  
    client_body_timeout    3m;  
    send_timeout           3m;  
   
    client_header_buffer_size    1k;  
    large_client_header_buffers  4 4k;  
  
    sendfile        on;  
    tcp_nopush      on;  
    tcp_nodelay     on;  
  
    #keepalive_timeout  75 20;  
  
    include    gzip.conf;  
    upstream localhost {  
      #根據ip計算將請求分配各那個后端tomcat,許多人誤認為可以解決session問題,其實並不能。  
      #同一機器在多網情況下,路由切換,ip可能不同  
      #ip_hash;   
      server localhost:18081;  
      server localhost:18080;  
     }  
  
    server {  
            listen       80;  
            server_name  localhost;     
  
            location / {  
                    proxy_connect_timeout   3;  
                    proxy_send_timeout      30;  
                    proxy_read_timeout      30;  
                        proxy_pass http://localhost;  
            }  
              
   }  
}


代理設置如下: 

Proxy.conf代碼: 

proxy_redirect          off;  
proxy_set_header        Host $host;  
proxy_set_header        X-Real-IP $remote_addr;  
proxy_set_header        X-Forwarded-For $proxy_add_x_forwarded_for;  
client_max_body_size    10m;  
client_body_buffer_size 128k;  
proxy_connect_timeout   300;  
proxy_send_timeout      300;  
proxy_read_timeout      300;  
proxy_buffer_size       4k;  
proxy_buffers           4 32k;  
proxy_busy_buffers_size 64k;  
proxy_temp_file_write_size 64k; 
gzip壓縮相關配置如下: 

Gzip.conf代碼: 

gzip              on;  
gzip_min_length      1000;  
gzip_types         text/plain text/css application/x-javascript; 
4、Tomcat配置 

對於tomcat大家都很熟悉,只需要修改server.xml配置文件即可,這里我們以apache-tomcat-6.0.14為例,分別在 server目錄,解壓縮並命名為:apache-tomcat-6.0.14_1、apache-tomcat-6.0.14_2。 

第一處端口修改:Xml代碼 

Xml代碼    收藏代碼
 1 <!--  修改port端口:18006 倆個tomcat不能重復,端口隨意,別太小-->    
 2 <Server port="18006" shutdown="SHUTDOWN">   
 3 第二處端口修改:Xml代碼  
 4   
 5 <!-- port="18081" tomcat監聽端口,隨意設置,別太小 -->    
 6 <Connector port="18081" protocol="HTTP/1.1"     
 7                connectionTimeout="20000"     
 8                redirectPort="8443" />    
 9 第三處端口修改:Java代碼  
10   
11 <Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />    
12 Engine元素增加jvmRoute屬性:Xml代碼  
13   
14 <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">

 

   



兩個tomcat的端口別重復,保證能啟動起來,另一個tomcat配置希捷省略,監聽端口為18080,附件中我們將上傳所有的配置信息。 

5、驗證配置與測試負載均衡 

首先測試nginx配置是否正確,測試命令:nginx -t  (默認驗證:conf\nginx.conf),也可以指定配置文件路徑。 

其次驗證tomcat,啟動兩個tomcat,不出現端口沖突即為成功(tomcat依賴的java等搞“挨踢”的就廢話不說了); 

最后驗證配置負載均衡設置,http://localhost/ 或http://localhost/index.jsp 。我修改了index.jsp頁面,增加日志輸出信息,便於觀察。注意:左上角小貓頭上的:access tomcat2、access tomcat1。說明訪問了不同的tomcat。 

至此window下nginx+tomcat負載均衡配置結束,關於tomcat Session的問題通常是采用memcached,或者采用nginx_upstream_jvm_route ,他是一個 Nginx 的擴展模塊,用來實現基於 Cookie 的 Session Sticky 的功能。如果tomcat過多不建議session同步,server間相互同步session很耗資源,高並發環境容易引起Session風暴。請根據 自己應用情況合理采納session解決方案。 

Ubuntu10.10環境:Nginx+Tomcat6 

我們下面簡單說下ubuntu10.10下如何安裝配置 

1、下載Nginx 

地址:http://nginx.org/en/download.html ,linux版本:nginx-0.8.20.tar.。解壓縮命令: 

tar -zxvf nginx-0.8.20.tar.gz 


2、編譯安裝Nginx 

Nginx依賴一些其他PCRE、openssl(依賴libssl-dev),本人筆記本Ubuntu環境已經安裝PCRE,僅需安裝依賴的openssl,下面我們簡單說下如何安裝PCRE和openssl等 

PCRE下載地址:ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/ 

Shell代碼 

tar zxvf  pcre-8.01.tar.gz  
cd pcre-8.01  
sudo ./configure  
sodu make  
sodu make install 
openssl通過apt-get install安裝 

sudo apt-get install openssl  
sudo apt-get install libssl-dev  
//如缺少其他包,請采用此方法安裝,ubuntu有依賴提示 
依賴的軟件包安裝完畢,下面來編譯Nginx: 

Shell代碼 

#將window共享目錄軟件拷貝到當前工作目錄  
cp /mnt/fileshare/nginx-0.8.20.tar.gz ./  
  
#解壓縮軟件包  
tar zxvf nginx-0.8.20.tar.gz  
  
cd nginx-0.8.20  
//編譯源碼,默認使用nobody,指定本機已存在的用戶,組,啟用nginx-status功能,監控nginx狀態。啟動debug  
sudo ./configure  --user=niumd --group=niumd --with-debug --with-http_stub_status_module   
   
  
sudo make   
sudo make install 
編譯安裝正確結束,按照上述window下方法檢查默認配置,然后在默認配置下啟動nginx,訪問http://127.0.0.1 

Nginx配置成功后我們對window下nginx.conf少做修改,如下: 

Ubuntu nginx.conf代碼 

#Nginx所用用戶和組  
user  niumd niumd;  
  
#工作的子進程數量(通常等於CPU數量或者2倍於CPU)  
worker_processes  2;  
  
#錯誤日志存放路徑  
#error_log  logs/error.log;  
#error_log  logs/error.log  notice;  
error_log  logs/error.log  info;  
  
#指定pid存放文件  
pid        logs/nginx.pid;  
  
events {  
  #使用網絡IO模型linux建議epoll,FreeBSD建議采用kqueue  
    use epoll;  
      
    #允許最大連接數  
    worker_connections  2048;  
}  
  
http {  
    include       mime.types;  
    default_type  application/octet-stream;  
  
  #定義日志格式  
    #log_format  main  '$remote_addr - $remote_user [$time_local] $request '  
    #                  '"$status" $body_bytes_sent "$http_referer" '  
    #                  '"$http_user_agent" "$http_x_forwarded_for"';  
  
    #access_log  off;  
    access_log  logs/access.log;  
  
    client_header_timeout  3m;  
    client_body_timeout    3m;  
    send_timeout           3m;  
   
    client_header_buffer_size    1k;  
    large_client_header_buffers  4 4k;  
  
    sendfile        on;  
    tcp_nopush      on;  
    tcp_nodelay     on;  
  
    #keepalive_timeout  75 20;  
  
    include    gzip.conf;  
    upstream localhost {  
     #ip_hash  
      #ip_hash;  
      server localhost:18081;  
      server localhost:18080;  
     }  
  
    server {  
            listen       80;  
            server_name  localhost;     
  
            location / {  
              proxy_connect_timeout   3;  
              proxy_send_timeout      30;  
              proxy_read_timeout      30;  
                proxy_pass http://localhost;  
            }  
              
   }  
}  
對於上面關於ubuntu下Nginx配置和window下基本相同,區別在使用的IO網絡模型,linux下建議使用epoll,另外就是運行所用的用戶和組; 

3、配置tomcat 

請參考window下配置,完全相同。 

4、啟動停止nginx 

ubuntu下啟動nginx與window稍有不同,大致啟動停止方法如下。 

Java代碼 

#nginx目錄執行  
sbin/nginx  
或通過-c 指定配置文件  
sbin/nginx -c usr/local/nginx8.20/conf/nginx/conf 
Shell代碼 

niumd@niumd-laptop:/usr/local/nginx$ pwd  
/usr/local/nginx  
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -t  
the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok  
configuration file /usr/local/nginx/conf/nginx.conf test is successful  
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -v  
nginx version: nginx/0.8.20  
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -V  
nginx version: nginx/0.8.20  
built by gcc 4.4.3 (Ubuntu 4.4.3-4ubuntu5)   
configure arguments: --user=niumd --group=niumd --with-debug --with-http_sub_module  
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx   
niumd@niumd-laptop:/usr/local/nginx$ ps -ef|grep nginx  
root      5158     1  0 22:32 ?        00:00:00 nginx: master process sbin/nginx  
niumd     5159  5158  0 22:32 ?        00:00:00 nginx: worker process  
niumd     5161  1577  0 22:32 pts/0    00:00:00 grep --color=auto nginx  
niumd@niumd-laptop:/usr/local/nginx$   
我們通過ps  -ef|grep nginx,看到如下結果: 

注意:在啟動時linux提示一句警告【warn】……,是因為我們設置的 #允許最大連接數 worker_connections  2048,超過linux默認1024的限制。 

停止:kill -信號類型 pid 

nginx/logs目錄下有個nginx。pid的文件,此文件記錄了每次運行的pid,也可以通過ps命令查詢。 

信號類型如下: 

信號類型 描述 
RERM.INT 快速關閉 
HUP 平滑重啟,加載配置 
USR1 重新加載日志 
USER2 平滑升級執行程序 
WINCH 從容關閉工作進程 
QUIT 從容關閉


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM