tomcat bio nio apr 模式性能測試


轉自:tomcat bio nio apr 模式性能測試與個人看法

 

11.11活動當天,服務器負載過大,導致部分頁面出現了不可訪問的狀態、那后來主管就要求調優了,下面是tomcat bio、nio、apr模式以及后來自己測試的一些性能結果。

原理方面的資料都是從網上找的,並且把多個地方的整理到了一起,覺得很有意義。(后面對tomcat默認頁面測試的數據是自己測出來的),tomcat 的三種模式如果用對了場合,性能絕對有大幅度的提升。當然調優也並不只在這一個方面,還有內存(堆內存、非堆內存、新生代內存)以及線程(最大線程、請求隊列、備用線程、壓縮、以及禁用dns輪詢)等方面。

那在做tomcat bio nio apr 模式之前,先來了解下 Java 的一些特性吧。

Java BIO、NIO、AIO

同步 : 自己親自出馬持銀行卡到銀行取錢(使用同步IO時,Java自己處理IO讀寫)。

異步 : 委托一小弟拿銀行卡到銀行取錢,然后給你(使用異步IO時,Java將IO讀寫委托給OS處理,需要將數據緩沖區地址和大小傳給OS(銀行卡和密碼),OS需要支持異步IO操作API)。

阻塞 : ATM排隊取款,你只能等待(使用阻塞IO時,Java調用會一直阻塞到讀寫完成才返回)。

非阻塞 : 櫃台取款,取個號,然后坐在椅子上做其它事,等號廣播會通知你辦理,沒到號你就不能去,你可以不斷問大堂經理排到了沒有,大堂經理如果說還沒到你就不能去(使用非阻塞IO時,如果不能讀寫Java調用會馬上返回,當IO事件分發器會通知可讀寫時再繼續進行讀寫,不斷循環直到讀寫完成)。

Java對BIO、NIO、AIO的支持:

Java BIO : 同步並阻塞,服務器實現模式為一個連接一個線程,即客戶端有連接請求時服務器端就需要啟動一個線程進行處理,如果這個連接不做任何事情會造成不必要的線程開銷,當然可以通過線程池機制改善。

Java NIO : 同步非阻塞,服務器實現模式為一個請求一個線程,即客戶端發送的連接請求都會注冊到多路復用器上,多路復用器輪詢到連接有I/O請求時才啟動一個線程進行處理。

Java AIO(NIO.2) : 異步非阻塞,服務器實現模式為一個有效請求一個線程,客戶端的I/O請求都是由OS先完成了再通知服務器應用去啟動線程進行處理

BIO、NIO、AIO適用場景分析:

BIO方式適用於連接數目比較小且固定的架構,這種方式對服務器資源要求比較高,並發局限於應用中,JDK1.4以前的唯一選擇,但程序直觀簡單易理解。

NIO方式適用於連接數目多且連接比較短(輕操作)的架構,比如聊天服務器,並發局限於應用中,編程比較復雜,JDK1.4開始支持。

AIO方式使用於連接數目多且連接比較長(重操作)的架構,比如相冊服務器,充分調用OS參與並發操作,編程比較復雜,JDK7開始支持。


好,下面來看看tomcat 的 bio、nio、apr 模式

bio
bio(blocking I/O),顧名思義,即阻塞式I/O操作,表示Tomcat使用的是傳統的Java I/O操作(即java.io包及其子包)。Tomcat在默認情況下,就是以bio模式運行的。遺憾的是,就一般而言,bio模式是三種運行模式中性能最低的一種。我們可以通過Tomcat Manager來查看服務器的當前狀態。

nio
Java SE 1.4及后續版本提供的一種新的I/O操作方式(即java.nio包及其子包)。Java nio是一個基於緩沖區、並能提供非阻塞I/O操作的Java API,因此nio也被看成是non-blocking I/O的縮寫。它擁有比傳統I/O操作(bio)更好的並發運行性能。

apr
(Apache Portable Runtime/Apache可移植運行庫),是Apache HTTP服務器的支持庫。你可以簡單地理解為,Tomcat將以JNI的形式調用Apache HTTP服務器的核心動態鏈接庫來處理文件讀取或網絡傳輸操作,從而大大地提高Tomcat對靜態文件的處理性能。 Tomcat apr也是在Tomcat上運行高並發應用的首選模式。


在這之前,我們先把tomcat管理界面配置起來,以便等下能更方便的觀察我們的bio、nio、apr 模式

添加manager/status用戶

vim /usr/local/apache-tomcat-7.0.47/conf/tomcat-users.xml
<role rolename="manager-gui"/>       
<user username="tomcat" password="15715746746" roles="manager-gui"/>

 

配置完重啟,通過ip:port/manager/status 就可以看tomcat狀態了,里面有服務器的信息及tomcat信息。

bio server.xml 配置 (重啟生效)

    <Connector port="8080" protocol="HTTP/1.1"
               connectionTimeout="20000"
               redirectPort="8443" />

 

nio server.xml 配置 (重啟生效)

    <Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"
               connectionTimeout="20000"
               redirectPort="8443" />

 

apr server.xml 配置 (重啟生效)

    <Connector port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol"
               connectionTimeout="20000"
               redirectPort="8443" />

 

那下面來看看 apr 的頁面:

 

到這里大致的配置就結束了,建議在做實驗之前,先了解清楚java的 bio 、nio 、aio特性,在web服務器上阻塞IO(BIO)與NIO一個比較重要的不同是,客戶系統使用BIO的時候往往會為每一個web請求引入多線程,每個web請求一個單獨的線程,所以並發量一旦上去了,線程數就上去了,CPU就忙着線程切換,所以BIO不合適高吞吐量、高可伸縮的web服務器;而NIO則是使用單線程(單個CPU)或者只使用少量的多線程(多CPU)來接受Socket,而由線程池來處理堵塞在pipe或者隊列里的請求.這樣的話,只要OS可以接受TCP的連接,web服務器就可以處理該請求。大大提高了web服務器的可伸縮性。

下面是我自己的一些性能測試表格,通過jmeter壓測軟件(jmeter軟件使用自行百度)在本地測試的(為了數據的有效以及准確性,我沒測試10分鍾,也就是進行一次測試,都會重啟Linux主機及重新打開jmeter軟件。),當然你也可以選擇通過 雲主機、自己機房的服務器以及虛擬機等測試,測試當中會涉及到很多點,例如(磁盤io、帶寬、內存、cpu、以及內核配置中的tcp各種狀態,甚至是各種打開文件限制,都會影響到我們的測試結果)

 

可以看到,隨着線程的不斷增多,bio 模式性能越來越差,就算是在本地,錯誤率和響應時間都在明顯的增加、而吞吐量、樣本數和每秒傳輸速率都在下降(當然,如果是生產環境,我們肯定通過nginx web 軟件進行反向代理,提供多個tomcat 節點來提供更穩定的服務。)

而 bio 和 apr模式基本上沒有變化太多,都保持在一個穩定的狀態。


而后來當我進行一些 service 后端程序的測試時,發現 tomcat 性能並沒有大幅度的提升,甚至會有下降的趨勢。(該接口不是在同網段測試,而是跨越路由器,在網絡傳輸中會有損耗方面,性能跟本地測試也會有所差異)

 

總結:
個人覺得在 tomcat bio、nio、apr 模式中,每種都會有各自適用的場合,也不能說哪個好那個不好,就像 tomcat 內存方面的配置,如果內存設置的過大,gc 垃圾回收機制就會變慢;如果內存設置的過小,tomcat又會出現內存溢出的情況,所以設置在一個合適的范圍很重要,不僅不會出錯,並且gc回收頻繁使性能達到一個最優的結果。當然,這也需要根據不同的場合進行不同的測試才能產生最優的結果!


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM