JAVA NIO概述（一）：I/O模型

NIO是jdk1.4加入的新功能，我們一般成為非阻塞IO，在1.4之前，JAVA中的都是BIO（堵塞IO），BIO有以下幾個缺點：

1. 沒有數據緩沖區，I/O性能存在問題
2. 沒有C/C++中channel（通道）的概念，只有輸入和輸出流
3. 同步阻塞式I/O（BIO），通常會導致線程被長時間阻塞
4. 支持的字符集有限，硬件的可一致性不好

我們會經常聽到 同步（synchronous） IO和異步（asynchronous） IO，那么阻塞（blocking） IO和非阻塞（non-blocking）IO，，同步（synchronous） IO和異步（asynchronous） IO，阻塞（blocking） IO和非阻塞（non-blocking）IO分別是什么，到底有什么區別？

 

我們先對UNIX常用的I/O模型做一個簡單的介紹.Linux會把所有外部設備都當做一個文件來操作，對文件的讀寫會返回一個file descriptor（fd，文件描述符）。對socket讀寫也會返回相應的描述符，稱作socketfd(socket 描述符)，描述符是一個數組，指向內核中的一個結構體（文件路徑，數據區等一些屬性）

UNIX提供了5中I/O模型：堵塞I/O模型，非堵塞I/O模型，I/O復用模型，信號驅動I/O模型，異步I/O。

對於一個network IO，以read操作來舉例，它會涉及到兩個系統對象，1.調用這個IO的process or thread，2.系統內核（kernel），當一個read操作發生時，它會經過兩個步驟：

1. 等待數據准備
2. 將數據從內核拷進用戶進程中

上面5種IO模型就是在這兩個階段上各自有不同的情況。

 

 

 

blocking IO 

 在linux中，默認情況下所有的socket都是blocking，一個典型的讀操作流程大概是這樣：

 

當用戶進程調用了recvfrom這個系統調用，kernel就開始了IO的第一個階段：准備數據。對於network io來說，很多時候數據在一開始還沒有到達（比如，還沒有收到一個完整的UDP包），這個時候kernel就要等待足夠的數據到來。而在用戶進程這邊，整 個進程會被阻塞。當kernel一直等到數據准備好了，它就會將數據從kernel中拷貝到用戶內存，然后kernel返回結果，用戶進程才解除 block的狀態，重新運行起來。
所以，blocking IO的特點就是在IO執行的兩個階段都被block了。

non-blocking IO

linux下，可以通過設置socket使其變為non-blocking。當對一個non-blocking socket執行讀操作時，流程是這個樣子：

從圖中可以看出，當用戶進程發出read操作時，如果kernel中的數據還沒有准備好，那么它並不會block用戶進程，而是立刻返回一個error。 從用戶進程角度講 ，它發起一個read操作后，並不需要等待，而是馬上就得到了一個結果。用戶進程判斷結果是一個error時，它就知道數據還沒有准備好，於是它可以再次 發送read操作。一旦kernel中的數據准備好了，並且又再次收到了用戶進程的system call，那么它馬上就將數據拷貝到了用戶內存，然后返回。
所以，用戶進程其實是需要不斷的主動詢問kernel數據好了沒有。

 

IO multiplexing

IO復用模型，也就是linux中常說的select、epoll，有一些地方也稱為事件驅動模型。select/epoll的好處就在於單個process就可以同時處理多個網絡連接的IO。它的基本原理就是select/epoll這個function會不斷的輪詢所負責的所有socket，當某個socket有數據到達了，就通知用戶進程。它的流程如圖：

當用戶進程調用了select，那么整個進程會被block，而同時，kernel會“監視”所有select負責的socket，當任何一個 socket中的數據准備好了，select就會返回。這個時候用戶進程再調用read操作，將數據從kernel拷貝到用戶進程。
這個圖和blocking IO的圖其實並沒有太大的不同，事實上，還更差一些。因為這里需要使用兩個system call (select 和 recvfrom)，而blocking IO只調用了一個system call (recvfrom)。但是，用select的優勢在於它可以同時處理多個connection。（多說一句。所以，如果處理的連接數不是很高的話，使用 select/epoll的web server不一定比使用multi-threading + blocking IO的web server性能更好，可能延遲還更大。select/epoll的優勢並不是對於單個連接能處理得更快，而是在於能處理更多的連接。）
在IO multiplexing Model中，實際中，對於每一個socket，一般都設置成為non-blocking，但是，如上圖所示，整個用戶的process其實是一直被 block的。只不過process是被select這個函數block，而不是被socket IO給block。

 

linux中一般選用epoll作為輪詢和網絡事件通知，因為它相比select有以下改進：

1. 支持一個進程打開的socket fd（描述符）不受限制，僅受限於操作系統的最大文件句柄數（select打開的默認是1024）
2. IO效率不會隨着FD數目的增加而線性下降：在一個大socket集合中，由於網絡空閑或者延遲，某一時段只有一部分是活躍的，但是select/poll會掃描全部的socket，導致效率下降。而epoll只會掃描活躍的集合，這是因為epoll是根據每個fd的callback函數實現的，只有活躍的fd才會調用callback，其他idle不會調用。
3. epoll的api更加簡單

 

Asynchronous I/O

先看一下它的流程：

 

用戶進程發起read操作之后，立刻就可以開始去做其它的事。而另一方面，從kernel的角度，當它受到一個asynchronous read之后，首先它會立刻返回，所以不會對用戶進程產生任何block。然后，kernel會等待數據准備完成，然后將數據拷貝到用戶內存，當這一切都 完成之后，kernel會給用戶進程發送一個signal，告訴它read操作完成了。

 

到目前為止，已經將四個IO Model都介紹完了。現在回過頭來回答最初的那幾個問題：blocking和non-blocking的區別在哪，synchronous IO和asynchronous IO的區別在哪。
先回答最簡單的這個：blocking vs non-blocking。前面的介紹中其實已經很明確的說明了這兩者的區別。調用blocking IO會一直block住對應的進程直到操作完成，而non-blocking IO在kernel還准備數據的情況下會立刻返回。

在說明synchronous IO和asynchronous IO的區別之前，需要先給出兩者的定義。Stevens給出的定義（其實是POSIX的定義）是這樣子的：

• A synchronous I/O operation causes the requesting process to be blocked until that I/O operation completes;

• An asynchronous I/O operation does not cause the requesting process to be blocked;

兩者的區別就在於synchronous IO做”IO operation”的時候會將process阻塞。按照這個定義，之前所述的blocking IO，non-blocking IO，IO multiplexing都屬於synchronous IO。有人可能會說，non-blocking IO並沒有被block啊。這里有個非常“狡猾”的地方，定義中所指的”IO operation”是指真實的IO操作，就是例子中的recvfrom這個system call。non-blocking IO在執行recvfrom這個system call的時候，如果kernel的數據沒有准備好，這時候不會block進程。但是，當kernel中數據准備好的時候，recvfrom會將數據從 kernel拷貝到用戶內存中，這個時候進程是被block了，在這段時間內，進程是被block的。而asynchronous IO則不一樣，當進程發起IO 操作之后，就直接返回再也不理睬了，直到kernel發送一個信號，告訴進程說IO完成。在這整個過程中，進程完全沒有被block。

 

各個IO Model的比較如圖所示：

經過上面的介紹，會發現non-blocking IO和asynchronous IO的區別還是很明顯的。在non-blocking IO中，雖然進程大部分時間都不會被block，但是它仍然要求進程去主動的check，並且當數據准備完成以后，也需要進程主動的再次調用 recvfrom來將數據拷貝到用戶內存。而asynchronous IO則完全不同。它就像是用戶進程將整個IO操作交給了他人（kernel）完成，然后他人做完后發信號通知。在此期間，用戶進程不需要去檢查IO操作的 狀態，也不需要主動的去拷貝數據。

舉一個搶票的例子來說明這四個IO Model:

阻塞IO： 火車站排隊買票，得一直排隊，到你了才能買

非堵塞：電腦上登錄網站買票，每次可以查詢是否有票，然后可以做其他事，隔會在看看有沒有票，有的話就買；

IO復用：和非堵塞差不多，差別就是開多個搶票軟件買票，然后守在旁邊，隔會在看看有沒有票，有的話就買；

異步IO：直接找黃牛買，有票了，黃牛就通知你，付錢

 

總結：

區分是同步IO還是異步IO：同步IO在數據准備就緒后，需要自己負責讀寫，把數據用內核空間復制到用戶空間中，也就是說這個讀寫過程是堵塞的，而異步IO不需要自己負責讀寫，異步IO的實現會把數據從內核空間復制到用戶空間。

區分是堵塞IO還是非堵塞IO： 就是在數據准備過程中，堵塞IO會一直堵塞直到數據准備好，而非堵塞IO在數據未准備好的情況下，會立即返回一個error狀態，可以繼續做其他事情，過一段時間再次輪詢這個狀態，直到成功即可。