最近在看 UNIX 網絡編程並研究了一下 Redis 的實現,感覺 Redis 的源代碼十分適合閱讀和分析,其中 I/O 多路復用(mutiplexing)部分的實現非常干凈和優雅,在這里想對這部分的內容進行簡單的整理。
幾種 I/O 模型
為什么 Redis 中要使用 I/O 多路復用這種技術呢?
首先,Redis 是跑在單線程中的,所有的操作都是按照順序線性執行的, 但是由於讀寫操作等待用戶輸入或輸出都是阻塞的,所以 I/O 操作在一般情況下往往不能直接返回,這會導致某一文件的 I/O 阻塞導致整個進程無法對其它客戶提供服務,而 I/O 多路復用就是為了解決這個問題而出現的。
Blocking I/O
先來看一下傳統的阻塞 I/O 模型到底是如何工作的:當使用 read 或者 write 對某一個文件描述符(File Descriptor 以下簡稱 FD)進行讀寫時,如果當前 FD 不可讀或不可寫,整個 Redis 服務就不會對其它的操作作出響應,導致整個服務不可用。
這也就是傳統意義上的,也就是我們在編程中使用最多的阻塞模型:
阻塞模型雖然開發中非常常見也非常易於理解,但是由於它會影響其他 FD 對應的服務,所以在需要處理多個客戶端任務的時候,往往都不會使用阻塞模型。
I/O 多路復用
雖然還有很多其它的 I/O 模型,但是在這里都不會具體介紹。
阻塞式的 I/O 模型並不能滿足這里的需求,我們需要一種效率更高的 I/O 模型來支撐 Redis 的多個客戶(redis-cli),這里涉及的就是 I/O 多路復用模型了:
在 I/O 多路復用模型中,最重要的函數調用就是 select,該方法的能夠同時監控多個文件描述符的可讀可寫情況,當其中的某些文件描述符可讀或者可寫時,select 方法就會返回可讀以及可寫的文件描述符個數。
Reactor 設計模式
Redis 服務采用 Reactor 的方式來實現文件事件處理器(每一個網絡連接其實都對應一個文件描述符)
文件事件處理器使用 I/O 多路復用模塊同時監聽多個 FD,當 accept、read、write 和 close 文件事件產生時,文件事件處理器就會回調 FD 綁定的事件處理器。
雖然整個文件事件處理器是在單線程上運行的,但是通過 I/O 多路復用模塊的引入,實現了同時對多個 FD 讀寫的監控,提高了網絡通信模型的性能,同時也可以保證整個 Redis 服務實現的簡單。
I/O 多路復用模塊
I/O 多路復用模塊封裝了底層的 select、epoll、avport 以及 kqueue 這些 I/O 多路復用函數,為上層提供了相同的接口。
簡要了解該模塊的功能,整個 I/O 多路復用模塊抹平了不同平台上 I/O 多路復用函數的差異性,提供了相同的接口.
子模塊的選擇
因為 Redis 需要在多個平台上運行,同時為了最大化執行的效率與性能,所以會根據編譯平台的不同選擇不同的 I/O 多路復用函數作為子模塊,提供給上層統一的接口;在 Redis 中,我們通過宏定義的使用,合理的選擇不同的子模塊
因為 select 函數是作為 POSIX 標准中的系統調用,在不同版本的操作系統上都會實現,所以將其作為保底方案:
Redis 會優先選擇時間復雜度為 O(1) 的 I/O 多路復用函數作為底層實現,包括 Solaries 10 中的 evport、Linux 中的 epoll 和 macOS/FreeBSD 中的 kqueue,上述的這些函數都使用了內核內部的結構,並且能夠服務幾十萬的文件描述符。
但是如果當前編譯環境沒有上述函數,就會選擇 select 作為備選方案,由於其在使用時會掃描全部監聽的描述符,所以其時間復雜度較差 O(n),並且只能同時服務 1024 個文件描述符,所以一般並不會以 select 作為第一方案使用。
總結
Redis 對於 I/O 多路復用模塊的設計非常簡潔,通過宏保證了 I/O 多路復用模塊在不同平台上都有着優異的性能,將不同的 I/O 多路復用函數封裝成相同的 API 提供給上層使用。
整個模塊使 Redis 能以單進程運行的同時服務成千上萬個文件描述符,避免了由於多進程應用的引入導致代碼實現復雜度的提升,減少了出錯的可能性。
問答
Redis為什么是單線程 ?
因為CPU不是Redis的瓶頸。Redis的瓶頸最有可能是機器內存或者網絡帶寬。(以上主要來自官方FAQ)既然單線程容易實現,而且CPU不會成為瓶頸,那就順理成章地采用單線程的方案了。關於redis的性能,官方網站也有,普通筆記本輕松處理每秒幾十萬的請求,參見:How fast is Redis?(https://link.zhihu.com/?target=https%3A//redis.io/topics/benchmarks)如果萬一CPU成為你的Redis瓶頸了,或者,你就是不想讓服務器其他核閑置,那怎么辦?
那也很簡單,你多起幾個Redis進程就好了。Redis是keyvalue數據庫,又不是關系數據庫,數據之間沒有約束。只要客戶端分清哪些key放在哪個Redis進程上就可以了。redis-cluster可以幫你做的更好。單線程模型
Redis客戶端對服務端的每次調用都經歷了發送命令,執行命令,返回結果三個過程。其中執行命令階段,由於Redis是單線程來處理命令的,所有每一條到達服務端的命令不會立刻執行,所有的命令都會進入一個隊列中,然后逐個被執行。並且多個客戶端發送的命令的執行順序是不確定的。但是可以確定的是不會有兩條命令被同時執行,不會產生並發問題,這就是Redis的單線程基本模型。單線程模型每秒萬級別處理能力的原因
(1)純內存訪問。 數據存放在內存中,內存的響應時間大約是 100納秒 ,這是Redis每秒萬億級別訪問的重要基礎。
(2)非阻塞I/O ,Redis采用epoll做為I/O多路復用技術的實現 ,再加上Redis自身的事件處理模型將epoll中的連接,讀寫,關閉都轉換為了時間,不在I/O上浪費過多的時間。
(3)單線程 避免了線程切換和競態產生的消耗 。
(4)Redis采用單線程模型,每條命令執行如果占用大量時間, 會造成其他線程阻塞,對於Redis這種高性能服務是致命的,所以Redis是面向高速執行的數據庫。
內部實現采用epoll,采用了epoll+自己實現的簡單的事件框架。 epoll中的讀、寫、關閉、連接都轉化成了事件,然后利用epoll的多路復用特性, 絕不在io上浪費一點時間
這3個條件不是相互獨立的,特別是第一條,如果請求都是耗時的,采用單線程吞吐量及性能可想而知了。應該說redis為特殊的場景選擇了合適的技術方案。
參考:
https://draveness.me/redis-io-multiplexing
https://blog.csdn.net/sunhuiliang85/article/details/73656830