16 | 基礎篇:怎么理解內存中的Buffer和Cache?


上一節,我們梳理了 Linux 內存管理的基本原理,並學會了用 free 和 top 等工具,來查看系統和進程的內存使用情況。
在今天的內容開始之前,我們先來回顧一下系統的內存使用情況,比如下面這個 free 輸出界面:
# 注意不同版本的 free 輸出可能會有所不同
$ free
              total        used        free      shared  buff/cache   available
Mem:        8169348      263524     6875352         668     1030472     7611064
Swap:             0           0           0
顯然,這個界面包含了物理內存 Mem 和交換分區 Swap 的具體使用情況,比如總內存、已用內存、緩存、可用內存等。其中緩存是 Buffer 和 Cache 兩部分的總和 。

這里的大部分指標都比較容易理解,但 Buffer 和 Cache 可能不太好區分。從字面上來說,Buffer 是緩沖區,而 Cache 是緩存,兩者都是數據在內存中的臨時存儲。那么,你知道這兩種“臨時存儲”有什么區別嗎?

注:今天內容接下來的部分,Buffer 和 Cache 我會都用英文來表示,避免跟文中的“緩存”一詞混淆。而文中的“緩存”,則通指內存中的臨時存儲。

free 數據的來源

在我正式講解兩個概念前,你可以先想想,你有沒有什么途徑來進一步了解它們?除了中文翻譯直接得到概念,別忘了,Buffer 和 Cache 還是我們用 free 獲得的指標。

還記得我之前講過的,碰到看不明白的指標時該怎么辦嗎?

估計你想起來了,不懂就去查手冊。用 man 命令查詢 free 的文檔,就可以找到對應指標的詳細說明。比如,我們執行 man free ,就可以看到下面這個界面。
buffers
              Memory used by kernel buffers (Buffers in /proc/meminfo)
 
       cache  Memory used by the page cache and slabs (Cached and SReclaimable in /proc/meminfo)
 
       buff/cache
              Sum of buffers and cache
從 free 的手冊中,你可以看到 buffer 和 cache 的說明。
  • Buffers 是內核緩沖區用到的內存,對應的是 /proc/meminfo 中的 Buffers 值。
  • Cache 是內核頁緩存和 Slab 用到的內存,對應的是 /proc/meminfo 中的 Cached 與 SReclaimable 之和。
這里的說明告訴我們,這些數值都來自 /proc/meminfo,但更具體的 Buffers、Cached 和 SReclaimable 的含義,還是沒有說清楚。
要注意,網上的結論可能是對的,但是很可能跟你的環境並不匹配。最簡單來說,同一個指標的具體含義,就可能因為內核版本、性能工具版本的不同而有挺大差別。這也是為什么,我總在專欄中強調通用思路和方法,而不是讓你死記結論。對於案例實踐來說,機器環境就是我們的最大限制。
那么,有沒有更簡單、更准確的方法,來查詢它們的含義呢?

proc 文件系統

我在前面 CPU 性能模塊就曾經提到過, /proc 是 Linux 內核提供的一種特殊文件系統,是用戶跟內核交互的接口。比方說,用戶可以從 /proc 中查詢內核的運行狀態和配置選項,查詢進程的運行狀態、統計數據等,當然,你也可以通過 /proc 來修改內核的配置。

proc 文件系統同時也是很多性能工具的最終數據來源。比如我們剛才看到的 free ,就是通過讀取 /proc/meminfo ,得到內存的使用情況。

繼續說回 /proc/meminfo,既然 Buffers、Cached、SReclaimable 這幾個指標不容易理解,那我們還得繼續查 proc 文件系統,獲取它們的詳細定義。

執行 man proc ,你就可以得到 proc 文件系統的詳細文檔。

注意這個文檔比較長,你最好搜索一下(比如搜索 meminfo),以便更快定位到內存部分。
Buffers %lu
    Relatively temporary storage for raw disk blocks that shouldn't get tremendously large (20MB or so).
 
Cached %lu
   In-memory cache for files read from the disk (the page cache).  Doesn't include SwapCached.
...
SReclaimable %lu (since Linux 2.6.19)
    Part of Slab, that might be reclaimed, such as caches.
    
SUnreclaim %lu (since Linux 2.6.19)
    Part of Slab, that cannot be reclaimed on memory pressure.
通過這個文檔,我們可以看到:

  • Buffers 是對原始磁盤塊的臨時存儲,也就是用來緩存磁盤的數據,通常不會特別大(20MB 左右)。這樣,內核就可以把分散的寫集中起來,統一優化磁盤的寫入,比如可以把多次小的寫合並成單次大的寫等等。
  • Cached 是從磁盤讀取文件的頁緩存,也就是用來緩存從文件讀取的數據。這樣,下次訪問這些文件數據時,就可以直接從內存中快速獲取,而不需要再次訪問緩慢的磁盤。
  • SReclaimable 是 Slab 的一部分。Slab 包括兩部分,其中的可回收部分,用 SReclaimable 記錄;而不可回收部分,用 SUnreclaim 記錄。

好了,我們終於找到了這三個指標的詳細定義。到這里,你是不是長舒一口氣,滿意地想着,總算弄明白 Buffer 和 Cache 了。不過,知道這個定義就真的理解了嗎?這里我給你提了兩個問題,你先想想能不能回答出來。

  • 第一個問題,Buffer 的文檔沒有提到這是磁盤讀數據還是寫數據的緩存,而在很多網絡搜索的結果中都會提到 Buffer 只是對將要寫入磁盤數據的緩存。那反過來說,它會不會也緩存從磁盤中讀取的數據呢?
  • 第二個問題,文檔中提到,Cache 是對從文件讀取數據的緩存,那么它是不是也會緩存寫文件的數據呢?
為了解答這兩個問題,接下來,我將用幾個案例來展示, Buffer 和 Cache 在不同場景下的使用情況。

案例

跟前面實驗一樣,今天的案例也是基於 Ubuntu 18.04,當然,其他 Linux 系統也適用。我的案例環境是這樣的。
機器配置:2 CPU,8GB 內存。
預先安裝 sysstat 包,如 apt install sysstat。
之所以要安裝 sysstat ,是因為我們要用到 vmstat ,來觀察 Buffer 和 Cache 的變化情況。雖然從 /proc/meminfo 里也可以讀到相同的結果,但畢竟還是 vmstat 的結果更加直觀。
另外,這幾個案例使用了 dd 來模擬磁盤和文件的 I/O,所以我們也需要觀測 I/O 的變化情況。
上面的工具安裝完成后,你可以打開兩個終端,連接到 Ubuntu 機器上。
准備環節的最后一步,為了減少緩存的影響,記得在第一個終端中,運行下面的命令來清理系統緩存:
# 清理文件頁、目錄項、Inodes 等各種緩存
$ echo 3 > /proc/sys/vm/drop_caches
這里的 /proc/sys/vm/drop_caches ,就是通過 proc 文件系統修改內核行為的一個示例,寫入 3 表示清理文件頁、目錄項、Inodes 等各種緩存。這幾種緩存的區別你暫時不用管,后面我們都會講到。

場景 1:磁盤和文件寫案例

我們先來模擬第一個場景。首先,在第一個終端,運行下面這個 vmstat 命令:
# 每隔 1 秒輸出 1 組數據
$ vmstat 1
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st
0  0      0 7743608   1112  92168    0    0     0     0   52  152  0  1 100  0  0
 0  0      0 7743608   1112  92168    0    0     0     0   36   92  0  0 100  0  0
輸出界面里, 內存部分的 buff 和 cache ,以及 io 部分的 bi 和 bo 就是我們要關注的重點。
  • buff 和 cache 就是我們前面看到的 Buffers 和 Cache,單位是 KB。
  • bi 和 bo 則分別表示塊設備讀取和寫入的大小,單位為塊 / 秒。因為 Linux 中塊的大小是 1KB,所以這個單位也就等價於 KB/s。
正常情況下,空閑系統中,你應該看到的是,這幾個值在多次結果中一直保持不變。
接下來,到第二個終端執行 dd 命令,通過讀取隨機設備,生成一個 500MB 大小的文件:
$ dd if=/dev/urandom of=/tmp/file bs=1M count=500
然后再回到第一個終端,觀察 Buffer 和 Cache 的變化情況:
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st
0  0      0 7499460   1344 230484    0    0     0     0   29  145  0  0 100  0  0
 1  0      0 7338088   1752 390512    0    0   488     0   39  558  0 47 53  0  0
 1  0      0 7158872   1752 568800    0    0     0     4   30  376  1 50 49  0  0
 1  0      0 6980308   1752 747860    0    0     0     0   24  360  0 50 50  0  0
 0  0      0 6977448   1752 752072    0    0     0     0   29  138  0  0 100  0  0
 0  0      0 6977440   1760 752080    0    0     0   152   42  212  0  1 99  1  0
...
 0  1      0 6977216   1768 752104    0    0     4 122880   33  234  0  1 51 49  0
 0  1      0 6977440   1768 752108    0    0     0 10240   38  196  0  0 50 50  0
通過觀察 vmstat 的輸出,我們發現,在 dd 命令運行時, Cache 在不停地增長,而 Buffer 基本保持不變。
再進一步觀察 I/O 的情況,你會看到,
  • 在 Cache 剛開始增長時,塊設備 I/O 很少,bi 只出現了一次 488 KB/s,bo 則只有一次 4KB。而過一段時間后,才會出現大量的塊設備寫,比如 bo 變成了 122880。
  • 當 dd 命令結束后,Cache 不再增長,但塊設備寫還會持續一段時間,並且,多次 I/O 寫的結果加起來,才是 dd 要寫的 500M 的數據。
把這個結果,跟我們剛剛了解到的 Cache 的定義做個對比,你可能會有點暈乎。為什么前面文檔上說 Cache 是文件讀的頁緩存,怎么現在寫文件也有它的份?
這個疑問,我們暫且先記下來,接着再來看另一個磁盤寫的案例。兩個案例結束后,我們再統一進行分析。
不過,對於接下來的案例,我必須強調一點:
下面的命令對環境要求很高,需要你的系統配置多塊磁盤,並且磁盤分區 /dev/sdb1 還要處於未使用狀態。如果你只有一塊磁盤,千萬不要嘗試,否則將會對你的磁盤分區造成損壞。

如果你的系統符合標准,就可以繼續在第二個終端中,運行下面的命令。清理緩存后,向磁盤分區 /dev/sdb1 寫入 2GB 的隨機數據:
# 首先清理緩存
$ echo 3 > /proc/sys/vm/drop_caches
# 然后運行 dd 命令向磁盤分區 /dev/sdb1 寫入 2G 數據
$ dd if=/dev/urandom of=/dev/sdb1 bs=1M count=2048
然后,再回到終端一,觀察內存和 I/O 的變化情況:
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
 r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st
1  0      0 7584780 153592  97436    0    0   684     0   31  423  1 48 50  2  0
 1  0      0 7418580 315384 101668    0    0     0     0   32  144  0 50 50  0  0
 1  0      0 7253664 475844 106208    0    0     0     0   20  137  0 50 50  0  0
 1  0      0 7093352 631800 110520    0    0     0     0   23  223  0 50 50  0  0
 1  1      0 6930056 790520 114980    0    0     0 12804   23  168  0 50 42  9  0
 1  0      0 6757204 949240 119396    0    0     0 183804   24  191  0 53 26 21  0
 1  1      0 6591516 1107960 123840    0    0     0 77316   22  232  0 52 16 33  0
從這里你會看到,雖然同是寫數據,寫磁盤跟寫文件的現象還是不同的。 寫磁盤時(也就是 bo 大於 0 時),Buffer 和 Cache 都在增長,但顯然 Buffer 的增長快得多。

這說明, 寫磁盤用到了大量的 Buffer,這跟我們在文檔中查到的定義是一樣的。

對比兩個案例,我們發現, 寫文件時會用到 Cache 緩存數據,而寫磁盤則會用到 Buffer 來緩存數據。所以,回到剛剛的問題,雖然文檔上只提到,Cache 是文件讀的緩存,但實際上,Cache 也會緩存寫文件時的數據。

場景 2:磁盤和文件讀案例

了解了磁盤和文件寫的情況,我們再反過來想,磁盤和文件讀的時候,又是怎樣的呢?

我們回到第二個終端,運行下面的命令。清理緩存后,從文件 /tmp/file 中,讀取數據寫入空設備:
# 首先清理緩存
$ echo 3 > /proc/sys/vm/drop_caches
# 運行 dd 命令讀取文件數據
$ dd if=/tmp/file of=/dev/null
然后,再回到終端一,觀察內存和 I/O 的變化情況:
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
 r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st
 0  1      0 7724164   2380 110844    0    0 16576     0   62  360  2  2 76 21  0
 0  1      0 7691544   2380 143472    0    0 32640     0   46  439  1  3 50 46  0
 0  1      0 7658736   2380 176204    0    0 32640     0   54  407  1  4 50 46  0
 0  1      0 7626052   2380 208908    0    0 32640    40   44  422  2  2 50 46  0
觀察 vmstat 的輸出,你會發現讀取文件時(也就是 bi 大於 0 時),Buffer 保持不變,而 Cache 則在不停增長。這 跟我們查到的定義“Cache 是對文件讀的頁緩存”是一致的

那么,磁盤讀又是什么情況呢?我們再運行第二個案例來看看。
首先,回到第二個終端,運行下面的命令。清理緩存后,從磁盤分區 /dev/sda1 中讀取數據,寫入空設備:
# 首先清理緩存
$ echo 3 > /proc/sys/vm/drop_caches
# 運行 dd 命令讀取文件
$ dd if=/dev/sda1 of=/dev/null bs=1M count=1024
然后,再回到終端一,觀察內存和 I/O 的變化情況:
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
 r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st
0  0      0 7225880   2716 608184    0    0     0     0   48  159  0  0 100  0  0
 0  1      0 7199420  28644 608228    0    0 25928     0   60  252  0  1 65 35  0
 0  1      0 7167092  60900 608312    0    0 32256     0   54  269  0  1 50 49  0
 0  1      0 7134416  93572 608376    0    0 32672     0   53  253  0  0 51 49  0
 0  1      0 7101484 126320 608480    0    0 32748     0   80  414  0  1 50 49  0
觀察 vmstat 的輸出,你會發現讀磁盤時(也就是 bi 大於 0 時),Buffer 和 Cache 都在增長,但顯然 Buffer 的增長快很多。這說明讀磁盤時,數據緩存到了 Buffer 中。

當然,我想,經過上一個場景中兩個案例的分析,你自己也可以對比得出這個結論:讀文件時數據會緩存到 Cache 中,而讀磁盤時數據會緩存到 Buffer 中。

到這里你應該發現了,雖然文檔提供了對 Buffer 和 Cache 的說明,但是仍不能覆蓋到所有的細節。比如說,今天我們了解到的這兩點:
  • Buffer 既可以用作“將要寫入磁盤數據的緩存”,也可以用作“從磁盤讀取數據的緩存”。
  • Cache 既可以用作“從文件讀取數據的頁緩存”,也可以用作“寫文件的頁緩存”。

這樣,我們就回答了案例開始前的兩個問題。
簡單來說, Buffer 是對磁盤數據的緩存,而 Cache 是文件數據的緩存,它們既會用在讀請求中,也會用在寫請求中。

小結

今天,我們一起探索了內存性能中 Buffer 和 Cache 的詳細含義。Buffer 和 Cache 分別緩存磁盤和文件系統的讀寫數據。
從寫的角度來說,不僅可以優化磁盤和文件的寫入,對應用程序也有好處,應用程序可以在數據真正落盤前,就返回去做其他工作。
從讀的角度來說,既可以加速讀取那些需要頻繁訪問的數據,也降低了頻繁 I/O 對磁盤的壓力。

思考
我們已經知道,可以使用 ps、top 或者 proc 文件系統,來獲取進程的內存使用情況。那么,如何統計出所有進程的物理內存使用量呢?
提示:要避免重復計算多個進程同時占用的內存,像是頁緩存、共享內存這類。如果你把 ps、top 得到的數據直接相加,就會出現重復計算的問題。
這里,我推薦從 /proc/< pid >/smaps 入手。前面內容里,我並沒有直接講過 /proc/< pid >smaps 文件中各個指標含義,所以,需要你自己動手查 proc 文件系統的文檔,解讀並回答這個問題。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM