Reference:https://time.geekbang.org/column/article/74272
內存
內存主要用來存儲系統和應用程序的指令、數據、緩存等。
內存映射
通常所說的內存容量,比如筆記本電腦的8GB內存,其實指的是物理內存。物理內存也稱為主存,大多數計算機用的主存都是動態隨機訪問內存(DRAM)。只有內核才可以直接訪問物理內存。
Linux 內核給每個進程都提供了一個獨立的虛擬地址空間,並且這個地址空間是連續的。這樣,進程就可以很方便地訪問內存,更確切地說是訪問虛擬內存。
虛擬地址空間的內部又被分為內核空間和用戶空間兩部分,不同字長(也就是單個CPU指令可以處理數據的最大長度)的處理器,地址空間的范圍也不同。比如最常見的 32 位和 64 位系統,它們的虛擬地址空間,如下所示:
通過這里可以看出,32位系統的內核空間占用 1G,位於最高處,剩下的3G是用戶空間。而 64 位系統的內核空間和用戶空間都是 128T,分別占據整個內存空間的最高和最低處,剩下的中間部分是未定義的。
進程在用戶態時,只能訪問用戶空間內存;只有進入內核態后,才可以訪問內核空間內存。雖然每個進程的地址空間都包含了內核空間,但這些內核空間,其實關聯的都是相同的物理內存。這樣,進程切換到內核態后,就可以很方便地訪問內核空間內存。
既然每個進程都有一個這么大的地址空間,那么所有進程的虛擬內存加起來,自然要比實際的物理內存大得多。所以,並不是所有的虛擬內存都會分配物理內存,只有那些實際使用的虛擬內存才分配物理內存,並且分配后的物理內存,是通過內存映射來管理的。
內存映射,其實就是將虛擬內存地址映射到物理內存地址。為了完成內存映射,內核為每個進程都維護了一張頁表,記錄虛擬地址與物理地址的映射關系,如下圖所示:
頁表實際上存儲在 CPU 的內存管理單元 MMU中,這樣,正常情況下,處理器就可以直接通過硬件,找出要訪問的內存。
而當進程訪問的虛擬地址在頁表中查不到時,系統會產生一個缺頁異常,進入內核空間分配物理內存、更新進程頁表,最后再返回用戶空間,恢復進程的運行。
另外,TLB(Translation Lookaside Buffer,轉譯后備緩沖器)會影響 CPU 的內存訪問性能,TLB 其實就是 MMU 中頁表的高速緩存。由於進程的虛擬地址空間是獨立的,而 TLB 的訪問速度又比 MMU 快得多,所以,通過減少進程的上下文切換,減少TLB的刷新次數,就可以提高TLB 緩存的使用率,進而提高CPU的內存訪問性能。
不過要注意,MMU 並不以字節為單位來管理內存,而是規定了一個內存映射的最小單位,也就是頁,通常是 4 KB大小。這樣,每一次內存映射,都需要關聯 4 KB 或者 4KB 整數倍的內存空間。
頁的大小只有4 KB ,導致的另一個問題就是,整個頁表會變得非常大。比方說,僅 32 位系統就需要 100 多萬個頁表項(4GB/4KB),才可以實現整個地址空間的映射。為了解決頁表項過多的問題,Linux 提供了兩種機制,也就是多級頁表和大頁(HugePage)。
多級頁表就是把內存分成區塊來管理,將原來的映射關系改成區塊索引和區塊內的偏移。由於虛擬內存空間通常只用了很少一部分,那么,多級頁表就只保存這些使用中的區塊,這樣就可以大大地減少頁表的項數。
Linux用的正是四級頁表來管理內存頁,如下圖所示,虛擬地址被分為5個部分,前4個表項用於選擇頁,而最后一個索引表示頁內偏移。
大頁,就是比普通頁更大的內存塊,常見的大小有 2MB 和 1GB。大頁通常用在使用大量內存的進程上,比如 Oracle、DPDK等。
通過這些機制,在頁表的映射下,進程就可以通過虛擬地址來訪問物理內存了。
虛擬內存空間分布
最上方的內核空間不用多講,下方的用戶空間內存,其實又被分成了多個不同的段。以32 位系統為例,如下圖:
通過這張圖可以看到,用戶空間內存,從低到高分別是五種不同的內存段。
- 只讀段,包括代碼和常量等。
- 數據段,包括全局變量等。
- 堆,包括動態分配的內存,從低地址開始向上增長。
- 文件映射段,包括動態庫、共享內存等,從高地址開始向下增長。
- 棧,包括局部變量和函數調用的上下文等。棧的大小是固定的,一般是 8 MB。
在這五個內存段中,堆和文件映射段的內存是動態分配的。比如說,使用 C 標准庫的 malloc() 或者 mmap() ,就可以分別在堆和文件映射段動態分配內存。
其實64位系統的內存分布也類似,只不過內存空間要大得多。
內存分配與回收
malloc() 是 C 標准庫提供的內存分配函數,對應到系統調用上,有兩種實現方式,即 brk() 和 mmap()。
- 對小塊內存(小於128K),C 標准庫使用 brk() 來分配,也就是通過移動堆頂的位置來分配內存。這些內存釋放后並不會立刻歸還系統,而是被緩存起來,這樣就可以重復使用。
- 而大塊內存(大於 128K),則直接使用內存映射 mmap() 來分配,也就是在文件映射段找一塊空閑內存分配出去。
這兩種方式,自然各有優缺點。
- brk() 方式的緩存,可以減少缺頁異常的發生,提高內存訪問效率。不過,由於這些內存沒有歸還系統,在內存工作繁忙時,頻繁的內存分配和釋放會造成內存碎片。
- mmap() 方式分配的內存,會在釋放時直接歸還系統,所以每次 mmap 都會發生缺頁異常。在內存工作繁忙時,頻繁的內存分配會導致大量的缺頁異常,使內核的管理負擔增大。這也是malloc 只對大塊內存使用 mmap 的原因。
了解這兩種調用方式后,還需要清楚一點,那就是,當這兩種調用發生后,其實並沒有真正分配內存。這些內存,都只在首次訪問時才分配,也就是通過缺頁異常進入內核中,再由內核來分配內存。
整體來說,Linux 使用伙伴系統來管理內存分配。這些內存在MMU中以頁為單位進行管理,伙伴系統也一樣,以頁為單位來管理內存,並且會通過相鄰頁的合並,減少內存碎片化(比如brk方式造成的內存碎片)。
在用戶空間,malloc 通過 brk() 分配的內存,在釋放時並不立即歸還系統,而是緩存起來重復利用。
在內核空間,Linux 則通過 slab 分配器來管理小內存。可以把slab 看成構建在伙伴系統上的一個緩存,主要作用就是分配並釋放內核中的小對象。
對內存來說,如果只分配而不釋放,就會造成內存泄漏,甚至會耗盡系統內存。所以,在應用程序用完內存后,還需要調用 free() 或 unmap(),來釋放這些不用的內存。
當然,系統也不會任由某個進程用完所有內存。在發現內存緊張時,系統就會通過一系列機制來回收內存,比如下面這三種方式:
- 回收緩存,比如使用 LRU(Least Recently Used)算法,回收最近使用最少的內存頁面;
- 回收不常訪問的內存,把不常用的內存通過交換分區直接寫到磁盤中;
- 殺死進程,內存緊張時系統還會通過 OOM(Out of Memory),直接殺掉占用大量內存的進程。
其中,第二種方式回收不常訪問的內存時,會用到交換分區(以下簡稱 Swap)。Swap 其實就是把一塊磁盤空間當成內存來用。它可以把進程暫時不用的數據存儲到磁盤中(這個過程稱為換出),當進程訪問這些內存時,再從磁盤讀取這些數據到內存中(這個過程稱為換入)。
所以,可以發現,Swap 把系統的可用內存變大了。不過要注意,通常只在內存不足時,才會發生 Swap 交換。並且由於磁盤讀寫的速度遠比內存慢,Swap 會導致嚴重的內存性能問題。
第三種方式提到的 OOM(Out of Memory),其實是內核的一種保護機制。它監控進程的內存使用情況,並且使用 oom_score 為每個進程的內存使用情況進行評分:
- 一個進程消耗的內存越大,oom_score 就越大;
- 一個進程運行占用的 CPU 越多,oom_score 就越小。
這樣,進程的 oom_score 越大,代表消耗的內存越多,也就越容易被 OOM 殺死,從而可以更好保護系統。
當然,為了實際工作的需要,管理員可以通過 /proc 文件系統,手動設置進程的 oom_adj ,從而調整進程的 oom_score。
oom_adj 的范圍是 [-17, 15],數值越大,表示進程越容易被 OOM 殺死;數值越小,表示進程越不容易被 OOM 殺死,其中 -17 表示禁止OOM。
比如用下面的命令,就可以把 sshd 進程的 oom_adj 調小為 -16,這樣, sshd 進程就不容易被 OOM 殺死。
1 echo -16 > /proc/$(pidof sshd)/oom_adj
小結
- 對普通進程來說,它能看到的其實是內核提供的虛擬內存,這些虛擬內存還需要通過頁表,由系統映射為物理內存。
- 當進程通過 malloc() 申請內存后,內存並不會立即分配,而是在首次訪問時,才通過缺頁異常陷入內核中分配內存。
- 由於進程的虛擬地址空間比物理內存大很多,Linux 還提供了一系列的機制,應對內存不足的問題,比如緩存的回收、交換分區 Swap 以及OOM 等。
- 當需要了解系統或者進程的內存使用情況時,可以用 free 和 top 、ps 等性能工具。它們都是分析性能問題時最常用的性能工具。