一、內存的分配和回收
1、管理內存的過程中,也很容易發生各種各樣的“事故”,
對應用程序來說,動態內存的分配和回收,是既核心又復雜的一的一個邏輯功能模塊。管理內存的過程中,也很容易發生各種各樣的“事故”,
比如,沒正確回收分配后的內存,導致了泄漏。訪問的是已分配內存邊界外的地址,導致程序異常退出,等等。
你在程序中定義了一個局部變量,比如一個整數數組 int data[64] ,就定義了一個可以存儲 64 個整數的內存段。由於這是一個局部變量,它會從內它會從內存空間的棧中分配內存
1、棧內存由系統自動分配和管理。一旦程序運行超出了這個局部變量的作用域,棧內存就會被系統自動回收,所以不會產生內存泄漏的問題。
2、 堆內存由應用程序自己來分配和管理。 除非程序退出,這些堆內存並不會被系統自動釋放,而是需要應用程序明確調用庫函數 free() 來釋放它們。如果應用程序沒有正確釋放堆內存,
就會造成內存泄漏。
這是兩個棧和堆的例子,那么,其他內存段是否也會導致內存泄漏呢?經過我們前面的學習,這個問題並不難回答
2、只讀段、只讀段、只讀段
只讀段:包括程序的代碼和常量,由於是只讀的,不會再去分配新的的內存,所以也不會產生內存泄漏。
數據段:包括全局變量和靜態變量,這些變量在定義時就已經確定了大小,所以也不會產生內存泄漏。
最后一個內存映射段:包括動態鏈接庫和共享內存,其中共享內存由程序動態分配和管理。所以,如果程序在分配后忘了回收,就會導致跟堆內存類似的泄漏問題。
內存泄漏的危害非常大,這些忘記釋放的內存,不僅應用程序自己不能訪問,系統也不能把他們再次分配給其他應用,內存泄露不斷累積,甚至耗盡系統內存
雖然,系統最終可以通過 OOM (Out of Memory)機制殺死進程,但進程在 OOM 前,可能已經引發了一連串的反應,導致嚴重的性能問題
比如,其他需要內存的進程,可能無法分配新的內存;內存不足,又會觸發系統的緩存回收以及SWAP 機制,從而進一步導致 I/O 的性能問題等等。
內存泄漏的危害這么大,那我們應該怎么檢測這種問題呢?特別是,如果你已經發現了內存泄漏,該如何定位和處理呢。
接下來,我們就用一個計算斐波那契數列的案例,
斐波那契數列是一個這樣的數列:0、1、1、2、3、5、8…,也就是除了前兩個數是 0 和1,其他數都由前面兩數相加得到,用數學公式來表示就是 F(n)=F(n-1)+F(n-2),(n>=2),F(0)=0, F(1)=1
二、案例
1、環境准備
今天的案例基於 Ubuntu 18.04,當然,同樣適用其他的 Linux 系統。
機器配置:2 CPU,8GB 內存
預先安裝 sysstat、Docker 以及 bcc 軟件包,比如:
# install sysstat docker sudo apt-get install -y sysstat docker.io # Install bcc sudo apt-key adv --keyserver keyserver.ubuntu.com --recv-keys 4052245BD4284CDD echo "deb https://repo.iovisor.org/apt/bionic bionic main" | sudo tee /etc/apt/sources.list.d/iovisor.list sudo apt-get update sudo apt-get install -y bcc-tools libbcc-examples linux-headers-$(uname -r)
其中,sysstat 和 Docker 我們已經很熟悉了。sysstat 軟件包中的 vmstat ,可以觀察內存的變化情況;而 Docker 可以運行案例程序。
bcc 軟件包前面也介紹過,它提供了一系列的 Linux 性能分析工具,常用來動態追蹤進程和內核的行為。更多工作原理你先不用深究,后面學習我們會逐步接觸。這里你只需要記
住,按照上面步驟安裝完后,它提供的所有工具都位於 /usr/share/bcc/tools 這個目錄中。
注意:bcc-tools 需要內核版本為 4.1 或者更高,如果你使用的是CentOS7,或者其他內核版本比較舊的系統,那么你需要手動升級內核版本后再安裝。
2、服務運行環境
root@luoahong ~]# docker run --name=app -itd feisky/app:mem-leak Unable to find image 'feisky/app:mem-leak' locally mem-leak: Pulling from feisky/app 473ede7ed136: Pull complete c46b5fa4d940: Pull complete 93ae3df89c92: Pull complete 6b1eed27cade: Pull complete 22dd80cda054: Pull complete f7c1129fca8d: Pull complete Digest: sha256:a6806d6b0f33aedc31a6e6c9bd77fe80a086b5c97869a25859e4894dec7b8d4b Status: Downloaded newer image for feisky/app:mem-leak b316f0fb07945bd283ffa2d4768440515ffbb01f607a8051a31fce3f9c0fb297
案例成功運行后,你需要輸入下面的命令,確認案例應用已經正常啟動。如果一切正常,你應該可以看到下面這個界面:
[root@luoahong ~]# docker logs app 2th => 1 3th => 2 4th => 3 5th => 5 ... ... 38th => 39088169 39th => 63245986 40th => 102334155
從輸出中,我們可以發現,這個案例會輸出斐波那契數列的一系列數值。實際上,這些數值每隔 1 秒輸出一次。
知道了這些,我們應該怎么檢查內存情況,判斷有沒有泄漏發生呢?你首先想到的可能是top 工具,不過,top 雖然能觀察系統和進程的內存占用情況,但今天的案例並不適合。
內存泄漏問題,我們更應該關注內存使用的變化趨勢。
3、發現問題
所以,開頭我也提到了,今天推薦的是另一個老熟人, vmstat 工具。運行下面的 vmstat ,等待一段時間,觀察內存的變化情況。如果忘了 vmstat 里各指標的含義,記得復習前面內容,或者執行 man vmstat 查詢。
[root@luoahong ~]# vmstat 3 procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu----- r b swpd free buff cache si so bi bo in cs us sy id wa st 2 0 0 7177068 2072 576796 0 0 466 187 257 365 1 3 90 5 0 0 0 0 7177068 2072 576796 0 0 0 0 132 231 0 0 100 0 0 0 0 0 7177068 2072 576796 0 0 0 0 138 234 0 0 100 0 0 0 0 0 7176908 2072 576796 0 0 0 0 128 228 0 0 100 0 0 0 0 0 7176908 2072 576800 0 0 0 0 129 225 0 0 100 0 0 0 0 0 7176908 2072 576800 0 0 0 0 136 241 0 0 100 0 0 1 0 0 7176968 2072 576800 0 0 0 6 166 257 0 1 99 0 0 0 0 0 7176968 2072 576800 0 0 0 0 137 246 0 0 100 0 0 0 0 0 7176968 2072 576800 0 0 0 0 132 237 0 0 100 0 0 procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu----- r b swpd free buff cache si so bi bo in cs us sy id wa st 0 0 0 7176744 2072 576800 0 0 0 0 138 236 0 1 99 0 0 0 0 0 7176744 2072 576800 0 0 0 0 129 233 0 0 100 0 0 0 0 0 7176744 2072 576800 0 0 0 0 127 240 0 0 100 0 0 0 0 0 7176744 2072 576800 0 0 0 0 122 229 0 0 100 0 0 0 0 0 7176680 2072 576800 0 0 0 0 131 241 0 0 100 0 0 0 0 0 7176680 2072 576800 0 0 0 0 131 233 0 0 100 0 0 0 0 0 7176680 2072 576800 0 0 0 0 145 244 1 0 99 0 0
從輸出中你可以看到,內存的 free 列在不停的變化,並且是下降趨勢;而 buffer 和cache 基本保持不變。
未使用內存在逐漸減小,而 buffer 和 cache 基本不變,這說明,系統中使用的內存一直在升高。但這並不能說明有內存泄漏,因為應用程序運行中需要的內存也可能會增大。比如說,程序中如果用了一個動態增長的數組來緩存計算結果,占用內存自然會增長。
三、分析過程
那怎么確定是不是內存泄漏呢?或者換句話說,有沒有簡單方法找出讓內存增長的進程,並定位增長內存用在哪兒呢?
根據前面內容,你應該想到了用 top 或 ps 來觀察進程的內存使用情況,然后找出內存使用一直增長的進程,最后再通過 pmap 查看進程的內存分布。
但這種方法並不太好用,因為要判斷內存的變化情況,還需要你寫一個腳本,來處理 top或者 ps 的輸出。
1、memleak分析工具
這里,我介紹一個專門用來檢測內存泄漏的工具,memleak。memleak 可以跟蹤系統或指定進程的內存分配、釋放請求,然后定期輸出一個未釋放內存和相應調用棧的匯總情況(默認 5 秒)。
當然,memleak 是 bcc 軟件包中的一個工具,我們一開始就裝好了,執行/usr/share/bcc/tools/memleak 就可以運行它。比如,我們運行下面的命令:
# -a 表示顯示每個內存分配請求的大小以及地址
# -p 指定案例應用的 PID 號
[root@luoahong ~]# /usr/share/bcc/tools/memleak -a -p $(pidof app)
WARNING: Couldn't find .text section in /app
WARNING: BCC can't handle sym look ups for /app
addr = 7f8f704732b0 size = 8192
addr = 7f8f704772d0 size = 8192
addr = 7f8f704712a0 size = 8192
addr = 7f8f704752c0 size = 8192
32768 bytes in 4 allocations from stack
[unknown] [app]
[unknown] [app]
start_thread+0xdb [libpthread-2.27.so]
從 memleak 的輸出可以看到,案例應用在不停地分配內存,並且這些分配的地址沒有被回收。
2、Couldn’t find .text section in /app問題解決
Couldn’t find .text section in /app,所以調用棧不能正常輸出,最后的調用棧部分只能看到 [unknown] 的標志。
為什么會有這個錯誤呢?實際上,這是由於案例應用運行在容器中導致的。memleak 工具運行在容器之外,並不能直接訪問進程路徑 /app。
比方說,在終端中直接運行 ls 命令,你會發現,這個路徑的確不存在:
ls /app ls: cannot access '/app': No such file or directory
類似的問題,我在 CPU 模塊中的 perf 使用方法中已經提到好幾個解決思路。最簡單的方法,就是在容器外部構建相同路徑的文件以及依賴庫。這個案例只有一個二進制文件,
所以只要把案例應用的二進制文件放到 /app 路徑中,就可以修復這個問題。
比如,你可以運行下面的命令,把 app 二進制文件從容器中復制出來,然后重新運行memleak 工具:
docker cp app:/app /app
[root@luoahong ~]# /usr/share/bcc/tools/memleak -p $(pidof app) -a
Attaching to pid 12512, Ctrl+C to quit.
[03:00:41] Top 10 stacks with outstanding allocations:
addr = 7f8f70863220 size = 8192
addr = 7f8f70861210 size = 8192
addr = 7f8f7085b1e0 size = 8192
addr = 7f8f7085f200 size = 8192
addr = 7f8f7085d1f0 size = 8192
40960 bytes in 5 allocations from stack
fibonacci+0x1f [app]
child+0x4f [app]
start_thread+0xdb [libpthread-2.27.so]
3、fibonacci() 函數分配的內存沒釋放
這一次,我們終於看到了內存分配的調用棧,原來是 fibonacci() 函數分配的內存沒釋放。
定位了內存泄漏的來源,下一步自然就應該查看源碼,想辦法修復它。我們一起來看案例應用的源代碼 app.c:
[root@luoahong ~]# docker exec app cat /app.c
#include <stdio.h>
#include <stdlib.h>
#include <pthread.h>
#include <unistd.h>
long long *fibonacci(long long *n0, long long *n1)
{
long long *v = (long long *) calloc(1024, sizeof(long long));
*v = *n0 + *n1;
return v;
}
void *child(void *arg)
{
long long n0 = 0;
long long n1 = 1;
long long *v = NULL;
for (int n = 2; n > 0; n++) {
v = fibonacci(&n0, &n1);
n0 = n1;
n1 = *v;
printf("%dth => %lld\n", n, *v);
sleep(1);
}
}
int main(void)
{
pthread_t tid;
pthread_create(&tid, NULL, child, NULL);
pthread_join(tid, NULL);
printf("main thread exit\n");
return 0;
你會發現, child() 調用了 fibonacci() 函數,但並沒有釋放 fibonacci() 返回的內存。所以,想要修復泄漏問題,在 child() 中加一個釋放函數就可以了,比如:
void *child(void *arg)
{
...
for (int n = 2; n > 0; n++) {
v = fibonacci(&n0, &n1);
n0 = n1;
n1 = *v;
printf("%dth => %lld\n", n, *v);
free(v); // 釋放內存
sleep(1);
}
}
四、解決方案
我把修復后的代碼放到了 app-fix.c,也打包成了一個 Docker 鏡像。你可以運行下面的命令,驗證一下內存泄漏是否修復:
# 清理原來的案例應用 [root@luoahong ~]# docker rm -f app app # 運行修復后的應用 [root@luoahong ~]# docker run --name=app -itd feisky/app:mem-leak-fix Unable to find image 'feisky/app:mem-leak-fix' locally mem-leak-fix: Pulling from feisky/app 473ede7ed136: Already exists c46b5fa4d940: Already exists 93ae3df89c92: Already exists 6b1eed27cade: Already exists 4d87f2538251: Pull complete f7c1129fca8d: Pull complete Digest: sha256:61d1ce0944188fcddb0ee78a2db60365133009b23612f8048b79c0bbc85f7012 Status: Downloaded newer image for feisky/app:mem-leak-fix c2071e234b83d078716d5d5aa664047a8afd2abf67d10ecc89f77db3d173fb16 # 重新執行 memleak 工具檢查內存泄漏情況 [root@luoahong ~]#/usr/share/bcc/tools/memleak -a -p $(pidof app) Attaching to pid 18808, Ctrl+C to quit. [10:23:18] Top 10 stacks with outstanding allocations: [10:23:23] Top 10 stacks with outstanding allocations:
現在,我們看到,案例應用已經沒有遺留內存,證明我們的修復工作成功完成。
五、小結
應用程序可以訪問的用戶內存空間,由只讀段、數據段、堆、棧以及文件映射段等組成。其中,堆內存和內存映射,需要應用程序來動態管理內存段,所以我們必須小心處理。不
僅要會用標准庫函數 malloc() 來動態分配內存,還要記得在用完內存后,調用庫函數_free() 來 _ 釋放它們。
今天的案例比較簡單,只用加一個 free() 調用就能修復內存泄漏。不過,實際應用程序就復雜多了。比如說,
malloc() 和 free() 通常並不是成對出現,而是需要你,在每個異常處理路徑和成功路徑上都釋放內存 。
在多線程程序中,一個線程中分配的內存,可能會在另一個線程中訪問和釋放。更復雜的是,在第三方的庫函數中,隱式分配的內存可能需要應用程序顯式釋放。
所以,為了避免內存泄漏,最重要的一點就是養成良好的編程習慣,比如分配內存后,一定要先寫好內存釋放的代碼,再去開發其他邏輯。還是那句話,有借有還,才能高效運
轉,再借不難。
當然,如果已經完成了開發任務,你還可以用 memleak 工具,檢查應用程序的運行中,內存是否泄漏。如果發現了內存泄漏情況,再根據 memleak 輸出的應用程序調用棧,定
位內存的分配位置,從而釋放不再訪問的內存。
