Linux性能優化實戰學習筆記:第十八講


 一、內存的分配和回收

1、管理內存的過程中,也很容易發生各種各樣的“事故”,

對應用程序來說,動態內存的分配和回收,是既核心又復雜的一的一個邏輯功能模塊。管理內存的過程中,也很容易發生各種各樣的“事故”,

比如,沒正確回收分配后的內存,導致了泄漏。訪問的是已分配內存邊界外的地址,導致程序異常退出,等等。

你在程序中定義了一個局部變量,比如一個整數數組 int data[64] ,就定義了一個可以存儲 64 個整數的內存段。由於這是一個局部變量,它會從內它會從內存空間的棧中分配內存

1、棧內存由系統自動分配和管理。一旦程序運行超出了這個局部變量的作用域,棧內存就會被系統自動回收,所以不會產生內存泄漏的問題。

 

2、 堆內存由應用程序自己來分配和管理。 除非程序退出,這些堆內存並不會被系統自動釋放,而是需要應用程序明確調用庫函數 free() 來釋放它們。如果應用程序沒有正確釋放堆內存,

      就會造成內存泄漏。

這是兩個棧和堆的例子,那么,其他內存段是否也會導致內存泄漏呢?經過我們前面的學習,這個問題並不難回答

2、只讀段、只讀段、只讀段

只讀段:包括程序的代碼和常量,由於是只讀的,不會再去分配新的的內存,所以也不會產生內存泄漏。

數據段:包括全局變量和靜態變量,這些變量在定義時就已經確定了大小,所以也不會產生內存泄漏。

最后一個內存映射段:包括動態鏈接庫和共享內存,其中共享內存由程序動態分配和管理。所以,如果程序在分配后忘了回收,就會導致跟堆內存類似的泄漏問題。

內存泄漏的危害非常大,這些忘記釋放的內存,不僅應用程序自己不能訪問,系統也不能把他們再次分配給其他應用,內存泄露不斷累積,甚至耗盡系統內存

雖然,系統最終可以通過 OOM (Out of Memory)機制殺死進程,但進程在 OOM 前,可能已經引發了一連串的反應,導致嚴重的性能問題

比如,其他需要內存的進程,可能無法分配新的內存;內存不足,又會觸發系統的緩存回收以及SWAP 機制,從而進一步導致 I/O 的性能問題等等。

內存泄漏的危害這么大,那我們應該怎么檢測這種問題呢?特別是,如果你已經發現了內存泄漏,該如何定位和處理呢。

接下來,我們就用一個計算斐波那契數列的案例,

斐波那契數列是一個這樣的數列:0、1、1、2、3、5、8…,也就是除了前兩個數是 0 和1,其他數都由前面兩數相加得到,用數學公式來表示就是 F(n)=F(n-1)+F(n-2),(n>=2),F(0)=0, F(1)=1

二、案例

1、環境准備

今天的案例基於 Ubuntu 18.04,當然,同樣適用其他的 Linux 系統。
機器配置:2 CPU,8GB 內存
預先安裝 sysstat、Docker 以及 bcc 軟件包,比如:

# install sysstat docker
sudo apt-get install -y sysstat docker.io

# Install bcc
sudo apt-key adv --keyserver keyserver.ubuntu.com --recv-keys 4052245BD4284CDD
echo "deb https://repo.iovisor.org/apt/bionic bionic main" | sudo tee /etc/apt/sources.list.d/iovisor.list
sudo apt-get update
sudo apt-get install -y bcc-tools libbcc-examples linux-headers-$(uname -r)

其中,sysstat 和 Docker 我們已經很熟悉了。sysstat 軟件包中的 vmstat ,可以觀察內存的變化情況;而 Docker 可以運行案例程序。
bcc 軟件包前面也介紹過,它提供了一系列的 Linux 性能分析工具,常用來動態追蹤進程和內核的行為。更多工作原理你先不用深究,后面學習我們會逐步接觸。這里你只需要記
住,按照上面步驟安裝完后,它提供的所有工具都位於 /usr/share/bcc/tools 這個目錄中。

注意:bcc-tools 需要內核版本為 4.1 或者更高,如果你使用的是CentOS7,或者其他內核版本比較舊的系統,那么你需要手動升級內核版本后再安裝。

2、服務運行環境

root@luoahong ~]# docker run --name=app -itd feisky/app:mem-leak
Unable to find image 'feisky/app:mem-leak' locally
mem-leak: Pulling from feisky/app
473ede7ed136: Pull complete
c46b5fa4d940: Pull complete
93ae3df89c92: Pull complete
6b1eed27cade: Pull complete
22dd80cda054: Pull complete
f7c1129fca8d: Pull complete
Digest: sha256:a6806d6b0f33aedc31a6e6c9bd77fe80a086b5c97869a25859e4894dec7b8d4b
Status: Downloaded newer image for feisky/app:mem-leak
b316f0fb07945bd283ffa2d4768440515ffbb01f607a8051a31fce3f9c0fb297

案例成功運行后,你需要輸入下面的命令,確認案例應用已經正常啟動。如果一切正常,你應該可以看到下面這個界面:

[root@luoahong ~]# docker logs app
2th => 1
3th => 2
4th => 3
5th => 5
... ...
38th => 39088169
39th => 63245986
40th => 102334155

從輸出中,我們可以發現,這個案例會輸出斐波那契數列的一系列數值。實際上,這些數值每隔 1 秒輸出一次。

知道了這些,我們應該怎么檢查內存情況,判斷有沒有泄漏發生呢?你首先想到的可能是top 工具,不過,top 雖然能觀察系統和進程的內存占用情況,但今天的案例並不適合。
內存泄漏問題,我們更應該關注內存使用的變化趨勢。

3、發現問題

所以,開頭我也提到了,今天推薦的是另一個老熟人, vmstat 工具。運行下面的 vmstat ,等待一段時間,觀察內存的變化情況。如果忘了 vmstat 里各指標的含義,記得復習前面內容,或者執行 man vmstat 查詢。

[root@luoahong ~]# vmstat 3
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
 r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st
 2  0      0 7177068   2072 576796    0    0   466   187  257  365  1  3 90  5  0
 0  0      0 7177068   2072 576796    0    0     0     0  132  231  0  0 100  0  0
 0  0      0 7177068   2072 576796    0    0     0     0  138  234  0  0 100  0  0
 0  0      0 7176908   2072 576796    0    0     0     0  128  228  0  0 100  0  0
 0  0      0 7176908   2072 576800    0    0     0     0  129  225  0  0 100  0  0
 0  0      0 7176908   2072 576800    0    0     0     0  136  241  0  0 100  0  0
 1  0      0 7176968   2072 576800    0    0     0     6  166  257  0  1 99  0  0
 0  0      0 7176968   2072 576800    0    0     0     0  137  246  0  0 100  0  0
 0  0      0 7176968   2072 576800    0    0     0     0  132  237  0  0 100  0  0
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
 r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st
 0  0      0 7176744   2072 576800    0    0     0     0  138  236  0  1 99  0  0
 0  0      0 7176744   2072 576800    0    0     0     0  129  233  0  0 100  0  0
 0  0      0 7176744   2072 576800    0    0     0     0  127  240  0  0 100  0  0
 0  0      0 7176744   2072 576800    0    0     0     0  122  229  0  0 100  0  0
 0  0      0 7176680   2072 576800    0    0     0     0  131  241  0  0 100  0  0
 0  0      0 7176680   2072 576800    0    0     0     0  131  233  0  0 100  0  0
 0  0      0 7176680   2072 576800    0    0     0     0  145  244  1  0 99  0  0

從輸出中你可以看到,內存的 free 列在不停的變化,並且是下降趨勢;而 buffer 和cache 基本保持不變。

未使用內存在逐漸減小,而 buffer 和 cache 基本不變,這說明,系統中使用的內存一直在升高。但這並不能說明有內存泄漏,因為應用程序運行中需要的內存也可能會增大。比如說,程序中如果用了一個動態增長的數組來緩存計算結果,占用內存自然會增長。

三、分析過程

那怎么確定是不是內存泄漏呢?或者換句話說,有沒有簡單方法找出讓內存增長的進程,並定位增長內存用在哪兒呢?

根據前面內容,你應該想到了用 top 或 ps 來觀察進程的內存使用情況,然后找出內存使用一直增長的進程,最后再通過 pmap 查看進程的內存分布。

但這種方法並不太好用,因為要判斷內存的變化情況,還需要你寫一個腳本,來處理 top或者 ps 的輸出。

1、memleak分析工具

這里,我介紹一個專門用來檢測內存泄漏的工具,memleak。memleak 可以跟蹤系統或指定進程的內存分配、釋放請求,然后定期輸出一個未釋放內存和相應調用棧的匯總情況(默認 5 秒)。
當然,memleak 是 bcc 軟件包中的一個工具,我們一開始就裝好了,執行/usr/share/bcc/tools/memleak 就可以運行它。比如,我們運行下面的命令:

# -a 表示顯示每個內存分配請求的大小以及地址
# -p 指定案例應用的 PID 號
[root@luoahong ~]# /usr/share/bcc/tools/memleak -a -p $(pidof app)
WARNING: Couldn't find .text section in /app
WARNING: BCC can't handle sym look ups for /app
    addr = 7f8f704732b0 size = 8192
    addr = 7f8f704772d0 size = 8192
    addr = 7f8f704712a0 size = 8192
    addr = 7f8f704752c0 size = 8192
    32768 bytes in 4 allocations from stack
        [unknown] [app]
        [unknown] [app]
        start_thread+0xdb [libpthread-2.27.so] 

從 memleak 的輸出可以看到,案例應用在不停地分配內存,並且這些分配的地址沒有被回收。

2、Couldn’t find .text section in /app問題解決

Couldn’t find .text section in /app,所以調用棧不能正常輸出,最后的調用棧部分只能看到 [unknown] 的標志。
為什么會有這個錯誤呢?實際上,這是由於案例應用運行在容器中導致的。memleak 工具運行在容器之外,並不能直接訪問進程路徑 /app。
比方說,在終端中直接運行 ls 命令,你會發現,這個路徑的確不存在:

ls /app
ls: cannot access '/app': No such file or directory

類似的問題,我在 CPU 模塊中的 perf 使用方法中已經提到好幾個解決思路。最簡單的方法,就是在容器外部構建相同路徑的文件以及依賴庫。這個案例只有一個二進制文件,
所以只要把案例應用的二進制文件放到 /app 路徑中,就可以修復這個問題。

比如,你可以運行下面的命令,把 app 二進制文件從容器中復制出來,然后重新運行memleak 工具:

docker cp app:/app /app
[root@luoahong ~]#  /usr/share/bcc/tools/memleak -p $(pidof app) -a
Attaching to pid 12512, Ctrl+C to quit.
[03:00:41] Top 10 stacks with outstanding allocations:
    addr = 7f8f70863220 size = 8192
    addr = 7f8f70861210 size = 8192
    addr = 7f8f7085b1e0 size = 8192
    addr = 7f8f7085f200 size = 8192
    addr = 7f8f7085d1f0 size = 8192
    40960 bytes in 5 allocations from stack
        fibonacci+0x1f [app]
        child+0x4f [app]
        start_thread+0xdb [libpthread-2.27.so] 

3、fibonacci() 函數分配的內存沒釋放

這一次,我們終於看到了內存分配的調用棧,原來是 fibonacci() 函數分配的內存沒釋放。
定位了內存泄漏的來源,下一步自然就應該查看源碼,想辦法修復它。我們一起來看案例應用的源代碼 app.c:

[root@luoahong ~]# docker exec app cat /app.c
#include <stdio.h>
#include <stdlib.h>
#include <pthread.h>
#include <unistd.h>

long long *fibonacci(long long *n0, long long *n1)
{
	long long *v = (long long *) calloc(1024, sizeof(long long));
	*v = *n0 + *n1;
	return v;
}

void *child(void *arg)
{
	long long n0 = 0;
	long long n1 = 1;
	long long *v = NULL;
	for (int n = 2; n > 0; n++) {
		v = fibonacci(&n0, &n1);
		n0 = n1;
		n1 = *v;
		printf("%dth => %lld\n", n, *v);
		sleep(1);
	}
}


int main(void)
{
	pthread_t tid;
	pthread_create(&tid, NULL, child, NULL);
	pthread_join(tid, NULL);
	printf("main thread exit\n");
	return 0;

你會發現, child() 調用了 fibonacci() 函數,但並沒有釋放 fibonacci() 返回的內存。所以,想要修復泄漏問題,在 child() 中加一個釋放函數就可以了,比如:

void *child(void *arg)
{
    ...
    for (int n = 2; n > 0; n++) {
        v = fibonacci(&n0, &n1);
        n0 = n1;
        n1 = *v;
        printf("%dth => %lld\n", n, *v);
        free(v);    // 釋放內存
        sleep(1);
    }
} 

四、解決方案

我把修復后的代碼放到了 app-fix.c,也打包成了一個 Docker 鏡像。你可以運行下面的命令,驗證一下內存泄漏是否修復:

# 清理原來的案例應用
[root@luoahong ~]# docker rm -f app
app

# 運行修復后的應用
[root@luoahong ~]# docker run --name=app -itd feisky/app:mem-leak-fix
Unable to find image 'feisky/app:mem-leak-fix' locally
mem-leak-fix: Pulling from feisky/app
473ede7ed136: Already exists
c46b5fa4d940: Already exists
93ae3df89c92: Already exists
6b1eed27cade: Already exists
4d87f2538251: Pull complete
f7c1129fca8d: Pull complete
Digest: sha256:61d1ce0944188fcddb0ee78a2db60365133009b23612f8048b79c0bbc85f7012
Status: Downloaded newer image for feisky/app:mem-leak-fix
c2071e234b83d078716d5d5aa664047a8afd2abf67d10ecc89f77db3d173fb16

# 重新執行 memleak 工具檢查內存泄漏情況
[root@luoahong ~]#/usr/share/bcc/tools/memleak -a -p $(pidof app)
Attaching to pid 18808, Ctrl+C to quit.
[10:23:18] Top 10 stacks with outstanding allocations:
[10:23:23] Top 10 stacks with outstanding allocations:

現在,我們看到,案例應用已經沒有遺留內存,證明我們的修復工作成功完成。

 五、小結

應用程序可以訪問的用戶內存空間,由只讀段、數據段、堆、棧以及文件映射段等組成。其中,堆內存和內存映射,需要應用程序來動態管理內存段,所以我們必須小心處理。不
僅要會用標准庫函數 malloc() 來動態分配內存,還要記得在用完內存后,調用庫函數_free() 來 _ 釋放它們。

今天的案例比較簡單,只用加一個 free() 調用就能修復內存泄漏。不過,實際應用程序就復雜多了。比如說,
malloc() 和 free() 通常並不是成對出現,而是需要你,在每個異常處理路徑和成功路徑上都釋放內存 。

在多線程程序中,一個線程中分配的內存,可能會在另一個線程中訪問和釋放。更復雜的是,在第三方的庫函數中,隱式分配的內存可能需要應用程序顯式釋放。

所以,為了避免內存泄漏,最重要的一點就是養成良好的編程習慣,比如分配內存后,一定要先寫好內存釋放的代碼,再去開發其他邏輯。還是那句話,有借有還,才能高效運
轉,再借不難。

當然,如果已經完成了開發任務,你還可以用 memleak 工具,檢查應用程序的運行中,內存是否泄漏。如果發現了內存泄漏情況,再根據 memleak 輸出的應用程序調用棧,定
位內存的分配位置,從而釋放不再訪問的內存。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM