之前講到 CPU 使用率的類型。除了上一節提到的用戶 CPU 之外,它還包括系統 CPU(比如上下文切換)、等待 I/O 的 CPU(比如等待磁盤的響應)以及中斷 CPU(包括軟中斷和硬中斷)等。
在上下文切換的文章中,一起分析了系統 CPU 使用率高的問題,剩下的等待 I/O的 CPU 使用率(以下簡稱為 iowait)升高,也是最常見的一個服務器性能問題。今天我們就來看一個多進程 I/O 的案例,並分析這種情況。
目錄:
進程狀態
當 iowait 升高時,進程很可能因為得不到硬件的響應,而長時間處於不可中斷狀態。從ps 或者 top 命令的輸出中,你可以發現它們都處於 D 狀態,也就是不可中斷狀態
(Uninterruptible Sleep)。既然說到了進程的狀態,進程有哪些狀態你還記得嗎?我們先來回顧一下。
top 和 ps 是最常用的查看進程狀態的工具,我們就從 top 的輸出開始。下面是一個 top命令輸出的示例,S 列(也就是 Status 列)表示進程的狀態。從這個示例里,你可以看到R、D、Z、S、I 等幾個狀態,它們分別是什么意思呢?
Tasks: 102 total, 1 running, 101 sleeping, 0 stopped, 0 zombie Cpu(s): 1.3%us, 0.4%sy, 0.0%ni, 98.3%id, 0.0%wa, 0.0%hi, 0.0%si, 0.0%st Mem: 2054084k total, 1851980k used, 202104k free, 151392k buffers Swap: 0k total, 0k used, 0k free, 892636k cached PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND 1178 root 10 -10 133m 17m 5700 R 0.8 0.9 231:49.51 AliYunDun 32028 root 20 0 15020 1312 1008 D 0.8 0.1 0:00.03 top 2009 root 20 0 79712 2220 1728 Z 0.4 0.1 10:12.22 aliyun-service 32580 root 20 0 2428m 280m 11m S 0.4 14.0 14:55.67 java 1 root 20 0 19232 1216 932 I 0.0 0.1 0:00.88 init 2 root 20 0 0 0 0 S 0.0 0.0 0:00.03 kthreadd 3 root RT 0 0 0 0 S 0.0 0.0 0:00.00 migration/0 4 root 20 0 0 0 0 S 0.0 0.0 0:04.18 ksoftirqd/0 5 root RT 0 0 0 0 S 0.0 0.0 0:00.00 stopper/0 6 root RT 0 0 0 0 S 0.0 0.0 0:03.88 watchdog/0 7 root 20 0 0 0 0 S 0.0 0.0 3:21.25 events/0 8 root 20 0 0 0 0 S 0.0 0.0 0:00.00 events/0
我們挨個來看一下:
- R 是 Running 或 Runnable 的縮寫,表示進程在 CPU 的就緒隊列中,正在運行或者正在等待運行。
- D 是 Disk Sleep 的縮寫,也就是不可中斷狀態睡眠(Uninterruptible Sleep),一般表示進程正在跟硬件交互,並且交互過程不允許被其他進程或中斷打斷。
- Z 是 Zombie 的縮寫,如果你玩過“植物大戰僵屍”這款游戲,應該知道它的意思。它表示僵屍進程,也就是進程實際上已經結束了,但是父進程還沒有回收它的資源(比如進程的描述符、PID 等)。
- S 是 Interruptible Sleep 的縮寫,也就是可中斷狀態睡眠,表示進程因為等待某個事件而被系統掛起。當進程等待的事件發生時,它會被喚醒並進入 R 狀態。
- I 是 Idle 的縮寫,也就是空閑狀態,用在不可中斷睡眠的內核線程上。前面說了,硬件交互導致的不可中斷進程用 D 表示,但對某些內核線程來說,它們有可能實際上並沒有任何負載,用 Idle 正是為了區分這種情況。要注意,D 狀態的進程會導致平均負載升高, I 狀態的進程卻不會。
當然了,上面的示例並沒有包括進程的所有狀態。除了以上 5 個狀態,進程還包括下面這2 個狀態。
第一個是 T 或者 t,也就是 Stopped 或 Traced 的縮寫,表示進程處於暫停或者跟蹤狀態。
向一個進程發送 SIGSTOP 信號,它就會因響應這個信號變成暫停狀態(Stopped);再向它發送 SIGCONT 信號,進程又會恢復運行(如果進程是終端里直接啟動的,則需要你用 fg 命令,恢復到前台運行)。
而當你用調試器(如 gdb)調試一個進程時,在使用斷點中斷進程后,進程就會變成跟蹤狀態,這其實也是一種特殊的暫停狀態,只不過你可以用調試器來跟蹤並按需要控制進程的運行。
另一個是 X,也就是 Dead 的縮寫,表示進程已經消亡,所以你不會在 top 或者 ps 命令中看到它。
了解了這些,我們再回到今天的主題。先看不可中斷狀態,這其實是為了保證進程數據與硬件狀態一致,並且正常情況下,不可中斷狀態在很短時間內就會結束。所以,短時的不可中斷狀態進程,我們一般可以忽略。
但如果系統或硬件發生了故障,進程可能會在不可中斷狀態保持很久,甚至導致系統中出現大量不可中斷進程。這時,你就得注意下,系統是不是出現了 I/O 等性能問題。
再看僵屍進程,這是多進程應用很容易碰到的問題。正常情況下,當一個進程創建了子進程后,它應該通過系統調用 wait() 或者 waitpid() 等待子進程結束,回收子進程的資源
而子進程在結束時,會向它的父進程發送 SIGCHLD 信號,所以,父進程還可以注冊SIGCHLD 信號的處理函數,異步回收資源。
如果父進程沒這么做,或是子進程執行太快,父進程還沒來得及處理子進程狀態,子進程就已經提前退出,那這時的子進程就會變成僵屍進程。換句話說,父親應該一直對兒子負責,善始善終,如果不作為或者跟不上,都會導致“問題少年”的出現。
通常,僵屍進程持續的時間都比較短,在父進程回收它的資源后就會消亡;或者在父進程退出后,由 init 進程回收后也會消亡。
一旦父進程沒有處理子進程的終止,還一直保持運行狀態,那么子進程就會一直處於僵屍狀態。大量的僵屍進程會用盡 PID 進程號,導致新進程不能創建,所以這種情況一定要避免。
案例分析
接下來,我將用一個多進程應用的案例,帶你分析大量不可中斷狀態和僵屍狀態進程的問題。這個應用基於 C 開發,由於它的編譯和運行步驟比較麻煩,我把它打包成了一個 Docker 鏡像。這樣,你只需要運行一個 Docker 容器就可以得到模擬環境。運行案例:
docker run --privileged --name=app -itd feisky/app:iowait
然后,輸入 ps 命令,確認案例應用已正常啟動。如果一切正常,你應該可以看到如下所示的輸出:
$ ps aux | grep /app root 4009 0.0 0.0 4376 1008 pts/0 Ss+ 05:51 0:00 /app root 4287 0.6 0.4 37280 33660 pts/0 D+ 05:54 0:00 /app root 4288 0.6 0.4 37280 33668 pts/0 D+ 05:54 0:00 /app
從這個界面,我們可以發現多個 app 進程已經啟動,並且它們的狀態分別是 Ss+ 和D+。
其中,S 表示可中斷睡眠狀態,D 表示不可中斷睡眠狀態,我們在前面剛學過,那后面的 s 和 + 是什么意思呢?不知道也沒關系,查一下 man ps 就可以。現在記住,s 表示這個進程是一個會話的領導進程,而 + 表示前台進程組。
這里又出現了兩個新概念,進程組和會話。它們用來管理一組相互關聯的進程,意思其實很好理解。
進程組表示一組相互關聯的進程,比如每個子進程都是父進程所在組的成員;而會話是指共享同一個控制終端的一個或多個進程組。
比如,我們通過 SSH 登錄服務器,就會打開一個控制終端(TTY),這個控制終端就對應一個會話。而我們在終端中運行的命令以及它們的子進程,就構成了一個個的進程組,其中,在后台運行的命令,構成后台進程組;在前台運行的命令,構成前台進程組。
明白了這些,我們再用 top 看一下系統的資源使用情況:
# 按下數字 1 切換到所有 CPU 的使用情況,觀察一會兒按 Ctrl+C 結束 $ top top - 05:56:23 up 17 days, 16:45, 2 users, load average: 2.00, 1.68, 1.39 Tasks: 247 total, 1 running, 79 sleeping, 0 stopped, 115 zombie %Cpu0 : 0.0 us, 0.7 sy, 0.0 ni, 38.9 id, 60.5 wa, 0.0 hi, 0.0 si, 0.0 st%Cpu1 : 0.0 us, 0.7 sy, 0.0 ni, 4.7 id, 94.6 wa, 0.0 hi, 0.0 si, 0.0 st ... PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND 1 root 20 0 19232 1216 932 S 0.0 0.1 0:00.88 init 2 root 20 0 3728033624 860 D 0.3 0.0 0:00.03 app 3 root 20 0 3728033624 860 D 0.3 0.04 0:00.00 app 4 root 20 0 0 0 0 S 0.0 0.0 0:04.19 systemd
從這里你能看出什么問題嗎?細心一點,逐行觀察,別放過任何一個地方。忘了哪行參數意思的話,也要及時返回去復習。
好的,如果你已經有了答案,那就繼續往下走,看看跟我找的問題是否一樣。這里,我發現了四個可疑的地方。
先看第一行的平均負載( Load Average),過去 1 分鍾、5 分鍾和 15 分鍾內的平均負載在依次減小,說明平均負載正在升高;而 1 分鍾內的平均負載已經達到系統的 CPU個數,說明系統很可能已經有了性能瓶頸。
再看第二行的 Tasks,有 1 個正在運行的進程,但僵屍進程比較多,而且還在不停增加,說明有子進程在退出時沒被清理。
接下來看兩個 CPU 的使用率情況,用戶 CPU 和系統 CPU 都不高,但 iowait 分別是60.5% 和 94.6%,好像有點兒不正常。
最后再看每個進程的情況, CPU 使用率最高的進程只有 0.3%,看起來並不高;但有兩個進程處於 D 狀態,它們可能在等待 I/O,但光憑這里並不能確定是它們導致了 iowait升高。
我們把這四個問題再匯總一下,就可以得到很明確的兩點:
- 第一點,iowait 太高了,導致系統的平均負載升高,甚至達到了系統 CPU 的個數。
- 第二點,僵屍進程在不斷增多,說明有程序沒能正確清理子進程的資源。
那么,碰到這兩個問題該怎么辦呢?
小結
主要通過簡單的操作,熟悉了幾個必備的進程狀態。用我們最熟悉的 ps 或者top ,可以查看進程的狀態,這些狀態包括運行(R)、空閑(I)、不可中斷睡眠(D)、可中斷睡眠(S)、僵屍(Z)以及暫停(T)等。
其中,不可中斷狀態和僵屍狀態,是我們今天學習的重點。
- 不可中斷狀態,表示進程正在跟硬件交互,為了保護進程數據和硬件的一致性,系統不允許其他進程或中斷打斷這個進程。進程長時間處於不可中斷狀態,通常表示系統有I/O 性能問題。
- 僵屍進程表示進程已經退出,但它的父進程還沒有回收子進程占用的資源。短暫的僵屍狀態我們通常不必理會,但進程長時間處於僵屍狀態,就應該注意了,可能有應用程序沒有正常處理子進程的退出。