https://mp.weixin.qq.com/s/I1fp89Ib2Na1-vjmjSpsjQ
線上服務的FGC問題排查，看這篇就夠了！
線上服務的GC問題，是Java程序非常典型的一類問題，非常考驗工程師排查問題的能力。同時，幾乎是面試必考題，但是能真正答好此題的人並不多，要么原理沒吃透，要么缺乏實戰經驗。
過去半年時間里，我們的廣告系統出現了多次和GC相關的線上問題，有Full GC過於頻繁的，有Young GC耗時過長的，這些問題帶來的影響是：GC過程中的程序卡頓，進一步導致服務超時從而影響到廣告收入。
這篇文章，我將以一個FGC頻繁的線上案例作為引子，詳細介紹下GC的排查過程，另外會結合GC的運行原理給出一份實踐指南，希望對你有所幫助。內容分成以下3個部分：
- 從一次FGC頻繁的線上案例說起
- GC的運行原理介紹
- 排查FGC問題的實踐指南
01 從一次FGC頻繁的線上案例說起
去年10月份，我們的廣告召回系統在程序上線后收到了FGC頻繁的系統告警，通過下面的監控圖可以看到：平均每35分鍾就進行了一次FGC。而程序上線前，我們的FGC頻次大概是2天一次。下面，詳細介紹下該問題的排查過程。
1. 檢查JVM配置 通過以下命令查看JVM的啟動參數： ps aux | grep "applicationName=adsearch"
可以看到堆內存為4G，新生代為2G，老年代也為2G，新生代采用ParNew收集器，老年代采用並發標記清除的CMS收集器，當老年代的內存占用率達到80%時會進行FGC。 進一步通過 jmap -heap 7276 | head -n20 可以 得知新生代的Eden區為1.6G，S0和S1區均為0.2G。 2. 觀察老年代的內存變化-Xms4g -Xmx4g -Xmn2g -Xss1024K
-XX:ParallelGCThreads=5
-XX:+UseConcMarkSweepGC
-XX:+UseParNewGC
-XX:+UseCMSCompactAtFullCollection
-XX:CMSInitiatingOccupancyFraction=80
通過觀察老年代的使用情況，可以看到：每次FGC后，內存都能回到500M左右，因此我們排除了內存泄漏的情況。
3. 通過jmap命令查看堆內存中的對象
通過命令 jmap -histo 7276 | head -n20
上圖中，按照對象所占內存大小排序，顯示了存活對象的實例數、所占內存、類名。可以看到排名第一的是：int[]，而且所占內存大小遠遠超過其他存活對象。至此，我們將懷疑目標鎖定在了 int[] .
4. 進一步dump堆內存文件進行分析鎖定 int[] 后，我們打算dump堆內存文件，通過可視化工具進一步跟蹤對象的來源。考慮堆轉儲過程中會暫停程序，因此我們先從服務管理平台摘掉了此節點，然后通過以下命令dump堆內存：
jmap -dump:format=b,file=heap 7276
通過JVisualVM工具導入dump出來的堆內存文件，同樣可以看到各個對象所占空間，其中int[]占到了50%以上的內存，進一步往下便可以找到 int[] 所屬的業務對象，發現它來自於架構團隊提供的codis基礎組件。
5. 通過代碼分析可疑對象
通過代碼分析，codis基礎組件每分鍾會生成約40M大小的int數組，用於統計TP99 和 TP90，數組的生命周期是一分鍾。而根據第2步觀察老年代的內存變化時，發現老年代的內存基本上也是每分鍾增加40多M，因此推斷：這40M的int數組應該是從新生代晉升到老年代。
我們進一步查看了YGC的頻次監控，通過下圖可以看到大概1分鍾有8次左右的YGC，這樣基本驗證了我們的推斷：因為CMS收集器默認的分代年齡是6次，即YGC 6次后還存活的對象就會晉升到老年代，而codis組件中的大數組生命周期是1分鍾，剛好滿足這個要求。
至此，整個排查過程基本結束了，那為什么程序上線前沒出現此問題呢？通過上圖可以看到：程序上線前YGC的頻次在5次左右，此次上線后YGC頻次變成了8次左右，從而引發了此問題。
6. 解決方案
為了快速解決問題，我們將CMS收集器的分代年齡改成了15次，改完后FGC頻次恢復到了2天一次，后續如果YGC的頻次超過每分鍾15次還會再次觸發此問題。當然，我們最根本的解決方案是：優化程序以降低YGC的頻率，同時縮短codis組件中int數組的生命周期，這里就不做展開了。
02 GC的運行原理介紹
上面整個案例的分析過程中，其實涉及到很多GC的原理知識，如果不懂得這些原理就着手處理，其實整個排查過程是很抓瞎的。
這里，我選擇幾個最核心的知識點，展開介紹下GC的運行原理，最后再給出一份實踐指南。 1. 堆內存結構大家都知道: GC分為YGC和FGC，它們均發生在JVM的堆內存上。先來看下JDK8的堆內存結構：
可以看到，堆內存采用了分代結構，包括新生代和老年代。新生代又分為：Eden區，From Survivor區（簡稱S0），To Survivor區（簡稱S1區），三者的默認比例為8:1:1。另外，新生代和老年代的默認比例為1:2。 堆內存之所以采用分代結構，是考慮到絕大部分對象都是短生命周期的，這樣不同生命周期的對象可放在不同的區域中，然后針對新生代和老年代采用不同的垃圾回收算法，從而使得GC效率最高。 2. YGC是什么時候觸發的？ 大多數情況下，對象直接在年輕代中的Eden區進行分配， 如果Eden區域沒有足夠的空間，那么就會觸發YGC（Minor GC），YGC處理的區域 只有新生代。因為大部分對象在短時間內都是可收回掉的，因此YGC后只有極少數的對象能存活下來，而被移動到S0區（采用的是復制算法）。 當觸發下一次YGC時，會將Eden區和S0區的存活對象移動到S1區，同時清空Eden區和S0區 。當再次觸發YGC時，這時候處理的區域就變成了Eden區和S1區（即S0和S1進行角色交換）。每經過一次YGC，存活對象的年齡就會加1。 3. FGC又是什么時候觸發的？
下面4種情況，對象會進入到老年代中：
- YGC時，To Survivor區不足以存放存活的對象，對象會直接進入到老年代。
- 經過多次YGC后，如果存活對象的年齡達到了設定閾值，則會晉升到老年代中。
- 動態年齡判定規則，To Survivor區中相同年齡的對象，如果其大小之和占到了 To Survivor區一半以上的空間，那么大於此年齡的對象會直接進入老年代，而不需要達到默認的分代年齡。
- 大對象：由-XX:PretenureSizeThreshold啟動參數控制，若對象大小大於此值，就會繞過新生代, 直接在老年代中分配。
當晉升到老年代的對象大於了老年代的剩余空間時，就會觸發FGC（Major GC），FGC處理的區域同時包括新生代和老年代。除此之外，還有以下4種情況也會觸發FGC：
-
老年代的內存使用率達到了一定閾值（可通過參數調整），直接觸發FGC。
- 空間分配擔保：在YGC之前，會先檢查老年代最大可用的連續空間是否大於新生代所有對象的總空間。如果小於，說明YGC是不安全的，則會查看參數 HandlePromotionFailure 是否被設置成了允許擔保失敗，如果不允許則直接觸發Full GC；如果允許，那么會進一步檢查老年代最大可用的連續空間是否大於歷次晉升到老年代對象的平均大小，如果小於也會觸發 Full GC。
- Metaspace（元空間）在空間不足時會進行擴容，當擴容到了-XX:MetaspaceSize 參數的指定值時，也會觸發FGC。
- System.gc() 或者Runtime.gc() 被顯式調用時，觸發FGC。
不管YGC還是FGC，都會造成一定程度的程序卡頓（即Stop The World問題：GC線程開始工作，其他工作線程被掛起），即使采用ParNew、CMS或者G1這些更先進的垃圾回收算法，也只是在減少卡頓時間，而並不能完全消除卡頓。
那到底什么情況下，GC會對程序產生影響呢？根據嚴重程度從高到底，我認為包括以下4種情況：
-
FGC過於頻繁：FGC通常是比較慢的，少則幾百毫秒，多則幾秒，正常情況FGC每隔幾個小時甚至幾天才執行一次，對系統的影響還能接受。但是，一旦出現FGC頻繁（比如幾十分鍾就會執行一次），這種肯定是存在問題的，它會導致工作線程頻繁被停止，讓系統看起來一直有卡頓現象，也會使得程序的整體性能變差。
- YGC耗時過長：一般來說，YGC的總耗時在幾十或者上百毫秒是比較正常的，雖然會引起系統卡頓幾毫秒或者幾十毫秒，這種情況幾乎對用戶無感知，對程序的影響可以忽略不計。但是如果YGC耗時達到了1秒甚至幾秒（都快趕上FGC的耗時了），那卡頓時間就會增大，加上YGC本身比較頻繁，就會導致比較多的服務超時問題。
- FGC耗時過長：FGC耗時增加，卡頓時間也會隨之增加，尤其對於高並發服務，可能導致FGC期間比較多的超時問題，可用性降低，這種也需要關注。
- YGC過於頻繁：即使YGC不會引起服務超時，但是YGC過於頻繁也會降低服務的整體性能，對於高並發服務也是需要關注的。
03 排查FGC問題的實踐指南 通過上面的案例分析以及理論介紹，再總結下FGC問題的排查思路，作為一份實踐指南供大家參考。 1. 清楚從程序角度，有哪些原因導致FGC？
- 大對象：系統一次性加載了過多數據到內存中（比如SQL查詢未做分頁），導致大對象進入了老年代。
- 內存泄漏：頻繁創建了大量對象，但是無法被回收（比如IO對象使用完后未調用close方法釋放資源），先引發FGC，最后導致OOM.
- 程序頻繁生成一些長生命周期的對象，當這些對象的存活年齡超過分代年齡時便會進入老年代，最后引發FGC. （即本文中的案例）
- 程序BUG
- 代碼中顯式調用了gc方法，包括自己的代碼甚至框架中的代碼。
- JVM參數設置問題：包括總內存大小、新生代和老年代的大小、Eden區和S區的大小、元空間大小、垃圾回收算法等等。
2. 清楚排查問題時能使用哪些工具
- 公司的監控系統：大部分公司都會有，可全方位監控JVM的各項指標。
- JDK的自帶工具，包括jmap、jstat等常用命令：# 查看堆內存各區域的使用率以及GC情況
jstat -gcutil -h20 pid 1000# 查看堆內存中的存活對象，並按空間排序jmap -histo pid | head -n20# dump堆內存文件jmap -dump:format=b,file=heap pid - 可視化的堆內存分析工具：JVisualVM、MAT等
3. 排查指南
- 查看監控，以了解出現問題的時間點以及當前FGC的頻率（可對比正常情況看頻率是否正常）
- 了解該時間點之前有沒有程序上線、基礎組件升級等情況。
- 了解JVM的參數設置，包括：堆空間各個區域的大小設置，新生代和老年代分別采用了哪些垃圾收集器，然后分析JVM參數設置是否合理。
- 再對步驟1中列出的可能原因做排除法，其中元空間被打滿、內存泄漏、代碼顯式調用gc方法比較容易排查。
- 針對大對象或者長生命周期對象導致的FGC，可通過 jmap -histo 命令並結合dump堆內存文件作進一步分析，需要先定位到可疑對象。
- 通過可疑對象定位到具體代碼再次分析，這時候要結合GC原理和JVM參數設置，弄清楚可疑對象是否滿足了進入到老年代的條件才能下結論。
后續會以類似的方式，再分享一個YGC耗時過長的案例，希望能幫助大家吃透GC問題排查， 如果覺得本文對你有幫助， 請幫忙轉發或者點個再看！