新一代垃圾回收器ZGC的探索與實踐
很多低延遲高可用Java服務的系統(tǒng)可用性經(jīng)常受GC停頓的困擾,作為新一代的低延遲垃圾回收器,ZGC在大內(nèi)存低延遲服務的內(nèi)存管理和回收方面,有著非常不錯的表現(xiàn)。本文從GC之痛、ZGC原理、ZGC調(diào)優(yōu)實踐、升級ZGC效果等維度展開,詳述了ZGC在美團低延時場景中的應用,以及在生產(chǎn)環(huán)境中取得的一些成果。希望這些實踐對大家有所幫助或者啟發(fā)。
ZGC(The Z Garbage Collector)是JDK 11中推出的一款低延遲垃圾回收器,它的設計目標包括:
- 停頓時間不超過10ms;
- 停頓時間不會隨著堆的大小,或者活躍對象的大小而增加;
- 支持8MB~4TB級別的堆(未來支持16TB)。
從設計目標來看,我們知道ZGC適用于大內(nèi)存低延遲服務的內(nèi)存管理和回收。本文主要介紹ZGC在低延時場景中的應用和卓越表現(xiàn),文章內(nèi)容主要分為四部分:
- GC之痛:介紹實際業(yè)務中遇到的GC痛點,并分析CMS收集器和G1收集器停頓時間瓶頸;
- ZGC原理:分析ZGC停頓時間比G1或CMS更短的本質原因,以及背后的技術原理;
- ZGC調(diào)優(yōu)實踐:重點分享對ZGC調(diào)優(yōu)的理解,并分析若干個實際調(diào)優(yōu)案例;
- 升級ZGC效果:展示在生產(chǎn)環(huán)境應用ZGC取得的效果。
GC之痛
很多低延遲高可用Java服務的系統(tǒng)可用性經(jīng)常受GC停頓的困擾。GC停頓指垃圾回收期間STW(Stop The World),當STW時,所有應用線程停止活動,等待GC停頓結束。
以美團風控服務為例,部分上游業(yè)務要求風控服務65ms內(nèi)返回結果,并且可用性要達到99.99%。但因為GC停頓,我們未能達到上述可用性目標。當時使用的是CMS垃圾回收器,單次Young GC 40ms,一分鐘10次,接口平均響應時間30ms。通過計算可知,有( 40ms + 30ms ) * 10次 / 60000ms = 1.12%的請求的響應時間會增加0 ~ 40ms不等,其中30ms * 10次 / 60000ms = 0.5%的請求響應時間會增加40ms。
可見,GC停頓對響應時間的影響較大。為了降低GC停頓對系統(tǒng)可用性的影響,我們從降低單次GC時間和降低GC頻率兩個角度出發(fā)進行了調(diào)優(yōu),還測試過G1垃圾回收器,但這三項措施均未能降低GC對服務可用性的影響。
CMS與G1停頓時間瓶頸
在介紹ZGC之前,首先回顧一下CMS和G1的GC過程以及停頓時間的瓶頸。CMS新生代的Young GC、G1和ZGC都基于標記-復制算法,但算法具體實現(xiàn)的不同就導致了巨大的性能差異。
標記-復制算法應用在CMS新生代(ParNew是CMS默認的新生代垃圾回收器)和G1垃圾回收器中。標記-復制算法可以分為三個階段:
- 標記階段,即從GC Roots集合開始,標記活躍對象;
- 轉移階段,即把活躍對象復制到新的內(nèi)存地址上;
- 重定位階段,因為轉移導致對象的地址發(fā)生了變化,在重定位階段,所有指向對象舊地址的指針都要調(diào)整到對象新的地址上。
下面以G1為例,通過G1中標記-復制算法過程(G1的Young GC和Mixed GC均采用該算法),分析G1停頓耗時的主要瓶頸。G1垃圾回收周期如下圖所示:
G1的混合回收過程可以分為標記階段、清理階段和復制階段。
標記階段停頓分析
- 初始標記階段:初始標記階段是指從GC Roots出發(fā)標記全部直接子節(jié)點的過程,該階段是STW的。由于GC Roots數(shù)量不多,通常該階段耗時非常短。
- 并發(fā)標記階段:并發(fā)標記階段是指從GC Roots開始對堆中對象進行可達性分析,找出存活對象。該階段是并發(fā)的,即應用線程和GC線程可以同時活動。并發(fā)標記耗時相對長很多,但因為不是STW,所以我們不太關心該階段耗時的長短。
- 再標記階段:重新標記那些在并發(fā)標記階段發(fā)生變化的對象。該階段是STW的。
清理階段停頓分析
- 清理階段清點出有存活對象的分區(qū)和沒有存活對象的分區(qū),該階段不會清理垃圾對象,也不會執(zhí)行存活對象的復制。該階段是STW的。
復制階段停頓分析
- 復制算法中的轉移階段需要分配新內(nèi)存和復制對象的成員變量。轉移階段是STW的,其中內(nèi)存分配通常耗時非常短,但對象成員變量的復制耗時有可能較長,這是因為復制耗時與存活對象數(shù)量與對象復雜度成正比。對象越復雜,復制耗時越長。
四個STW過程中,初始標記因為只標記GC Roots,耗時較短。再標記因為對象數(shù)少,耗時也較短。清理階段因為內(nèi)存分區(qū)數(shù)量少,耗時也較短。轉移階段要處理所有存活的對象,耗時會較長。因此,G1停頓時間的瓶頸主要是標記-復制中的轉移階段STW。為什么轉移階段不能和標記階段一樣并發(fā)執(zhí)行呢?主要是G1未能解決轉移過程中準確定位對象地址的問題。
G1的Young GC和CMS的Young GC,其標記-復制全過程STW,這里不再詳細闡述。
ZGC原理
全并發(fā)的ZGC
與CMS中的ParNew和G1類似,ZGC也采用標記-復制算法,不過ZGC對該算法做了重大改進:ZGC在標記、轉移和重定位階段幾乎都是并發(fā)的,這是ZGC實現(xiàn)停頓時間小于10ms目標的最關鍵原因。
ZGC垃圾回收周期如下圖所示:
ZGC只有三個STW階段:初始標記,再標記,初始轉移。其中,初始標記和初始轉移分別都只需要掃描所有GC Roots,其處理時間和GC Roots的數(shù)量成正比,一般情況耗時非常短;再標記階段STW時間很短,最多1ms,超過1ms則再次進入并發(fā)標記階段。即,ZGC幾乎所有暫停都只依賴于GC Roots集合大小,停頓時間不會隨著堆的大小或者活躍對象的大小而增加。與ZGC對比,G1的轉移階段完全STW的,且停頓時間隨存活對象的大小增加而增加。
ZGC關鍵技術
ZGC通過著色指針和讀屏障技術,解決了轉移過程中準確訪問對象的問題,實現(xiàn)了并發(fā)轉移。大致原理描述如下:并發(fā)轉移中“并發(fā)”意味著GC線程在轉移對象的過程中,應用線程也在不停地訪問對象。假設對象發(fā)生轉移,但對象地址未及時更新,那么應用線程可能訪問到舊地址,從而造成錯誤。而在ZGC中,應用線程訪問對象將觸發(fā)“讀屏障”,如果發(fā)現(xiàn)對象被移動了,那么“讀屏障”會把讀出來的指針更新到對象的新地址上,這樣應用線程始終訪問的都是對象的新地址。那么,JVM是如何判斷對象被移動過呢?就是利用對象引用的地址,即著色指針。下面介紹著色指針和讀屏障技術細節(jié)。
著色指針
| 著色指針是一種將信息存儲在指針中的技術。
ZGC僅支持64位系統(tǒng),它把64位虛擬地址空間劃分為多個子空間,如下圖所示:
其中,[0~4TB) 對應Java堆,[4TB ~ 8TB) 稱為M0地址空間,[8TB ~ 12TB) 稱為M1地址空間,[12TB ~ 16TB) 預留未使用,[16TB ~ 20TB) 稱為Remapped空間。
當應用程序創(chuàng)建對象時,首先在堆空間申請一個虛擬地址,但該虛擬地址并不會映射到真正的物理地址。ZGC同時會為該對象在M0、M1和Remapped地址空間分別申請一個虛擬地址,且這三個虛擬地址對應同一個物理地址,但這三個空間在同一時間有且只有一個空間有效。ZGC之所以設置三個虛擬地址空間,是因為它使用“空間換時間”思想,去降低GC停頓時間。“空間換時間”中的空間是虛擬空間,而不是真正的物理空間。后續(xù)章節(jié)將詳細介紹這三個空間的切換過程。
與上述地址空間劃分相對應,ZGC實際僅使用64位地址空間的第0~41位,而第42~45位存儲元數(shù)據(jù),第47~63位固定為0。
ZGC將對象存活信息存儲在42~45位中,這與傳統(tǒng)的垃圾回收并將對象存活信息放在對象頭中完全不同。
讀屏障
| 讀屏障是JVM向應用代碼插入一小段代碼的技術。當應用線程從堆中讀取對象引用時,就會執(zhí)行這段代碼。需要注意的是,僅“從堆中讀取對象引用”才會觸發(fā)這段代碼。
讀屏障示例:
- Object o = obj.FieldA // 從堆中讀取引用,需要加入屏障
- <Load barrier>
- Object p = o // 無需加入屏障,因為不是從堆中讀取引用
- o.dosomething() // 無需加入屏障,因為不是從堆中讀取引用
- int i = obj.FieldB //無需加入屏障,因為不是對象引用
ZGC中讀屏障的代碼作用:在對象標記和轉移過程中,用于確定對象的引用地址是否滿足條件,并作出相應動作。
ZGC并發(fā)處理演示
接下來詳細介紹ZGC一次垃圾回收周期中地址視圖的切換過程:
- 初始化:ZGC初始化之后,整個內(nèi)存空間的地址視圖被設置為Remapped。程序正常運行,在內(nèi)存中分配對象,滿足一定條件后垃圾回收啟動,此時進入標記階段。
- 并發(fā)標記階段:第一次進入標記階段時視圖為M0,如果對象被GC標記線程或者應用線程訪問過,那么就將對象的地址視圖從Remapped調(diào)整為M0。所以,在標記階段結束之后,對象的地址要么是M0視圖,要么是Remapped。如果對象的地址是M0視圖,那么說明對象是活躍的;如果對象的地址是Remapped視圖,說明對象是不活躍的。
- 并發(fā)轉移階段:標記結束后就進入轉移階段,此時地址視圖再次被設置為Remapped。如果對象被GC轉移線程或者應用線程訪問過,那么就將對象的地址視圖從M0調(diào)整為Remapped。
其實,在標記階段存在兩個地址視圖M0和M1,上面的過程顯示只用了一個地址視圖。之所以設計成兩個,是為了區(qū)別前一次標記和當前標記。即第二次進入并發(fā)標記階段后,地址視圖調(diào)整為M1,而非M0。
著色指針和讀屏障技術不僅應用在并發(fā)轉移階段,還應用在并發(fā)標記階段:將對象設置為已標記,傳統(tǒng)的垃圾回收器需要進行一次內(nèi)存訪問,并將對象存活信息放在對象頭中;而在ZGC中,只需要設置指針地址的第42~45位即可,并且因為是寄存器訪問,所以速度比訪問內(nèi)存更快。
ZGC調(diào)優(yōu)實踐
ZGC不是“銀彈”,需要根據(jù)服務的具體特點進行調(diào)優(yōu)。網(wǎng)絡上能搜索到實戰(zhàn)經(jīng)驗較少,調(diào)優(yōu)理論需自行摸索,我們在此階段也耗費了不少時間,最終才達到理想的性能。本文的一個目的是列舉一些使用ZGC時常見的問題,幫助大家使用ZGC提高服務可用性。
調(diào)優(yōu)基礎知識
理解ZGC重要配置參數(shù)
以我們服務在生產(chǎn)環(huán)境中ZGC參數(shù)配置為例,說明各個參數(shù)的作用:
重要參數(shù)配置樣例:
- -Xms10G -Xmx10G
- -XX:ReservedCodeCacheSize=256m -XX:InitialCodeCacheSize=256m
- -XX:+UnlockExperimentalVMOptions -XX:+UseZGC
- -XX:ConcGCThreads=2 -XX:ParallelGCThreads=6
- -XX:ZCollectionInterval=120 -XX:ZAllocationSpikeTolerance=5
- -XX:+UnlockDiagnosticVMOptions -XX:-ZProactive
- -Xlog:safepoint,classhisto*=trace,age*,gc*=info:file=/opt/logs/logs/gc-%t.log:time,tid,tags:filecount=5,filesize=50m
- -Xms -Xmx:堆的最大內(nèi)存和最小內(nèi)存,這里都設置為10G,程序的堆內(nèi)存將保持10G不變。
- -XX:ReservedCodeCacheSize -XX:InitialCodeCacheSize: 設置CodeCache的大小, JIT編譯的代碼都放在CodeCache中,一般服務64m或128m就已經(jīng)足夠。我們的服務因為有一定特殊性,所以設置的較大,后面會詳細介紹。
- -XX:+UnlockExperimentalVMOptions -XX:+UseZGC:啟用ZGC的配置。
- -XX:ConcGCThreads:并發(fā)回收垃圾的線程。默認是總核數(shù)的12.5%,8核CPU默認是1。調(diào)大后GC變快,但會占用程序運行時的CPU資源,吞吐會受到影響。
- -XX:ParallelGCThreads:STW階段使用線程數(shù),默認是總核數(shù)的60%。
- -XX:ZCollectionInterval:ZGC發(fā)生的最小時間間隔,單位秒。
- -XX:ZAllocationSpikeTolerance:ZGC觸發(fā)自適應算法的修正系數(shù),默認2,數(shù)值越大,越早的觸發(fā)ZGC。
- -XX:+UnlockDiagnosticVMOptions -XX:-ZProactive:是否啟用主動回收,默認開啟,這里的配置表示關閉。
- -Xlog:設置GC日志中的內(nèi)容、格式、位置以及每個日志的大小。
理解ZGC觸發(fā)時機
相比于CMS和G1的GC觸發(fā)機制,ZGC的GC觸發(fā)機制有很大不同。ZGC的核心特點是并發(fā),GC過程中一直有新的對象產(chǎn)生。如何保證在GC完成之前,新產(chǎn)生的對象不會將堆占滿,是ZGC參數(shù)調(diào)優(yōu)的第一大目標。因為在ZGC中,當垃圾來不及回收將堆占滿時,會導致正在運行的線程停頓,持續(xù)時間可能長達秒級之久。
ZGC有多種GC觸發(fā)機制,總結如下:
- 阻塞內(nèi)存分配請求觸發(fā):當垃圾來不及回收,垃圾將堆占滿時,會導致部分線程阻塞。我們應當避免出現(xiàn)這種觸發(fā)方式。日志中關鍵字是“Allocation Stall”。
- 基于分配速率的自適應算法:最主要的GC觸發(fā)方式,其算法原理可簡單描述為”ZGC根據(jù)近期的對象分配速率以及GC時間,計算出當內(nèi)存占用達到什么閾值時觸發(fā)下一次GC”。自適應算法的詳細理論可參考彭成寒《新一代垃圾回收器ZGC設計與實現(xiàn)》一書中的內(nèi)容。通過ZAllocationSpikeTolerance參數(shù)控制閾值大小,該參數(shù)默認2,數(shù)值越大,越早的觸發(fā)GC。我們通過調(diào)整此參數(shù)解決了一些問題。日志中關鍵字是“Allocation Rate”。
- 基于固定時間間隔:通過ZCollectionInterval控制,適合應對突增流量場景。流量平穩(wěn)變化時,自適應算法可能在堆使用率達到95%以上才觸發(fā)GC。流量突增時,自適應算法觸發(fā)的時機可能會過晚,導致部分線程阻塞。我們通過調(diào)整此參數(shù)解決流量突增場景的問題,比如定時活動、秒殺等場景。日志中關鍵字是“Timer”。
- 主動觸發(fā)規(guī)則:類似于固定間隔規(guī)則,但時間間隔不固定,是ZGC自行算出來的時機,我們的服務因為已經(jīng)加了基于固定時間間隔的觸發(fā)機制,所以通過-ZProactive參數(shù)將該功能關閉,以免GC頻繁,影響服務可用性。日志中關鍵字是“Proactive”。
- 預熱規(guī)則:服務剛啟動時出現(xiàn),一般不需要關注。日志中關鍵字是“Warmup”。
- 外部觸發(fā):代碼中顯式調(diào)用System.gc()觸發(fā)。日志中關鍵字是“System.gc()”。
- 元數(shù)據(jù)分配觸發(fā):元數(shù)據(jù)區(qū)不足時導致,一般不需要關注。日志中關鍵字是“Metadata GC Threshold”。
理解ZGC日志
一次完整的GC過程,需要注意的點已在圖中標出。
注意:該日志過濾了進入安全點的信息。正常情況,在一次GC過程中還穿插著進入安全點的操作。
GC日志中每一行都注明了GC過程中的信息,關鍵信息如下:
- Start:開始GC,并標明的GC觸發(fā)的原因。上圖中觸發(fā)原因是自適應算法。
- Phase-Pause Mark Start:初始標記,會STW。
- Phase-Pause Mark End:再次標記,會STW。
- Phase-Pause Relocate Start:初始轉移,會STW。
- Heap信息:記錄了GC過程中Mark、Relocate前后的堆大小變化狀況。High和Low記錄了其中的最大值和最小值,我們一般關注High中Used的值,如果達到100%,在GC過程中一定存在內(nèi)存分配不足的情況,需要調(diào)整GC的觸發(fā)時機,更早或者更快地進行GC。
- GC信息統(tǒng)計:可以定時的打印垃圾收集信息,觀察10秒內(nèi)、10分鐘內(nèi)、10個小時內(nèi),從啟動到現(xiàn)在的所有統(tǒng)計信息。利用這些統(tǒng)計信息,可以排查定位一些異常點。
日志中內(nèi)容較多,關鍵點已用紅線標出,含義較好理解,更詳細的解釋大家可以自行在網(wǎng)上查閱資料。
理解ZGC停頓原因
我們在實戰(zhàn)過程中共發(fā)現(xiàn)了6種使程序停頓的場景,分別如下:
- GC時,初始標記:日志中Pause Mark Start。
- GC時,再標記:日志中Pause Mark End。
- GC時,初始轉移:日志中Pause Relocate Start。
- 內(nèi)存分配阻塞:當內(nèi)存不足時線程會阻塞等待GC完成,關鍵字是"Allocation Stall"。
- 安全點:所有線程進入到安全點后才能進行GC,ZGC定期進入安全點判斷是否需要GC。先進入安全點的線程需要等待后進入安全點的線程直到所有線程掛起。
- dump線程、內(nèi)存:比如jstack、jmap命令。
調(diào)優(yōu)案例
我們維護的服務名叫Zeus,它是美團的規(guī)則平臺,常用于風控場景中的規(guī)則管理。規(guī)則運行是基于開源的表達式執(zhí)行引擎Aviator。Aviator內(nèi)部將每一條表達式轉化成Java的一個類,通過調(diào)用該類的接口實現(xiàn)表達式邏輯。
Zeus服務內(nèi)的規(guī)則數(shù)量超過萬條,且每臺機器每天的請求量幾百萬。這些客觀條件導致Aviator生成的類和方法會產(chǎn)生很多的ClassLoader和CodeCache,這些在使用ZGC時都成為過GC的性能瓶頸。接下來介紹兩類調(diào)優(yōu)案例。
內(nèi)存分配阻塞,系統(tǒng)停頓可達到秒級
案例一:秒殺活動中流量突增,出現(xiàn)性能毛刺
日志信息:對比出現(xiàn)性能毛刺時間點的GC日志和業(yè)務日志,發(fā)現(xiàn)JVM停頓了較長時間,且停頓時GC日志中有大量的“Allocation Stall”日志。
分析:這種案例多出現(xiàn)在“自適應算法”為主要GC觸發(fā)機制的場景中。ZGC是一款并發(fā)的垃圾回收器,GC線程和應用線程同時活動,在GC過程中,還會產(chǎn)生新的對象。GC完成之前,新產(chǎn)生的對象將堆占滿,那么應用線程可能因為申請內(nèi)存失敗而導致線程阻塞。當秒殺活動開始,大量請求打入系統(tǒng),但自適應算法計算的GC觸發(fā)間隔較長,導致GC觸發(fā)不及時,引起了內(nèi)存分配阻塞,導致停頓。
解決方法:
開啟”基于固定時間間隔“的GC觸發(fā)機制:-XX:ZCollectionInterval。比如調(diào)整為5秒,甚至更短。
增大修正系數(shù)-XX:ZAllocationSpikeTolerance,更早觸發(fā)GC。ZGC采用正態(tài)分布模型預測內(nèi)存分配速率,模型修正系數(shù)ZAllocationSpikeTolerance默認值為2,值越大,越早的觸發(fā)GC,Zeus中所有集群設置的是5。
案例二:壓測時,流量逐漸增大到一定程度后,出現(xiàn)性能毛刺
日志信息:平均1秒GC一次,兩次GC之間幾乎沒有間隔。
分析:GC觸發(fā)及時,但內(nèi)存標記和回收速度過慢,引起內(nèi)存分配阻塞,導致停頓。
解決方法:增大-XX:ConcGCThreads,加快并發(fā)標記和回收速度。ConcGCThreads默認值是核數(shù)的1/8,8核機器,默認值是1。該參數(shù)影響系統(tǒng)吞吐,如果GC間隔時間大于GC周期,不建議調(diào)整該參數(shù)。
GC Roots 數(shù)量大,單次GC停頓時間長
案例三:單次GC停頓時間30ms,與預期停頓10ms左右有較大差距
日志信息:觀察ZGC日志信息統(tǒng)計,“Pause Roots ClassLoaderDataGraph”一項耗時較長。
分析:dump內(nèi)存文件,發(fā)現(xiàn)系統(tǒng)中有上萬個ClassLoader實例。我們知道ClassLoader屬于GC Roots一部分,且ZGC停頓時間與GC Roots成正比,GC Roots數(shù)量越大,停頓時間越久。再進一步分析,ClassLoader的類名表明,這些ClassLoader均由Aviator組件生成。分析Aviator源碼,發(fā)現(xiàn)Aviator對每一個表達式新生成類時,會創(chuàng)建一個ClassLoader,這導致了ClassLoader數(shù)量巨大的問題。在更高Aviator版本中,該問題已經(jīng)被修復,即僅創(chuàng)建一個ClassLoader為所有表達式生成類。
解決方法:升級Aviator組件版本,避免生成多余的ClassLoader。
案例四:服務啟動后,運行時間越長,單次GC時間越長,重啟后恢復
日志信息:觀察ZGC日志信息統(tǒng)計,“Pause Roots CodeCache”的耗時會隨著服務運行時間逐漸增長。
分析:CodeCache空間用于存放Java熱點代碼的JIT編譯結果,而CodeCache也屬于GC Roots一部分。通過添加-XX:+PrintCodeCacheOnCompilation參數(shù),打印CodeCache中的被優(yōu)化的方法,發(fā)現(xiàn)大量的Aviator表達式代碼。定位到根本原因,每個表達式都是一個類中一個方法。隨著運行時間越長,執(zhí)行次數(shù)增加,這些方法會被JIT優(yōu)化編譯進入到Code Cache中,導致CodeCache越來越大。
解決方法:JIT有一些參數(shù)配置可以調(diào)整JIT編譯的條件,但對于我們的問題都不太適用。我們最終通過業(yè)務優(yōu)化解決,刪除不需要執(zhí)行的Aviator表達式,從而避免了大量Aviator方法進入CodeCache中。
值得一提的是,我們并不是在所有這些問題都解決后才全量部署所有集群。即使開始有各種各樣的毛刺,但計算后發(fā)現(xiàn),有各種問題的ZGC也比之前的CMS對服務可用性影響小。所以從開始準備使用ZGC到全量部署,大概用了2周的時間。在之后的3個月時間里,我們邊做業(yè)務需求,邊跟進這些問題,最終逐個解決了上述問題,從而使ZGC在各個集群上達到了一個更好表現(xiàn)。
升級ZGC效果
延遲降低
| TP(Top Percentile)是一項衡量系統(tǒng)延遲的指標:TP999表示99.9%請求都能被響應的最小耗時;TP99表示99%請求都能被響應的最小耗時。
在Zeus服務不同集群中,ZGC在低延遲(TP999 < 200ms)場景中收益較大:
- TP999:下降12~142ms,下降幅度18%~74%。
- TP99:下降5~28ms,下降幅度10%~47%。
超低延遲(TP999 < 20ms)和高延遲(TP999 > 200ms)服務收益不大,原因是這些服務的響應時間瓶頸不是GC,而是外部依賴的性能。
吞吐下降
對吞吐量優(yōu)先的場景,ZGC可能并不適合。例如,Zeus某離線集群原先使用CMS,升級ZGC后,系統(tǒng)吞吐量明顯降低。究其原因有二:第一,ZGC是單代垃圾回收器,而CMS是分代垃圾回收器。單代垃圾回收器每次處理的對象更多,更耗費CPU資源;第二,ZGC使用讀屏障,讀屏障操作需耗費額外的計算資源。
總結
ZGC作為下一代垃圾回收器,性能非常優(yōu)秀。ZGC垃圾回收過程幾乎全部是并發(fā),實際STW停頓時間極短,不到10ms。這得益于其采用的著色指針和讀屏障技術。
Zeus在升級JDK 11+ZGC中,通過將風險和問題分類,然后各個擊破,最終順利實現(xiàn)了升級目標,GC停頓也幾乎不再影響系統(tǒng)可用性。
最后推薦大家升級ZGC,Zeus系統(tǒng)因為業(yè)務特點,遇到了較多問題,而風控其他團隊在升級時都非常順利。
附錄
如何使用新技術
在生產(chǎn)環(huán)境升級JDK 11,使用ZGC,大家最關心的可能不是效果怎么樣,而是這個新版本用的人少,網(wǎng)上實踐也少,靠不靠譜,穩(wěn)不穩(wěn)定。其次是升級成本會不會很大,萬一不成功豈不是白白浪費時間。所以,在使用新技術前,首先要做的是評估收益、成本和風險。
評估收益
對于JDK這種世界關注的程序,大版本升級所引入的新技術一般已經(jīng)在理論上經(jīng)過驗證。我們要做的事情就是確定當前系統(tǒng)的瓶頸是否是新版本JDK可解決的問題,切忌問題未診斷清楚就采取措施。評估完收益之后再評估成本和風險,收益過大或者過小,其他兩項影響權重就會小很多。
以本文開頭提到的案例為例,假設GC次數(shù)不變(10次/分鐘),且單次GC時間從40ms降低10ms。通過計算,一分鐘內(nèi)有100/60000 = 0.17%的時間在進行GC,且期間所有請求僅停頓10ms,GC期間影響的請求數(shù)和因GC增加的延遲都有所減少。
評估成本
這里主要指升級所需要的人力成本。此項相對比較成熟,根據(jù)新技術的使用手冊判斷改動點。跟做其他項目區(qū)別不大,不再具體細說。
在我們的實踐中,兩周時間完成線上部署,達到安全穩(wěn)定運行的狀態(tài)。后續(xù)持續(xù)迭代3個月,根據(jù)業(yè)務場景對ZGC進行了更契合的優(yōu)化適配。
評估風險
升級JDK的風險可以分為三類:
- 兼容性風險:Java程序JAR包依賴很多,升級JDK版本后程序是否能運行起來。例如我們的服務是從JDK 7升級到JDK 11,需要解決較多JAR包不兼容的問題。
- 功能風險:運行起來后,是否會有一些組件邏輯變更,影響現(xiàn)有功能的邏輯。
- 性能風險:功能如果沒有問題,性能是否穩(wěn)定,能穩(wěn)定的在線上運行。
經(jīng)過分類后,每類風險的應對轉化成了常見的測試問題,不再屬于未知風險。風險是指不確定的事情,如果不確定的事情都能轉化成可確定的事情,意味著風險已消除。
升級JDK 11
選擇JDK 11,是因為在JDK 11中首次支持ZGC,而且JDK 11屬于長期支持(Long Term Support,LTS)版本,至少會被維護三年,普通版本(如JDK 12、JDK 13和JDK 14)只有6個月的維護周期,不建議使用。
本地測試環(huán)境安裝
從兩個源OpenJDK和OracleJDK下載JDK 11,二個版本的JDK主要區(qū)別是長時期的免費和付費,短期內(nèi)都免費。注意JDK 11版本中的ZGC不支持Mac OS系統(tǒng),在Mac OS系統(tǒng)上使用JDK 11只能用其他垃圾回收器,如G1。
生產(chǎn)環(huán)境安裝
升級JDK 11不僅僅是升級自己項目的JDK版本,還需要編譯、發(fā)布部署、運行、監(jiān)控、性能內(nèi)存分析工具等項目支持。美團內(nèi)部的實踐:
編譯打包:美團發(fā)布系統(tǒng)支持選擇JDK 11進行編譯打包。
線上運行 & 全量部署:要求線上機器已安裝JDK 11,有3種方式:
- 新申請默認安裝JDK 11的虛擬機:試用JDK 11時可用這種方式;全量部署時,如果新申請機器數(shù)量過多,可能沒有足夠機器資源。
- 通過手寫腳本給存量虛擬機安裝JDK 11:不推薦,業(yè)務同學過多參與到運維當中。
- 使用容器提供的鏡像部署功能,在打包鏡像時安裝JDK 11:推薦方式,不需要新申請資源。
監(jiān)控指標:主要是GC的時間和頻率,我們通過美團的CAT監(jiān)控系統(tǒng)支持ZGC數(shù)據(jù)的收集(CAT已開源)。
性能內(nèi)存分析:線上遇到性能問題時,還需要借助Profiling工具,美團的性能診斷優(yōu)化平臺Scalpel已支持JDK 11的性能內(nèi)存分析。如果你的公司沒有相關工具,推薦使用JProfier。
解決組件兼容性
我們的項目包含二十多萬行代碼,需要從JDK 7升級到JDK 11,依賴組件眾多。雖然看起來升級會比較復雜,但實際只花了兩天時間即解決了兼容性問題。具體過程如下:
1. 編譯,需要修改pom文件中的build配置,根據(jù)報錯作修改,主要有兩類:
a. 一些類被刪除:比如“sun.misc.BASE64Encoder”,找到替換類java.util.Base64即可。
b. 組件依賴版本不兼容JDK 11問題:找到對應依賴組件,搜索最新版本,一般都支持JDK 11。
2. 編譯成功后,啟動運行,此時仍有可能組件依賴版本問題,按照編譯時的方式處理即可。
升級所修改的依賴:
- <dependency>
- <groupId>javax.annotation</groupId>
- <artifactId>javax.annotation-api</artifactId>
- <version>1.3.2</version>
- </dependency>
- <dependency>
- <groupId>javax.validation</groupId>
- <artifactId>validation-api</artifactId>
- <version>2.0.1.Final</version>
- </dependency>
- <dependency>
- <groupId>org.projectlombok</groupId>
- <artifactId>lombok</artifactId>
- <version>1.18.4</version>
- </dependency>
- <dependency>
- <groupId>org.hibernate.validator</groupId>
- <artifactId>hibernate-validator-parent</artifactId>
- <version>6.0.16.Final</version>
- </dependency>
- <dependency>
- <groupId>com.sankuai.inf</groupId>
- <artifactId>patriot-sdk</artifactId>
- <version>1.2.1</version>
- </dependency>
- <dependency>
- <groupId>org.apache.commons</groupId>
- <artifactId>commons-lang3</artifactId>
- <version>3.9</version>
- </dependency>
- <dependency>
- <groupId>commons-lang</groupId>
- <artifactId>commons-lang</artifactId>
- <version>2.6</version>
- </dependency>
- <dependency>
- <groupId>io.netty</groupId>
- <artifactId>netty-all</artifactId>
- <version>4.1.39.Final</version>
- </dependency>
- <dependency>
- <groupId>junit</groupId>
- <artifactId>junit</artifactId>
- <version>4.12</version>
- </dependency>
JDK 11已經(jīng)出來兩年,常見的依賴組件都有兼容性版本。但是,如果是公司內(nèi)部提供的公司級組件,可能會不兼容JDK 11,需要推動相關組件進行升級。如果對方升級較為困難,可以考慮拆分功能,將依賴這些組件的功能單獨部署,繼續(xù)使用低版本JDK。隨著JDK 11的卓越性能被大家悉知,相信會有更多團隊會用JDK 11解決GC問題,使用者越多,各個組件升級的動力也會越大。
驗證功能正確性
通過完備的單測、集成和回歸測試,保證功能正確性。
作者簡介
王東,美團信息安全資深工程師。
王偉,美團信息安全技術專家。