.Net 垃圾回收和大對象處理
CLR垃圾回收器根據(jù)所占空間大小劃分對象。大對象和小對象的處理方式有很大區(qū)別。比如內(nèi)存碎片整理 —— 在內(nèi)存中移動大對象的成本是昂貴的，讓我們研究一下垃圾回收器是如何處理大對象的，大對象對程序性能有哪些潛在的影響。
大對象堆和垃圾回收
在.Net 1.0和2.0中，如果一個對象的大小超過85000byte，就認(rèn)為這是一個大對象。這個數(shù)字是根據(jù)性能優(yōu)化的經(jīng)驗(yàn)得到的。當(dāng)一個對象申請內(nèi)存大小達(dá)到這個閥值，它就會被分配到大對象堆上。這意味著什么呢？要理解這個，我們需要理解.Net垃圾回收機(jī)制。
如大多人所知道的，.Net GC是按照“代”來回收的。程序中的對象共有3代，0代、1代和2代，0代是最年輕的對象，2代對象存活的時間最長。GC按代回收垃圾也是出于性能考慮的；通常的對象都會在0代是被回收。例如，在一個asp.net程序中，和每一個請求相關(guān)的對象都應(yīng)該在請求結(jié)束時回收掉。而沒有被回收的對象會成為1代對象；也就是說1代對象是常駐內(nèi)存對象和馬上消亡對象之間的一個緩沖區(qū)。
從代的角度看，大對象屬于2代對象，因?yàn)橹挥性?代回收時才會處理大對象。當(dāng)某代垃圾回收執(zhí)行時，會同時執(zhí)行更年輕代的垃圾回收。比如：當(dāng)1代垃圾回收時會同時回收1代和0代的對象，當(dāng)2代垃圾回收時會執(zhí)行1代和0代的回收.
代是垃圾回收器區(qū)分內(nèi)存區(qū)域的邏輯視圖。從物理存儲角度看，對象分配在不同的托管堆上。一個托管堆（managed heap）是垃圾回收器從操作系統(tǒng)申請的內(nèi)存區(qū)（通過調(diào)用windows api VirtualAlloc）。當(dāng)CLR載入內(nèi)存之后，會初始化兩個托管堆，一個大對象堆（LOH –large object heap）和一個小對象對（SOH – small object heap）。
內(nèi)存分配請求就是將托管對象放到對應(yīng)的托管堆上。如果對象的大小小于85000byte，它會被放置在SOH；否則會被放在LOH上。
對于SOH，對象在執(zhí)行一次垃圾回收之后，會進(jìn)入到下一代。也就是說如果在***次執(zhí)行垃圾回收時，存活下來的對象會進(jìn)入第二代，如果在第2次垃圾回收之后該對象仍然沒有被當(dāng)作垃圾回收掉，它就會成為2代對象；2代對象就是最老的對象不會在提升代數(shù)。
當(dāng)觸發(fā)垃圾回收時，垃圾回收器會在小對象堆做碎片整理，將存活下來的對象移動到一起。而對于大對象堆，由于移動內(nèi)存的開銷很大，CLR團(tuán)隊選擇只是清除它們，將回收掉的對象組成一個列表，以便滿足下次有大對象申請使用內(nèi)存，相鄰的垃圾對象會被合并成一塊空閑的內(nèi)存塊。
需要時時留意的是，直到.Net 4.0中也不會對大對象堆做碎片整理操作，將來也許會做。因此如果你要分配大對象并不想他們被移動，你可以使用fixed語句。
如下小對象堆SOH的回收示意圖
上圖中***次垃圾回收之前有四個對象obj0-3；在***垃圾回收之后obj1和obj3被回收了，同時obj2和obj0移動到一起了；在第二次垃圾回收之前有分配了三個對象obj4-6；在第二次執(zhí)行垃圾回收之后obj2和obj5被回收了，obj4和obj6被移動到obj0旁邊。
下圖是大對象堆LOH回收示意圖
可以看到在未執(zhí)行垃圾回收之前，一共有四個對象obj0-3；***次二代垃圾回收之后obj1和obj2被回收掉了，回收掉之后obj1和obj2所占空間被合并到了一起，在obj4申請分配內(nèi)存時就把obj1和obj2回收后釋放的空間分配給它了；同時留下了一塊內(nèi)存碎片。如果這個碎片的大小小于85000byte，那么這個碎片就在這個程序的生命周期中永遠(yuǎn)不能被再次利用了。
如果大對象堆上沒有足夠的空閑內(nèi)存容納要申請的大對象空間，CLR首先會嘗試向操作系統(tǒng)申請內(nèi)存，如果申請失敗，就會觸發(fā)一次二代回收來嘗試釋放一些內(nèi)存。
在2代垃圾回收時，可以將不需要的內(nèi)存通過VirtualFree交還給操作系統(tǒng)。交還的過程參見下圖：
什么時候回收大對象呢？
在討論什么時候回收大對象之前先來看下普通的垃圾回收操作什么時機(jī)執(zhí)行吧。垃圾回收在下列情況下發(fā)生：
1. 申請的空間超過0代內(nèi)存大小或者大對象堆的閥值，多數(shù)的托管堆垃圾回收在這種情況下發(fā)生
2. 在程序代碼中調(diào)用GC.Collect方法時；如果在調(diào)用GC.Collect方法是傳入GC.MaxGeneration參數(shù)時，會執(zhí)行所有代對象的垃圾回收，包括大對象堆的垃圾回收
3. 操作系統(tǒng)內(nèi)存不足時，當(dāng)應(yīng)用程序收到操作系統(tǒng)發(fā)出的高內(nèi)存通知時
4. 如果垃圾回收算法認(rèn)為做二代回收是有收效時會觸發(fā)二代垃圾回收
5. 每一代對象堆的都有一個所占空間大小閥值的屬性，當(dāng)你分配對象到某一代，你增長了內(nèi)存總量接近了該代的閥值，或者分配對象導(dǎo)致這一代的堆大小超過了堆閥值，就會發(fā)生一次垃圾回收。因此當(dāng)你分配小對象或者大對象時，會對應(yīng)消耗0代堆或者大對象堆的閥值。當(dāng)垃圾回收器將對象代數(shù)提升到1代或者2代時，會消耗1、2代的閥值。在程序運(yùn)行中這些閥值是動態(tài)變化的。
大對象堆性能影響
讓我們先看下分配大對象的代價。 CLR為每個新對象分配內(nèi)存時都要保證這些內(nèi)存清空的，是沒有被其他對象使用的（I give out is cleared）。這就意味著分配的代價完全被清理（clearing）的代價控制著（除非在分配時觸發(fā)了一次垃圾回收）。如果清空1byte需要2個周期（cycles），就意味著清除一個最小的大對象需要170,000個周期。通常情況下人們不會分配超大的對象，比如說在2GHz的機(jī)器上分配16M大小的對象，大約需要16ms來清空內(nèi)存。這代價太大了。
讓我們在看下回收的代價。前面提到過，大對象和2代齡對象一起回收。如果大對象或者2代對象占用空間超過其閥值時，就會觸發(fā)2代對象的回收。如果2代回收因?yàn)榇髮ο蠖殉^閥值被觸發(fā)，2代對象堆本身沒有多少對象可以做回收。如果在2代堆上沒有多少對象，這問題不大。但是如果2代堆很大對象很多，過多的2代回收就會導(dǎo)致性能問題。如果是臨時性的分配大對象，就需要很多的時間來運(yùn)行垃圾回收；也就是說如果你持續(xù)的使用大對象然后又釋放大對象對性能會有很大的負(fù)面影響。
大對象堆上的巨大對象通常是數(shù)組（很少有一個對象很大的情況）。如果對象中的元素是強(qiáng)引用，代價會很高；如果元素之間沒有相互引用，垃圾回收時就不需要遍歷整個數(shù)組。例如：用一個數(shù)組來保存二叉樹的節(jié)點(diǎn)，一種方法是在節(jié)點(diǎn)中強(qiáng)引用左右節(jié)點(diǎn)：
- class Node
- {
- Data d;
- Node left;
- Node right;
- }
- Node[] binaryTree = new Node[num_nodes];
如果num_nodes是一個很大的數(shù)字，就意味著每個節(jié)點(diǎn)都至少需要查看二個引用元素。一種替代方案是在節(jié)點(diǎn)中保存左右節(jié)點(diǎn)元素的數(shù)組索引號
- class Node
- {
- Data d;
- uint left_index;
- uint right_index;
- }
這樣的話，元素之間的引用關(guān)系去掉了；可以通過binaryTree[left_index]來獲得引用的節(jié)點(diǎn)。垃圾回收器在做垃圾回收時也不需要看相關(guān)的引用元素了。
為大對象堆收集性能數(shù)據(jù)
有幾種方法可以收集大對象堆相關(guān)的性能數(shù)據(jù)。在我解釋這些方法之前，讓我們先談一下為什么需要收集大對象堆相關(guān)的性能數(shù)據(jù)。
在你開始上搜集某個方面的性能數(shù)據(jù)時，有可能你已經(jīng)找到這方面造成性能瓶頸的證據(jù)；或者你已經(jīng)沒有找遍了所有方面都沒有發(fā)現(xiàn)問題。
在查找性能問題時.Net CLR Memory 性能計數(shù)器通常是應(yīng)該先考慮使用的工具。和LOH相關(guān)的計數(shù)器有g(shù)eneration 2 collectioins（2代堆收集次數(shù)）和large object heap size大對象堆大小。Generation 2 collections顯示的是進(jìn)程啟動之后2代垃圾回收操作發(fā)生的次數(shù)。Large object heap size計數(shù)器顯示的是當(dāng)前大對象堆的大小值，包括空閑空間；這個計數(shù)器是在每次垃圾回收操作之后做更新，并非每次分配內(nèi)存都做更新。
可以參考下圖在windows性能計數(shù)器中觀察.Net CLR Memory相關(guān)性能數(shù)據(jù)
你也可以通過程序查詢這些計數(shù)器的值；很多人通過程序的方式收集性能計數(shù)器來幫助查找性能瓶頸。
當(dāng)然也可以使用調(diào)試器winddbg觀察大對象堆。
***提示一下：到目前為止，大對象堆作為垃圾回收的一部分是不做內(nèi)存碎片整理的，但是這個只是一個clr的實(shí)現(xiàn)細(xì)節(jié)，程序代碼不應(yīng)該依賴這個特點(diǎn)。如果要確保對象不會被垃圾回收器移動，就要使用fixed語句。
原文鏈接：http://blog.jobbole.com/31459/
【編輯推薦】
