JVM調(diào)優(yōu)總結(jié):反思
垃圾回收的悖論
所謂“成也蕭何敗蕭何”。Java的垃圾回收確實(shí)帶來了很多好處,為開發(fā)帶來了便利。但是在一些高性能、高并發(fā)的情況下,垃圾回收確成為了制約Java應(yīng)用的瓶頸。目前JDK的垃圾回收算法,始終無法解決垃圾回收時的暫停問題,因?yàn)檫@個暫停嚴(yán)重影響了程序的相應(yīng)時間,造成擁塞或堆積。這也是后續(xù)JDK增加G1算法的一個重要原因。
當(dāng)然,上面是從技術(shù)角度出發(fā)解決垃圾回收帶來的問題,但是從系統(tǒng)設(shè)計(jì)方面我們就需要問一下了:
我們需要分配如此大的內(nèi)存空間給應(yīng)用嗎? 我們是否能夠通過有效使用內(nèi)存而不是通過擴(kuò)大內(nèi)存的方式來設(shè)計(jì)我們的系統(tǒng)呢?
我們的內(nèi)存中都放了什么
內(nèi)存中需要放什么呢?個人認(rèn)為,內(nèi)存中需要放的是你的應(yīng)用需要在不久的將來再次用到到的東西。想想看,如果你在將來不用這些東西,何必放內(nèi)存呢?放文件、數(shù)據(jù)庫不是更好?這些東西一般包括:
1. 系統(tǒng)運(yùn)行時業(yè)務(wù)相關(guān)的數(shù)據(jù)。比如web應(yīng)用中的session、即時消息的session等。這些數(shù)據(jù)一般在一個用戶訪問周期或者一個使用過程中都需要存在。 2. 緩存。緩存就比較多了,你所要快速訪問的都可以放這里面。其實(shí)上面的業(yè)務(wù)數(shù)據(jù)也可以理解為一種緩存。 3. 線程。
因此,我們是不是可以這么認(rèn)為,如果我們不把業(yè)務(wù)數(shù)據(jù)和緩存放在JVM中,或者把他們獨(dú)立出來,那么Java應(yīng)用使用時所需的內(nèi)存將會大大減少,同時垃圾回收時間也會相應(yīng)減少。
我認(rèn)為這是可能的。
解決之道
數(shù)據(jù)庫、文件系統(tǒng)
把所有數(shù)據(jù)都放入數(shù)據(jù)庫或者文件系統(tǒng),這是一種最為簡單的方式。在這種方式下,Java應(yīng)用的內(nèi)存基本上等于處理一次峰值并發(fā)請求所需的內(nèi)存。數(shù)據(jù)的獲取都在每次請求時從數(shù)據(jù)庫和文件系統(tǒng)中獲取。也可以理解為,一次業(yè)務(wù)訪問以后,所有對象都可以進(jìn)行回收了。
這是一種內(nèi)存使用最有效的方式,但是從應(yīng)用角度來說,這種方式很低效。
內(nèi)存-硬盤映射
上面的問題是因?yàn)槲覀兪褂昧宋募到y(tǒng)帶來了低效。但是如果我們不是讀寫硬盤,而是寫內(nèi)存的話效率將會提高很多。
數(shù)據(jù)庫和文件系統(tǒng)都是實(shí)實(shí)在在進(jìn)行了持久化,但是當(dāng)我們并不需要這樣持久化的時候,我們可以做一些變通——把內(nèi)存當(dāng)硬盤使。
內(nèi)存-硬盤映射很好很強(qiáng)大,既用了緩存又對Java應(yīng)用的內(nèi)存使用又沒有影響。Java應(yīng)用還是Java應(yīng)用,他只知道讀寫的還是文件,但是實(shí)際上是內(nèi)存。
這種方式兼得的Java應(yīng)用與緩存兩方面的好處。memcached的廣泛使用也正是這一類的代表。
同一機(jī)器部署多個JVM
這也是一種很好的方式,可以分為縱拆和橫拆。縱拆可以理解為把Java應(yīng)用劃分為不同模塊,各個模塊使用一個獨(dú)立的Java進(jìn)程。而橫拆則是同樣功能的應(yīng)用部署多個JVM。
通過部署多個JVM,可以把每個JVM的內(nèi)存控制一個垃圾回收可以忍受的范圍內(nèi)即可。但是這相當(dāng)于進(jìn)行了分布式的處理,其額外帶來的復(fù)雜性也是需要評估的。另外,也有支持分布式的這種JVM可以考慮,不要要錢哦:)
程序控制的對象生命周期
這種方式是理想當(dāng)中的方式,目前的虛擬機(jī)還沒有,純屬假設(shè)。即:考慮由編程方式配置哪些對象在垃圾收集過程中可以直接跳過,減少垃圾回收線程遍歷標(biāo)記的時間。
這種方式相當(dāng)于在編程的時候告訴虛擬機(jī)某些對象你可以在*時間后在進(jìn)行收集或者由代碼標(biāo)識可以收集了(類似C、C++),在這之前你即便去遍歷他也是沒有效果的,他肯定是還在被引用的。
這種方式如果JVM可以實(shí)現(xiàn),個人認(rèn)為將是一個飛躍,Java即有了垃圾回收的優(yōu)勢,又有了C、C++對內(nèi)存的可控性。
線程分配
Java的阻塞式的線程模型基本上可以拋棄了,目前成熟的NIO框架也比較多了。阻塞式IO帶來的問題是線程數(shù)量的線性增長,而NIO則可以轉(zhuǎn)換成為常數(shù)線程。因此,對于服務(wù)端的應(yīng)用而言,NIO還是唯一選擇。不過,JDK7中為我們帶來的AIO是否能讓人眼前一亮呢?我們拭目以待。
其他的JDK
本文說的都是Sun的JDK,目前常見的JDK還有JRocket和IBM的JDK。其中JRocket在IO方面比Sun的高很多,不過Sun JDK6.0以后提高也很大。而且JRocket在垃圾回收方面,也具有優(yōu)勢,其可設(shè)置垃圾回收的最大暫停時間也是很吸引人的。不過,系統(tǒng)Sun的G1實(shí)現(xiàn)以后,在這方面會有一個質(zhì)的飛躍。
原文鏈接:http://pengjiaheng.iteye.com/blog/558619
【編輯推薦】