面試官:說(shuō)說(shuō)Netty對(duì)象池的實(shí)現(xiàn)原理?
Netty 作為一個(gè)高性能的網(wǎng)絡(luò)通訊框架,它內(nèi)置了很多恰奪天工的設(shè)計(jì),目的都是為了將網(wǎng)絡(luò)通訊的性能做到極致,其中「對(duì)象池技術(shù)」也是實(shí)現(xiàn)這一目標(biāo)的重要技術(shù)。
1.什么是對(duì)象池技術(shù)?
對(duì)象池技術(shù)是一種重用對(duì)象以減少對(duì)象創(chuàng)建和銷(xiāo)毀帶來(lái)的開(kāi)銷(xiāo)的方法。在對(duì)象池中,只有第一次訪問(wèn)時(shí)會(huì)創(chuàng)建對(duì)象,并將其維護(hù)在內(nèi)存中,當(dāng)再次需要使用對(duì)象時(shí),會(huì)直接從對(duì)象池中獲取對(duì)象,并在使用完畢后歸還給對(duì)象池,而不是頻繁地創(chuàng)建和銷(xiāo)毀對(duì)象。
使用對(duì)象池技術(shù)的優(yōu)點(diǎn)有以下幾個(gè):
- 提高性能:復(fù)用對(duì)象可以減少對(duì)象的創(chuàng)建和銷(xiāo)毀次數(shù),降低系統(tǒng)開(kāi)銷(xiāo),提高系統(tǒng)性能和吞吐量。
- 減少內(nèi)存碎片:對(duì)象池可以避免頻繁地創(chuàng)建和銷(xiāo)毀對(duì)象,減少內(nèi)存碎片的產(chǎn)生,提高內(nèi)存利用率。
- 避免頻繁GC:減少了對(duì)象的創(chuàng)建和銷(xiāo)毀,可以減少垃圾回收(GC)的頻率,降低系統(tǒng)的負(fù)擔(dān),提高系統(tǒng)的穩(wěn)定性。
2.對(duì)象池基本使用
Netty 對(duì)象池技術(shù)的核心實(shí)現(xiàn)類(lèi)為 Recycler,Recycler 主要提供了以下 3 個(gè)方法:
- get():獲取一個(gè)可重復(fù)使用的對(duì)象,如果對(duì)象池中有空閑對(duì)象,則返回其中一個(gè);否則會(huì)創(chuàng)建一個(gè)新對(duì)象。
- recycle(T, Handle):回收一個(gè)對(duì)象,將對(duì)象放回對(duì)象池中以便下次復(fù)用。
- newObject(Handle):當(dāng)對(duì)象池中沒(méi)有可用對(duì)象時(shí),此方法會(huì)被調(diào)用以創(chuàng)建新的對(duì)象實(shí)例。
接下來(lái)我們寫(xiě)一個(gè) Recycler 對(duì)象池的使用 Demo,假設(shè)我們有一個(gè) User 類(lèi),需要實(shí)現(xiàn) User 對(duì)象的復(fù)用,具體實(shí)現(xiàn)代碼如下:
public class UserRecyclerDemo {
private static final Recycler<User> userRecycler = new Recycler<User>() {
@Override
protected User newObject(Handle<User> handle) {
return new User(handle);
}
};
static final class User {
private String name;
private Recycler.Handle<User> handle;
public void setName(String name) {
this.name = name;
}
public String getName() {
return name;
}
public User(Recycler.Handle<User> handle) {
this.handle = handle;
}
public void recycle() {
handle.recycle(this);
}
}
public static void main(String[] args) {
User user1 = userRecycler.get(); // 1.從對(duì)象池獲取 User 對(duì)象
user1.setName("zhangsan"); // 2.設(shè)置 User 對(duì)象的屬性
user1.recycle(); // 3.回收對(duì)象到對(duì)象池
User user2 = userRecycler.get(); // 4.從對(duì)象池獲取對(duì)象
System.out.println(user1 == user2);
System.out.println(user2.getName());
}
}
以上程序的執(zhí)行結(jié)果如下:
true
zhangsan
從上述結(jié)果可以看出,當(dāng)?shù)谝淮握{(diào)用 userRecycler.get() 時(shí),因?yàn)閷?duì)象池中尚未存在 user 對(duì)象,所以創(chuàng)建了 name 為“zhangsan”的對(duì)象。但第二次再調(diào)用 userRecycler.get() 時(shí),因?yàn)閷?duì)象池中已經(jīng)存在了 user 對(duì)象,所以直接從對(duì)象池中取出了 user 對(duì)象,所以 user1==user2 時(shí),得到的結(jié)果是 true。
3.對(duì)象池技術(shù)應(yīng)用
在 Netty 中,使用 Recycler 對(duì)象池管理對(duì)象的常見(jiàn)類(lèi)有以下幾個(gè):
- PooledHeapByteBuf:管理堆內(nèi)存中的 ByteBuf 對(duì)象。
- PooledDirectByteBuf:管理堆外內(nèi)存中的 ByteBuf 對(duì)象。
- ChannelOutboundBuffer.Entry:Netty 出站緩沖區(qū)(ChannelOutboundBuffer)中,每一個(gè)待發(fā)送的消息都包裝在一個(gè) Entry 對(duì)象中。
4.實(shí)現(xiàn)原理
要搞清楚 Netty 對(duì)象池技術(shù)的實(shí)現(xiàn)原理,就要搞清楚 Netty 對(duì)象池的核心組件,以及組件之間的關(guān)系。
Netty 對(duì)象池技術(shù)的實(shí)現(xiàn)依靠以下 4 大組件:
- Stack(棧):每個(gè)線程都關(guān)聯(lián)一個(gè) Stack(使用 FastThreadLocal 進(jìn)行存儲(chǔ)),用于存儲(chǔ)和管理該線程回收的對(duì)象。Stack 中存儲(chǔ)的是 DefaultHandle 對(duì)象,這些 DefaultHandle 對(duì)象包裝了實(shí)際要重用的對(duì)象。Stack 是與線程綁定的,每個(gè)線程從自己的 Stack 中獲取對(duì)象。
- WeakOrderQueue(弱序隊(duì)列):當(dāng)某個(gè)線程(非主線程)回收對(duì)象時(shí),這些對(duì)象不會(huì)直接放入主線程的 Stack 中,而是放入 WeakOrderQueue 中。WeakOrderQueue 存儲(chǔ)的是從其他線程回收的對(duì)象,這些對(duì)象被包裝在 DefaultHandle 中。WeakOrderQueue 與 Stack 關(guān)聯(lián),但屬于非主線程。當(dāng)主線程的 Stack 為空時(shí),會(huì)嘗試從 WeakOrderQueue 中獲取對(duì)象。
- Link(鏈表):WeakOrderQueue 中的存儲(chǔ)單元,用于存儲(chǔ)回收的對(duì)象。Link 中存儲(chǔ)的是 DefaultHandle 對(duì)象數(shù)組,這些數(shù)組包含從其他線程回收的對(duì)象。
- DefaultHandle:對(duì)象的包裝類(lèi),在 Recycler 中緩存的對(duì)象都會(huì)包裝成 DefaultHandle 類(lèi)。DefaultHandle 中存儲(chǔ)了實(shí)際要重用的對(duì)象,以及與之相關(guān)的元數(shù)據(jù)。
簡(jiǎn)單來(lái)說(shuō),這 4 個(gè)組件的關(guān)系是,(每個(gè))線程為了保證線程安全和高效性操作,所以會(huì)把使用的對(duì)象放到 Stack 棧中,且每個(gè)線程都有自己的 Stack 棧。當(dāng)線程中的對(duì)象不再被使用時(shí)(也就是被回收時(shí)),并不會(huì)將回收對(duì)象直接放到 Stack 中(因?yàn)楫?dāng)前線程已經(jīng)不再使用了),此時(shí)會(huì)將對(duì)象存放到 WeakOrderQueue 隊(duì)列中,因?yàn)?WeakOrderQueue 隊(duì)列相當(dāng)于“線程共享的區(qū)域”,這樣其他線程就可以方便的從 WeakOrderQueue 中獲取對(duì)象進(jìn)行重用了。而 WeakOrderQueue 中的存儲(chǔ)單元是 Link 鏈表,它存儲(chǔ)的是對(duì)象池中的包裝對(duì)象 DefaultHandle,這就是這四大核心組件之間的關(guān)系。
5.線程如何獲取對(duì)象?
在 Netty 中,獲取對(duì)象池中對(duì)象的流程如下:
- 判斷 Stack:線程首先會(huì)嘗試從自己的 Stack 中獲取對(duì)象。如果 Stack 中有對(duì)象,則直接彈出(pop)并返回。
- Stack 為空:如果 Stack 為空,線程會(huì)檢查 WeakOrderQueue。如果 WeakOrderQueue 中有對(duì)象,則按照一定的規(guī)則(如“1/7規(guī)則”,每 7 個(gè)移動(dòng) 1 個(gè))將部分對(duì)象轉(zhuǎn)移到 Stack 中,然后從 Stack 中彈出并返回。
- 創(chuàng)建新對(duì)象:如果 Stack 和 WeakOrderQueue 都為空,線程會(huì)調(diào)用 newObject() 方法創(chuàng)建一個(gè)新的對(duì)象,并包裝成 DefaultHandle 后放入 Stack 中,然后返回該對(duì)象。
通過(guò)這樣的設(shè)計(jì),Netty 的 Recycler 對(duì)象池技術(shù)能夠高效地重用對(duì)象,減少內(nèi)存分配和垃圾收集的開(kāi)銷(xiāo),提升性能。