架構(gòu)演進(jìn)推升應(yīng)用交付性能
時光荏苒,應(yīng)用交付(ADC)產(chǎn)品已問世十余載,其系統(tǒng)架構(gòu)也隨著技術(shù)變革多次更新?lián)Q代。追溯最早的架構(gòu)之爭應(yīng)屬于Foundry、Alteon、Arrowpoint時代,三家公司均采用了交換機(jī)架構(gòu)。雖然內(nèi)部處理技術(shù)有所不同,但其關(guān)鍵在于ADC產(chǎn)品如何提升4-7層處理性能。之后,以F5為代表的PC架構(gòu)和上述三家交換機(jī)架構(gòu)兩個陣營保持了較長階段的對峙。其間,Netscaler(Citrix)加入了PC架構(gòu)陣營,Radware加入了交換機(jī)陣營。從表面上看,似乎交換機(jī)陣營處于優(yōu)勢。實(shí)際上,使用Unix或Linux的PC陣營更加靈活多變。***還是用戶需求起了決定作用,PC陣營盡管在性能方面處于劣勢,但憑借應(yīng)用靈活性卻占了上風(fēng)。
ADC“核”變
隨著多核CPU大勢的到來,ADC產(chǎn)品架構(gòu)也發(fā)生了劇烈的“核”變——目前絕大部分ADC產(chǎn)品都逐步采用了多核多CPU架構(gòu)。由于CPU資源充足,交換路由無論在硬件還是軟件處理上都已不是問題。如何充分發(fā)揮硬件架構(gòu)的性能,軟件操作系統(tǒng)的選擇變得至關(guān)重要。最核心之處就是多CPU之間是否存在IPC(處理器間通信),即采用獨(dú)享內(nèi)存還是共享內(nèi)存。
所謂獨(dú)享內(nèi)存,是指每個處理器有專用的內(nèi)存并對之進(jìn)行控制,獨(dú)自處理內(nèi)存上的數(shù)據(jù),然后通過處理器間通信(IPC)機(jī)制來交換共享數(shù)據(jù)。
這顯然會帶來以下弊端:
- 產(chǎn)生CPU資源額外消耗,且核數(shù)量越多IPC開銷越大,通訊間隔越短開銷越大。
- 內(nèi)存使用效率低,每個核需2-4G內(nèi)存,以致動輒就要用上16G甚至32G內(nèi)存資源。
- 數(shù)據(jù)準(zhǔn)確性。對于連接限制、連接速率限制、最少連接策略等特性,IPC帶來的誤差可能導(dǎo)致策略完全失效。
- 性能降級,對于一些涉及全局變量和哈希會話保持表的應(yīng)用,不得不降級為單核處理(1/8性能乃至更低)。
共享內(nèi)存,則是指所有處理器都可以訪問相同的內(nèi)存,并可以不考慮物理位置直接訪問內(nèi)存。由于任意 CPU 都可以直接訪問所有內(nèi)存,而不需要進(jìn)行IPC,且消除了內(nèi)存復(fù)制,就不會造成額外相關(guān)消耗而影響性能。
從上面的對比不難看出,共享內(nèi)存架構(gòu)只需要保留一份數(shù)據(jù),沒有數(shù)據(jù)一致性和IPC的問題,顯然是***方案。但在實(shí)際應(yīng)用中很多ADC廠商依然沒有采用共享內(nèi)存。這是因?yàn)楣蚕韮?nèi)存***的技術(shù)難點(diǎn)在于如何解決CPU間鎖的問題。
ACOS — 高效的多核架構(gòu)
A10 Networks早在2007年已攻破了這一技術(shù)難關(guān),實(shí)現(xiàn)“零鎖定”,推出了ACOS高級核心操作系統(tǒng)。ACOS采用多核多CPU+共享內(nèi)存的架構(gòu),對“高速共享內(nèi)存架構(gòu)(SMA)”和“靈活的流量加速器(FTA)”兩大創(chuàng)新技術(shù)進(jìn)行整合,并利用平行處理超級計(jì)算技術(shù),***限度地發(fā)揮了多核并行處理構(gòu)架的效用,避免了傳統(tǒng)設(shè)計(jì)中產(chǎn)生的消耗。這不僅消除了傳統(tǒng)設(shè)計(jì)帶來的瓶頸,而且滿足了隨多核CPU架構(gòu)增加呈現(xiàn)的線性性能擴(kuò)展的需求。當(dāng)面臨多應(yīng)用的大流量訪問時,設(shè)備可以保持各個CPU占用率非常均衡,且每臺服務(wù)器的并發(fā)連接數(shù)也非常均衡。
正是憑借ACOS,A10 Networks在1U空間的機(jī)箱內(nèi)不斷刷新著自己的性能記錄,實(shí)現(xiàn)了高達(dá)160Gbps吞吐量及高達(dá)2.56億的并發(fā)連接數(shù)。在云數(shù)據(jù)中心高密度的大趨勢下,單位空間單位功耗下***化性能是用戶實(shí)實(shí)在在的需求。以同等的硬件實(shí)現(xiàn)更高的性能和效率,讓客戶從他們的資本投資中收獲更多價(jià)值,這正是ACOS的優(yōu)勢所在。
不難看出,隨著技術(shù)的快速演進(jìn),市場需求的選擇,ADC廠商將面臨更多的挑戰(zhàn)。他們不僅要應(yīng)對越來越高的性能要求,還要讓方案保持足夠的靈活性,順勢而行,適應(yīng)多核時代的挑戰(zhàn),才能從容面對“核”變的強(qiáng)烈沖擊。