A10 Networks:大并發(fā)大連接成就 “雙十一”神話
11月11日,從一個被調(diào)侃的“光棍節(jié)”成為中國電子商務(wù)行業(yè)乃至全球關(guān)注的年度盛事,只用了短短五年時間。眼下距離2014年“雙十一”購物節(jié)還有不到一周的時間。各大電商的廣告大戰(zhàn)早已拉開,摩拳擦掌,早早做好了籌備部署。賣家們已開始備貨,制定“雙十一”活動戰(zhàn)略,打算在活動期間猛賺一筆??爝f公司提前“招兵買馬”,備足人手,就等“雙十一”的到來。網(wǎng)購達人們也開始搜羅各電商的折扣和優(yōu)惠信息,抱著“剁手”的風險準備猛淘一下。
馬云曾說:“2014年的雙十一淘寶要突破500億。”據(jù)相關(guān)分析師預(yù)測,2014年天貓?zhí)詫?ldquo;雙十一”銷售額將達到600億元。不用驚訝,600億元也許真的算不上天文數(shù)字。2013年11月11日,淘寶創(chuàng)下的一個個神奇瞬間就是印證——零點開鑼,6分零7秒交額超10億,38分零5秒超50億,8小時42分突破121億,13小時零4分突破200億,21小時19分突破300億……這一天,淘寶交易額達350.19億,比2012年的191億增加了83%。共成交1.71億筆,產(chǎn)生1.67億只包裹。
面對這些不知道多少個零的神奇數(shù)字,面對馬云給2014“雙十一”的豪言壯語,淘寶IT工程師們則胸有成竹。原因在于,擁有逾5億的注冊用戶,數(shù)百萬的賣家,多如繁星的商品,淘寶輝煌的背后有一套幾億用戶并發(fā)可用、訪問高峰持續(xù)可靠、適應(yīng)業(yè)務(wù)快速擴展的應(yīng)用交付系統(tǒng)。它可以力挺淘寶輕松面對海量并發(fā)、海量數(shù)據(jù)讀寫、分散交易、銀行同步結(jié)算及業(yè)務(wù)高速發(fā)展等苛刻挑戰(zhàn)。對于這套應(yīng)用交付系統(tǒng),淘寶網(wǎng)運維總監(jiān)曹益峰評價:“A10 Networks ADC給我們留下了深刻印象,相比較已有的負載均衡解決方案,它在4層和7層均表現(xiàn)出更佳的處理能力。這允許我們可以用兩臺A10 Networks ADC換掉4臺舊機,提高運作效率。其不僅在性能上能滿足我們的業(yè)務(wù)需求,而且在穩(wěn)定性、可擴展性方面都到了很高的水平。使用AX系列后,我們不僅可以讓每一位淘寶用戶有更好的訪問體驗,而且還降低了我們每筆交易的總成本,從而保障了我們業(yè)務(wù)的更高速發(fā)展。”

背后的秘密:吞吐量、每秒新建連接能力、并發(fā)連接數(shù),一個也不能少
眾所周知,對于大規(guī)模訪問量來說,無論多么高性能的單臺服務(wù)器都不可能應(yīng)付,必須部署多臺服務(wù)器并進行應(yīng)用交付。對于服務(wù)器和ADC這一類與應(yīng)用有關(guān)的設(shè)備,其性能和負載的消耗主要表現(xiàn)在3個方面:吞吐量、每秒新建連接能力和并發(fā)連接數(shù)。得益于優(yōu)秀的ACOS架構(gòu),A10 Networks產(chǎn)品在性能上擁有先天優(yōu)勢:160Gbps吞吐量、710萬每秒新建連接數(shù)、2.56億并發(fā)連接數(shù),這些傲驕的性能數(shù)據(jù)就是A10 Networks受到眾多巨型數(shù)據(jù)流量企業(yè)青睞的原因。
ADC設(shè)備部署必須要根據(jù)客戶系統(tǒng)的訪問特點進行配置,不能只是簡單的輪詢分發(fā)。一般來說,完成負載均衡配置之后,由于流量被分擔,客戶會立刻看到系統(tǒng)的改善效果,比如訪問速度明顯提升、服務(wù)器大幅降低。但當A10 Networks在淘寶進行部署時就發(fā)現(xiàn),如果只是簡單開啟負載均衡,系統(tǒng)改善效果并不明顯。究其原因,問題則出在連接數(shù)上。淘寶頁面上圖片較多,每個圖片都需要一個連接來取回,也就是說打開一個頁面時就會建立幾十個連接。如果一萬個人同時訪問這個頁面,服務(wù)器的交互壓力就是每秒要處理幾十萬個新連接。因此,這些訪問流量雖然負載均衡給了多臺服務(wù)器,但從連接數(shù)來看,每臺服務(wù)器承擔的壓力還是超出了其處理能力。
A10 Networks連接復(fù)用技術(shù)可以很好的解決這個問題,即將A10 Networks ADC與服務(wù)器之間的連接由短連接變?yōu)閯討B(tài)維護的長連接,大大降低了服務(wù)器端的交互壓力。為了更好的管理服務(wù)器端壓力,A10 Networks還為客戶設(shè)計過一個排隊系統(tǒng),該系統(tǒng)一旦檢測到服務(wù)器正在處理的連接數(shù)已達到上限,就會將后續(xù)訪問納入等待隊列,待服務(wù)器資源空閑出來時再引導(dǎo)訪問,提升了客戶整套應(yīng)用系統(tǒng)的可靠性。