秒拍鄧錚:如何做到面對(duì)二十億視頻播放請(qǐng)求而不慌
原創(chuàng)【51CTO.com原創(chuàng)稿件】變化總是在不經(jīng)意間發(fā)生,說(shuō)不上從什么時(shí)候起,我們?cè)谒⑽⒉r(shí)看到的整個(gè)頁(yè)面都幾乎被短視頻占據(jù)。
受益于移動(dòng)互聯(lián)基礎(chǔ)設(shè)備的完善、4G資費(fèi)的下調(diào)及智能終端設(shè)備的普及,用戶不再覺(jué)得移動(dòng)端的視頻消費(fèi)是一件奢侈的事兒,而且拍攝發(fā)布分享視頻的成本也前所未有的降低了。據(jù)相關(guān)報(bào)道顯示,目前視頻網(wǎng)站來(lái)自移動(dòng)端的播放量已經(jīng)超過(guò)70%。人們的消費(fèi)習(xí)慣日益碎片化,在微博上播放次數(shù)較多的視頻,絕大多數(shù)在3分鐘以內(nèi)。即使這樣,還有很多人在拖進(jìn)度條,大家就是想盡快看到亮點(diǎn)。
4月14日,秒拍背后母公司一下科技高級(jí)研發(fā)總監(jiān)鄧錚,將作為WOTA2017 全球架構(gòu)與運(yùn)維技術(shù)峰會(huì)“高可用架構(gòu)專場(chǎng)”的演講嘉賓。在前期的采訪中鄧錚這樣對(duì)記者說(shuō):“作為每日需要處理二十億以上播放請(qǐng)求的大型視頻網(wǎng)站,如何精準(zhǔn)高效的將用戶的每次請(qǐng)求迅速的真正實(shí)現(xiàn)播放,是充滿挑戰(zhàn)的一件事。”
鄧錚 一下科技高級(jí)研發(fā)總監(jiān)
鄧錚是一下科技技術(shù)團(tuán)隊(duì)的元老,主要負(fù)責(zé)整體的后端研發(fā)工作。5年半的時(shí)間里,他和公司共同經(jīng)歷了從成立,到秒拍上線、小咖秀的爆發(fā)式增長(zhǎng)、一直播的發(fā)展,再到現(xiàn)在業(yè)務(wù)進(jìn)入了穩(wěn)定增長(zhǎng)期的過(guò)程。目前,鄧錚更多的精力是和CTO湯力嘉一起在公司研發(fā)中心進(jìn)行新產(chǎn)品的研發(fā),并為三個(gè)APP下不同的事業(yè)部提供基礎(chǔ)平臺(tái)的技術(shù)支持。
背靠大樹帶來(lái)的壓力
與其他的短視頻應(yīng)用不太一樣,作為微博投資的官方指定平臺(tái),微博的任何改造都有可能給秒拍帶來(lái)突發(fā)性的流量增長(zhǎng)。因此,秒拍從一開始就要去面對(duì)承載微博億級(jí)用戶量級(jí)平臺(tái)的任務(wù),這需要系統(tǒng)具備隨時(shí)可橫向擴(kuò)展的能力。
鄧錚介紹,秒拍很早就在公有云上部署了自己的基礎(chǔ)平臺(tái),使系統(tǒng)在應(yīng)對(duì)突發(fā)流量時(shí)具有更好的彈性伸縮能力。所有邏輯請(qǐng)求都會(huì)考慮兩級(jí)的緩存進(jìn)行分流,來(lái)確保數(shù)據(jù)庫(kù)的輕負(fù)載。
伴隨著用戶行為習(xí)慣的變化及公司產(chǎn)品的發(fā)展節(jié)奏,秒拍系統(tǒng)大約每一年半會(huì)經(jīng)歷一次整體升級(jí)。在業(yè)務(wù)頻繁迭代的情況下,如何在海量請(qǐng)求下保證足夠高的可用性的同時(shí),以一個(gè)好的用戶體驗(yàn)和較低的成本的方式來(lái)提供服務(wù),成為秒拍團(tuán)隊(duì)現(xiàn)在努力的方向。
高性能視頻調(diào)度
鄧錚指出,短視頻的播放不同于點(diǎn)播的劇集或是電影,數(shù)據(jù)會(huì)一直保持比較熱的狀態(tài)。很多用戶拍完視頻只想給身邊的人分享,這就需要解決數(shù)據(jù)冷啟動(dòng)和快速分發(fā)的問(wèn)題。
傳統(tǒng)的視頻播放系統(tǒng),直接通過(guò)CDN地址進(jìn)行播放。CDN是通過(guò)DNS進(jìn)行調(diào)度,無(wú)法知道節(jié)點(diǎn)的容量,不夠靈敏。例如節(jié)點(diǎn)帶寬已經(jīng)非常滿了,但是請(qǐng)求還是不對(duì)地進(jìn)入。而且在實(shí)際應(yīng)用中,特別是在高峰時(shí)段,網(wǎng)絡(luò)的抖動(dòng)現(xiàn)象也會(huì)比較明顯。
解決問(wèn)題需要快速反饋,秒拍海量的用戶實(shí)時(shí)播放行為就是快速反饋?zhàn)罴训臄?shù)據(jù)來(lái)源?;诜N種需求,秒拍研發(fā)了一個(gè)高性能的社頻調(diào)度系統(tǒng),可以在播放完成時(shí)進(jìn)行上報(bào)統(tǒng)計(jì),這樣能得知最準(zhǔn)確的客戶播放質(zhì)量,便于實(shí)時(shí)修正調(diào)度策略。“我們采用細(xì)化用戶每次播放請(qǐng)求的上下文,并結(jié)合近期內(nèi)綜合調(diào)度大數(shù)據(jù),動(dòng)態(tài)的實(shí)現(xiàn)了C段IP級(jí)別的調(diào)度響應(yīng)及區(qū)分,在具體的實(shí)踐中也取得了比較好的效果”,鄧錚這樣解釋,并將實(shí)現(xiàn)方式簡(jiǎn)單歸納為:
- 通過(guò)調(diào)度系統(tǒng)獲取用戶的真實(shí)IP;
- 對(duì)IP的累積數(shù)據(jù)進(jìn)行動(dòng)態(tài)測(cè)試,來(lái)發(fā)現(xiàn)節(jié)點(diǎn)的可用性或?qū)P的訪問(wèn)性能相比其他節(jié)點(diǎn)有所下降等問(wèn),包括IP服務(wù)節(jié)點(diǎn)的遠(yuǎn)近,好壞,節(jié)點(diǎn)的負(fù)荷等。同時(shí)判斷請(qǐng)求是否非法,視頻是否不允許播放;
- 將數(shù)據(jù)會(huì)記入到新的歷史數(shù)據(jù),作為后面的加權(quán)處理,來(lái)得到一個(gè)相對(duì)精確的調(diào)度結(jié)果;
- 將每個(gè)點(diǎn)對(duì)應(yīng)的不同CDN廠家具體的性能匯總得到一張性能的大表,快速將表反饋給下一個(gè)用戶,讓用戶避免訪問(wèn)該節(jié)點(diǎn),或者調(diào)度到其他節(jié)點(diǎn)。
鄧錚告訴記者,秒拍高性能調(diào)度系統(tǒng)已經(jīng)一年多的時(shí)間,線上運(yùn)行得一直比較穩(wěn)定?,F(xiàn)在,基本一個(gè)節(jié)點(diǎn)在出現(xiàn)問(wèn)題十分鐘左右,就可以具體反應(yīng)到結(jié)果。用戶投訴率在這個(gè)系統(tǒng)上線后呈直線下降。
采訪最后鄧錚表示,秒拍在構(gòu)建這套精準(zhǔn)視頻調(diào)度系統(tǒng)過(guò)程中積累的更多豐富經(jīng)驗(yàn),他將帶到WOTA2017全球架構(gòu)與運(yùn)維技術(shù)峰會(huì)上:“我將圍繞秒拍在海量播放請(qǐng)求下視頻調(diào)度中遇到的問(wèn)題、現(xiàn)存解決方案的不足及我們采用的核心算法,在WOTA2017高可用架構(gòu)專場(chǎng)展開分享,希望和大家一起交流。”
我們期待鄧錚老師在現(xiàn)場(chǎng)的精彩演講。
World Of Tech 專注互聯(lián)網(wǎng)IT技術(shù)領(lǐng)域
三大章節(jié),15大技術(shù)專場(chǎng),
50+國(guó)內(nèi)外一線互聯(lián)網(wǎng)精英大咖站臺(tái)
打造兼顧技術(shù)視野、技術(shù)實(shí)戰(zhàn)、技術(shù)前瞻的
密集式干貨集中營(yíng)!
【Tips】
使用優(yōu)惠碼【3C4F449DCFFCE9B3】購(gòu)買參會(huì)門票,立享200元優(yōu)惠!4月10日前支付有效。
【51CTO原創(chuàng)稿件,合作站點(diǎn)轉(zhuǎn)載請(qǐng)注明原文作者和出處為51CTO.com】