自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

商用軟件未必解決問題 開源值得一試

運維 服務器運維
章文嵩的演講主要分享了阿里巴巴在底層基礎平臺建設方面的一些經驗。從整體上看分為如下幾個議題,首先介紹了淘寶網的一些情況,然后介紹了淘寶網目前在軟件基礎設施中的部署情況。

 第七屆開源中國開源世界高峰論壇29日下午的演講中,阿里集團的高級研究員與副總裁核心系統(tǒng)負責人章文嵩先生給大家?guī)砹?ldquo;開源+自主開發(fā)淘寶軟件基礎設施構建實踐”的主題演講。

章文嵩的演講主要分享了阿里巴巴在底層基礎平臺建設方面的一些經驗。從整體上看分為如下幾個議題,首先介紹了淘寶網的一些情況,然后介紹了淘寶網目前在軟件基礎設施中的部署情況。




阿里集團的高級研究員與副總裁核心系統(tǒng)負責人章文嵩

提到淘寶網,可能很多人都知道他是一個網絡購物的代名詞,有市場報告顯示,去年淘寶網交易額是7800多億,淘寶網占7層份額,淘寶網上面大概有七八百萬賣家創(chuàng)造了直接的就業(yè)機會,職業(yè)就業(yè)機會270多萬個,淘寶網的網絡流量,目前基本上在13名左右。***名是谷歌,第二名是FACEBOOK,這個排名會隨時變動,比如做大促銷的時候,有可能沖到11名,過年網絡購物少的時候可能降到18名,目前國內是第3名。支撐網站排名背后的流量一天現在大概700多萬個訪客,跟蹤帳戶登陸,有700多萬個,去年雙12大促一天有1.25億人訪問,那時候CDN訪問流量856G,整個淘寶網頁一天25億,淘寶網站上有800多個應用。針對這樣的規(guī)模搭建基礎設施也并不容易,我淘寶網的基礎設施每年在不斷的發(fā)展,可能以百分之七八十速度在增長。

淘寶的基礎設施,最上面是CND系統(tǒng),在全國布很多點,讓用戶訪問家門口的機器,中間是交易平臺,背后是基礎設施軟件,存儲系統(tǒng),數據庫,包括海量數據處理平臺和資源調度平臺,左側有淘寶的搜索,淘寶上有十幾億商品,用戶進來要搜索,我們要做到實時搜索,比如用戶變更了價格,在搜索引擎里幾秒鐘要反映出來,賣家變更一些信息之后往往自己上去查,如果查不到自己就會投訴;右側是廣告系統(tǒng),是收入的主要來源,還有數據挖掘平臺。在基礎軟件上,我們分很多層次來做,***下的是硬件,我們對硬件進行定制,我們對各種儲存介質非常了解,我們在低功耗處理器、CPU方面定制專門機器,降低功耗比,或者降低成本。

我們有一個內核的團隊,幾萬臺服務器支撐淘寶網,我們根據應用的特點做優(yōu)化,過去Apache用的比較多,我們還有數據庫團隊,這是目前在單機上做的事情。上面是分布式系統(tǒng),多機環(huán)境,有分布式存儲,像TFS、分布式表格系統(tǒng),還有圖像搜索團隊,圖像搜索輸入一張照片,我們有CDN分發(fā)系統(tǒng),還有海量數據的計算,包括旺旺平臺,現在將近一千萬同事在線,虛擬化管理,負載均衡,包括網絡的解決方案?,F在采用的軟件基本都是開源加自主開發(fā)的,比如CDN,我們可以說它是世界上***的面向圖像的CDN系統(tǒng),送照片就送856G流量,上面都是拿開源軟件做的,我們做成了一個自主開發(fā)的CDN系統(tǒng),今年會建到2400G,按照淘寶流量的增長,能力到2400G,實際的量可能會在2000G左右。

TFS是自主開發(fā)的分布式對象存儲系統(tǒng),目前有6.2P存儲空間,實際用了4P多,今年會建設到12P。每G存儲成本會逐漸下降,今年到2.5元。Oceanbase,一張表格里大概有120億條的收藏記錄。核心數據庫,采用開源的MySQL,機上高速的非易先存儲,以及多層級優(yōu)化。旺旺平臺,自主開發(fā)。底層的支撐軟件,在OpenJDK基礎上開發(fā)和維護Taoboo JVM,在LVS基礎上實現負載均衡解決方案,用開源軟件實現了高流量的網絡鏡像項目,可以說淘寶整個平臺是建在開源軟件加自主開發(fā)的基礎上,核心系統(tǒng)沒有商用軟件,淘寶不是***天是這個樣子的,我們講一個事例。

淘寶最早是做交易網站的,一塊是都是花錢解決問題,最終花錢解決不了問題了,不得不自己走上這條道路,我們可以拿三個事例來說明,圖片存儲,淘寶上有很多商品,賣家拍了很多商品照片,平均一個商品可能有三四十張以上的圖片,一開始花錢解決問題,買的是NAS系統(tǒng),然后往里面放,到2006年的時候,從***端升級到***端設備,因為是笑圖片,***端的存儲控制沒用完,但是文件個數已經用爆了,數目不夠,工程師說一臺放不下買兩臺,兩臺放不下放四臺,我們自己知道這個不是解決辦法,因為成本很高,那時候10T存儲空間就要幾百萬,我們自己做了一個面向圖片存儲的管理系統(tǒng),在架構上我們做了一些取舍,分布式文件系統(tǒng)由原數據服務器、數據服務器兩部分組成,對于互聯網圖片數據來說,用戶并不關心文件名是什么、路徑是什么,只是在網頁里能把圖片展示出來,我們把目錄空間拋棄掉了,我們做了取舍,沒有目錄空間,做了對象存儲,你要放進來一個對象,自己還不能起名字,是我們賦予的,這樣可以做到非常高速,比如中間有一個圖片名字,一般人看不懂,原數據可以變的很簡單,直接可以映射到物理機器,原數據很簡單,數據量很少,分布式系統(tǒng)里原數據一定是最終瓶頸,做的越簡單可擴展性越好。

上線一用規(guī)模可能就大了一個數量級,后續(xù)逐漸優(yōu)化,增加各種功能,現在TFS也開源了,2.0版本,我們還在持續(xù)優(yōu)化,我們內部都有指標。淘寶CDN系統(tǒng),一開始也是花錢解決問題,最早淘寶CND系統(tǒng)都是買商用負載均衡器,因為是圖片,隨即訪問,后來逐步改造,用開源的軟件,包括混合存儲,原來建6G要花掉200多萬,去年建10G35萬就可以做到了,2010年光KPI就節(jié)約了1億多,因為規(guī)模大了,稍微優(yōu)化一下就可以節(jié)約1億多,這里面我們提了很多做法,以后我們會有大型的節(jié)點,在調度力度和用戶體驗上都會做進一步優(yōu)化。

第三是淘寶核心數據庫,***一個被拔掉的,最早拿IBM小型機、思科商用數據庫、EMC高端存儲,好處是功能比較強大,缺點就是比較貴。2008年開始使用MySQL數據庫,2011年組建了自己MySQL開發(fā)團隊,開發(fā)團隊只有8人,去年最早把商品庫換掉了,十億多個商品,交易數據庫過去2000萬IOE解決方案,那時候每秒鐘只能做3000筆交易,2011年原定目標是平臺要做到5000筆交易就能支撐業(yè)務的發(fā)展。

后來我們用MySQL加上優(yōu)化,一臺機器做到1萬筆交易,當然了不是普通的PC服務器,是9萬元的PC服務器,再加上FLASH卡,總共不到12萬元,整個淘寶平臺的交易能力一秒鐘能做到16萬筆交易,商用軟件已經不能滿足大規(guī)模系統(tǒng)的需要,開源自主開發(fā)有很好的可控性和可擴展性,我們有個規(guī)模效應,比如這個圖橫坐標是規(guī)模,規(guī)模由小變大的時候,一開始自己研發(fā),投入的起點可能比較高,隨著規(guī)模增大,斜線不高,如果一開始租或者買,投入的起點已經必定低,隨著規(guī)模增長,斜率比較高,兩條斜線肯定相交于一點,過了這個交差點自己做一定劃算,我們在商用軟件上碰上問題,商用廠商并不全力支持我們,全世界可能就我們一家是這種用法,逼著規(guī)模大的不得不自己做。

過去我們使用了大量開源軟件,也在開源基礎上做改進、定制,把工作成果回饋給開源社區(qū),在Linux內核上,目前內核貢獻量在全世界排115名。我們也建設了開源的平臺,把淘寶大部分數得上名字的基礎軟件都開源出來了,我們有這樣的開源平臺,不光軟件開源,硬件也做了定制的低功耗服務器,我們做了綠色計算網站,服務器定制只是其中一塊,數據中心、機房的基礎設施、機柜的定制可能是綠色計算很大一塊,建這樣的網站,尤其是國內,用中文交流可能更方便,可以在一塊推進整個綠色計算的發(fā)展。

小結,淘寶是開源系統(tǒng)的受益者,并積極參與開源生態(tài)系統(tǒng)的建設,促進開源生態(tài)系統(tǒng)的發(fā)展,積累更好的口碑,凝聚人才,迎接未來更大的技術挑戰(zhàn)。淘寶公司希望以更開放的方式與世界一起進行技術創(chuàng)新。

責任編輯:張玉 來源: IT168
相關推薦

2015-11-17 09:35:26

開源學習框架

2016-08-22 23:01:12

LinuxTorrent客戶軟件

2012-04-17 11:23:42

imo即時通訊

2015-12-08 12:10:50

2022-12-25 16:30:53

人工智能工具

2023-10-15 12:59:26

開源項目

2017-09-11 08:35:15

PythonGUIIT

2017-03-02 08:34:00

云服務擴展芯片IT

2024-03-26 07:55:49

CSS工具HTML代碼

2024-02-27 08:00:00

人工智能AI編程助手開發(fā)

2017-11-02 07:28:47

微軟

2014-12-29 10:05:24

iOS 8越獄插件

2015-08-26 09:34:03

Linux發(fā)行版

2021-06-10 10:12:40

Linux復用器軟件包

2021-05-25 11:20:41

Linux復用器多路復用器

2016-05-25 17:19:43

用戶體驗工具

2020-06-23 16:45:36

iOS 14蘋果WWDC2020

2021-01-17 08:19:35

微信移動應用公眾號

2017-02-06 08:43:59

Xamarin編程數據
點贊
收藏

51CTO技術棧公眾號