傅杰:集團(tuán)化企業(yè)開放數(shù)據(jù)平臺的構(gòu)建之路
2013年4月26日-27日,由51CTO傳媒集團(tuán)旗下WOT(World Of Tech)品牌主辦的2013大數(shù)據(jù)全球技術(shù)峰會(huì)在北京富力萬麗酒店召開。本次峰會(huì)將圍繞大數(shù)據(jù)基礎(chǔ)架構(gòu)與上層應(yīng)用的生態(tài)系統(tǒng),解決大規(guī)模數(shù)據(jù)引發(fā)的問題,探索大數(shù)據(jù)基礎(chǔ)的解決方案,激發(fā)數(shù)據(jù)挖掘帶來的競爭力,讓數(shù)據(jù)發(fā)出聲音。51CTO作為本次峰會(huì)的主辦方,將全程視頻、圖文直播報(bào)道這場數(shù)據(jù)的盛宴,更多內(nèi)容請點(diǎn)擊專題:2013大數(shù)據(jù)全球技術(shù)峰會(huì)。
2013大數(shù)據(jù)全球技術(shù)峰會(huì)專題
在27日下午的互聯(lián)網(wǎng)與大數(shù)據(jù)專場中,優(yōu)酷土豆數(shù)據(jù)平臺架構(gòu)師傅杰發(fā)表了主題為“集團(tuán)化企業(yè)開放數(shù)據(jù)平臺構(gòu)建之路”的演講。演講中,傅杰解析了開放數(shù)據(jù)平臺構(gòu)建的方法,并介紹了優(yōu)酷土豆集團(tuán)的開放數(shù)據(jù)平臺。
優(yōu)酷土豆數(shù)據(jù)平臺架構(gòu)師傅杰
他談到,企業(yè)集團(tuán)化帶來了物理孤島和邏輯孤島,物理孤島帶來重復(fù)造輪和資源浪費(fèi),邏輯孤島帶來數(shù)據(jù)關(guān)聯(lián)問題和數(shù)據(jù)標(biāo)準(zhǔn)問題。優(yōu)酷土豆解決物理孤島是從集中存儲、統(tǒng)一采集和開放計(jì)算的方式。他指出,要把Hadoop平臺開放出去,但要解決身份問題、數(shù)據(jù)權(quán)限問題、災(zāi)備和安全問題,要保證Hadoop安全開放,要集成Kerheros,解決用戶身份認(rèn)證問題;自定義用戶組;監(jiān)控報(bào)表;開放注冊用戶。
在建設(shè)過程中,也遇到了許多問題,例如,System out、機(jī)房遷移(jaas bug)、公平調(diào)度器故障、JobTracker堆棧滿等。
在解決邏輯孤島方面,是從數(shù)據(jù)易用,封裝數(shù)據(jù)服務(wù),打造數(shù)據(jù)產(chǎn)品三方面入手,形成開放的數(shù)據(jù)平臺。
之后,傅杰介紹了優(yōu)酷土豆集團(tuán)的開放數(shù)據(jù)平臺的具體情況,優(yōu)酷土豆的數(shù)據(jù)平臺輻射范圍包含推薦、搜庫、廣告、分層、運(yùn)營、拍客、指數(shù),數(shù)據(jù)平臺的架構(gòu)、平臺的服務(wù)等。
以上是51CTO.com記者從一線為您帶來的精彩報(bào)道。后續(xù)我們還有更加精彩的獨(dú)家報(bào)道,敬請關(guān)注。