當“大數(shù)據(jù)”來敲門
當你用一分鐘,看完這行文字的時候:
新浪已經(jīng)發(fā)送了2萬條微博,蘋果已經(jīng)下載了4.7萬次應用,淘寶已經(jīng)賣出了6萬件商品,人人網(wǎng)發(fā)生了30萬次訪問,百度產(chǎn)生了90萬次搜索查詢。
2010年印刷版《大英百科全書》,32冊,重達58.5公斤。然而,它的全部內(nèi)容,還裝不滿一個4G的U盤。有鑒于此,《大英百科全書》出版社今年3月對外宣布,不再推出印刷版,內(nèi)容全面數(shù)字化。
在寬帶化、移動互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、社交網(wǎng)絡(luò)、云計算的催生下,一個大數(shù)據(jù)的時代,不經(jīng)意間順理成章地翩然而至。不久前,灃西大數(shù)據(jù)產(chǎn)業(yè)園悄然落戶陜西省西咸新區(qū),發(fā)展大數(shù)據(jù)產(chǎn)業(yè)正在“試水”。
全球數(shù)據(jù)總量在以每兩年翻一番的速度增長
從事廣告文化創(chuàng)意行業(yè)的何先生,清晰地記得,從12年前購買的僅有20GB硬盤容量的家用計算機,到為滿足使用需求而不斷擴容的80GB、120GB、250GB、500GB的主機存儲空間,變化很快。“如今2TB的硬盤都不夠用,還得靠移動存儲設(shè)備來備份。”
根據(jù)IDC(國際數(shù)據(jù)公司)的監(jiān)測統(tǒng)計,2011年全球數(shù)據(jù)總量已經(jīng)達到1.8ZB(1ZB等于1萬億GB,1.8ZB也就相當于18億個1TB的移動硬盤),而這個數(shù)值還在以每兩年翻一番的速度增長,預計到2020年全球?qū)⒖偣矒碛?5ZB的數(shù)據(jù)量,增長近20倍。
由于數(shù)據(jù)規(guī)模的急劇膨脹,各行業(yè)累積的數(shù)據(jù)量越來越巨大,數(shù)據(jù)類型也越來越多、越來越復雜,已經(jīng)超越了傳統(tǒng)數(shù)據(jù)管理系統(tǒng)、處理模式的能力范圍,于是“大數(shù)據(jù)”這樣一個在含義上趨近于“無窮大”的概念才會應運而生。
“首先在于體量大,是一個數(shù)據(jù)全集的概念”,國家工信部軟件服務業(yè)司司長陳偉為大數(shù)據(jù)概括出四方面特征,“第二是類型多,包括結(jié)構(gòu)化數(shù)據(jù)、半結(jié)構(gòu)化數(shù)據(jù)、非結(jié)構(gòu)化數(shù)據(jù)等多種類型,其中視頻數(shù)據(jù)在目前占到了90%以上的總額;第三要求速度快,需要以秒級為目標進行實時動態(tài)處理。”
“最后在于價值密度”,陳偉認為,由于大量有用和可能沒用的數(shù)據(jù)并存,“遍地是金子,又遍地是沙子”,所以大數(shù)據(jù)的目的就在于從龐大的數(shù)據(jù)集合中找尋有價值的數(shù)據(jù)和知識,通過分析挖掘為各行業(yè)提供真正的智慧,“可以說21世紀是‘數(shù)據(jù)鉆出石油’的時代。”
“以交互數(shù)據(jù)為例,目前一些自媒體平臺,比如新浪微博,每天都有超過2500萬條的微博信息在發(fā)布,里面有很多有價值的信息尚未得到發(fā)掘”,中國電子信息產(chǎn)業(yè)發(fā)展研究院副總工程師李峻認為,在這樣龐大的非結(jié)構(gòu)化數(shù)據(jù)背后,如何利用大數(shù)據(jù)技術(shù),從海量堆積的交互數(shù)據(jù)當中發(fā)現(xiàn)帶有趨勢性、前瞻性的訊息,就能夠發(fā)現(xiàn)并產(chǎn)生巨大的社會價值和商業(yè)價值。 #p#
一個小蘋果背后的大數(shù)據(jù):數(shù)據(jù)之和的價值遠大于數(shù)據(jù)的價值之和
“由于數(shù)據(jù)的存儲、分析、應用等方面的商業(yè)運營方式還沒有定型,這個行業(yè)發(fā)展的潛力、創(chuàng)新空間都十分巨大”,陜西省西咸新區(qū)管委會副主任、灃西新城管委會主任劉宇斌打了一個“小蘋果背后的大數(shù)據(jù)”的簡單比方:
以陜西省蘋果產(chǎn)業(yè)發(fā)展為例,諸如某品種蘋果種在哪里最適宜生長所需要的空間地理信息數(shù)據(jù),與具體產(chǎn)區(qū)的蘋果產(chǎn)量、含糖量等數(shù)據(jù)疊加,并通過物聯(lián)網(wǎng)等手段賦予蘋果可追溯的唯一“身份”,在種植過程中實時監(jiān)控,由每一個蘋果“反饋”收集而成的數(shù)據(jù),假如足夠海量,就整合而成了大數(shù)據(jù)。
擁有了這些數(shù)據(jù),首先可以通過數(shù)據(jù)租售服務的方式與潛在客戶產(chǎn)生價值,“此類商業(yè)模式體現(xiàn)了數(shù)據(jù)之和的價值遠遠大于數(shù)據(jù)的價值之和。”
其次,如能運用組群分析、數(shù)據(jù)挖掘等科學方法,輔以云計算、分布式存儲等手段,則可以對數(shù)據(jù)展開深層次分析和預測服務,“哪些蘋果品質(zhì)最好,市場反應更好,明年產(chǎn)量銷量會怎樣,各地市場對蘋果購買的喜好會有何變化”,這種數(shù)據(jù)深挖及其背后的消費者行為預測分析,曾是統(tǒng)計學家的特權(quán),未來則可能花費幾分鐘時間就可以完成。
數(shù)據(jù)經(jīng)過積累,并與全國其他地方進行比對,則可為陜西蘋果產(chǎn)業(yè)發(fā)展提供決策支持服務,并成為政府、行業(yè)指導果農(nóng)生產(chǎn)的決策依據(jù),避免產(chǎn)品滯銷和果農(nóng)利益受損。
最后,隨著數(shù)據(jù)和分析方法權(quán)威性的建立,數(shù)據(jù)服務商有可能搭建一個第三方大數(shù)據(jù)分析平臺,為更多的數(shù)據(jù)持有者提供數(shù)據(jù)整理、過濾、分析和處理服務,甚至有朝一日發(fā)展出類似于ebay、淘寶等電子商務交易平臺一樣的第三方數(shù)據(jù)共享交易平臺。 #p#
陜西在大數(shù)據(jù)產(chǎn)業(yè)布局中執(zhí)行大工業(yè)電價,中國聯(lián)通項目一期8000個機柜一天節(jié)省電費40多萬元
在西咸新區(qū)規(guī)劃的25平方公里信息產(chǎn)業(yè)園中,國內(nèi)首家大數(shù)據(jù)處理與服務專業(yè)園區(qū)——灃西大數(shù)據(jù)產(chǎn)業(yè)園正在布局建設(shè),園區(qū)面積為3平方公里,分為基礎(chǔ)數(shù)據(jù)聚集區(qū)、數(shù)據(jù)應用研發(fā)區(qū)和數(shù)據(jù)拓展區(qū)三個板塊。陜西省力爭到2017年,建成以西咸為核心的國家級大數(shù)據(jù)處理與服務產(chǎn)業(yè)集群,到2020年底,灃西大數(shù)據(jù)產(chǎn)業(yè)園區(qū)將實現(xiàn)產(chǎn)值500億元,陜西省工信廳副廳長蔡蘇昌介紹說。
百度公司每購買一臺服務器,成本在3萬元左右,但是使用維護費用要超過3萬元,“這種情況下我們要不斷地保證數(shù)據(jù)中心節(jié)能降耗。”百度技術(shù)委員會理事長陳尚義說。
據(jù)了解,目前陜西省已在大數(shù)據(jù)產(chǎn)業(yè)布局、項目聚集、資金配套、基礎(chǔ)設(shè)施建設(shè)方面制定了相關(guān)政策,其中包括對入園企業(yè)執(zhí)行大工業(yè)電價,并免除過網(wǎng)費。“電價占到數(shù)據(jù)企業(yè)成本的75%左右,目前園區(qū)已有三大運營商和全國人口信息處理與備份(西安)中心等項目落戶,拿中國聯(lián)通項目一期8000個機柜為例,一天就可以減少40多萬元的電價成本”,劉宇斌介紹。
大數(shù)據(jù)帶來的挑戰(zhàn)不僅在于“硬件”層面。“100年前的醫(yī)生可以了解醫(yī)學的所有分支,可是今天一名醫(yī)生面對的是大約10000種疾病綜合征、3000種藥品、1100種檢驗方法的海量知識”,國家信息化專家咨詢委員會副主任、中國工程院院士鄔賀銓認為,大數(shù)據(jù)產(chǎn)業(yè)需要從業(yè)人員既懂數(shù)據(jù)分析工具,又懂行業(yè)分析,而這樣的創(chuàng)新人才是奇缺的,“同時在大數(shù)據(jù)挖掘開發(fā)利用和安全以及隱私保護方面,我國還缺乏相應法律保障,需要通過機制創(chuàng)新來推動數(shù)據(jù)共享的實現(xiàn)。”