毫無疑問，世界上所有關注開發(fā)技術(shù)的人都意識到“大數(shù)據(jù)”對企業(yè)商務所蘊含的潛在價值，其目的都在于解決在企業(yè)發(fā)展過程中各種業(yè)務數(shù)據(jù)增長所帶來的痛苦。

　　現(xiàn)實是，許多問題阻礙了大數(shù)據(jù)技術(shù)的發(fā)展和實際應用。

　　因為一種成功的技術(shù)，需要一些衡量的標準。現(xiàn)在我們可以通過幾個基本要素來衡量一下大數(shù)據(jù)技術(shù)，這就是——流處理、并行性、摘要索引和可視化。

　　誰會用到大數(shù)據(jù)呢？

　　一年前，大數(shù)據(jù)技術(shù)的一些主要用戶是大型Web企業(yè)，例如Facebook和雅虎，它們需要分析點擊流數(shù)據(jù)。但是今天，“大數(shù)據(jù)技術(shù)已經(jīng)超出了Web，是要是有大量數(shù)據(jù)需要處理的企業(yè)都有可能用到它。”例如銀行、公用事業(yè)機構(gòu)、情報部門等都在搭乘大數(shù)據(jù)這輛車。

　　實際上，一些大數(shù)據(jù)技術(shù)已經(jīng)被一些擁有很前衛(wèi)技術(shù)的企業(yè)在使用了，比如受社交媒體推動而需要創(chuàng)建相應Web服務的企業(yè)。它們對于大數(shù)據(jù)項目的貢獻非常重要。

　　而在其他垂直行業(yè)中，有些企業(yè)正在意識到，它們基于信息服務的價值定位要比它們先前想象的要大得多，所以大數(shù)據(jù)技術(shù)很快就吸引了這些企業(yè)的注意。再加上硬件和軟件成本的下降，這些企業(yè)發(fā)現(xiàn)它們已經(jīng)處在了一場企業(yè)大轉(zhuǎn)型機遇的***風暴中。

　　大數(shù)據(jù)處理的應對三大挑戰(zhàn)：大容量數(shù)據(jù)、多格式數(shù)據(jù)和速度

　　大容量數(shù)據(jù)（TB級、PB級甚至EB級）：人們和機器制造的越來越多的業(yè)務數(shù)據(jù)對IT系統(tǒng)帶來了更大的挑戰(zhàn)，數(shù)據(jù)的存儲和安全以及在未來訪問和使用這些數(shù)據(jù)已成為難點。

　　多格式數(shù)據(jù)：海量數(shù)據(jù)包括了越來越多不同格式的數(shù)據(jù)，這些不同格式的數(shù)據(jù)也需要不同的處理方法。從簡單的電子郵件、數(shù)據(jù)日志和信用卡記錄，再到儀器收集到的科學研究數(shù)據(jù)、醫(yī)療數(shù)據(jù)、財務數(shù)據(jù)以及豐富的媒體數(shù)據(jù)（包括照片、音樂、視頻等）。

　　速度：速度是指數(shù)據(jù)從端點移動到處理器和存儲的速度。

　　大數(shù)據(jù)技術(shù)涵蓋哪些內(nèi)容？

　　***處理

　　伴隨著業(yè)務發(fā)展的步調(diào)，以及業(yè)務流程的復雜化，我們的注意力越來越集中在“數(shù)據(jù)流”而非“數(shù)據(jù)集”上面。

　　決策者感興趣的是緊扣其組織機構(gòu)的命脈，并獲取實時的結(jié)果。他們需要的是能夠處理隨時發(fā)生的數(shù)據(jù)流的架構(gòu)，當前的數(shù)據(jù)庫技術(shù)并不適合數(shù)據(jù)流處理。

　　例如，計算一組數(shù)據(jù)的平均值，可以使用一個傳統(tǒng)的腳本實現(xiàn)。但對于移動數(shù)據(jù)平均值的計算，不論是到達、增長還是一個又一個的單元，有更高效的算法。如果你想構(gòu)建數(shù)據(jù)倉庫，并執(zhí)行任意的數(shù)據(jù)分析、統(tǒng)計，開源的產(chǎn)品R或者類似于SAS的商業(yè)產(chǎn)品就可以實現(xiàn)。但是你想創(chuàng)建的是一個數(shù)據(jù)流統(tǒng)計集，對此逐步添加或移除數(shù)據(jù)塊，進行移動平均計算，而且數(shù)據(jù)庫不存在或者尚不成熟。

　　數(shù)據(jù)流周邊的生態(tài)系統(tǒng)有欠發(fā)達。換言之，如果你正在與一家供應商洽談一個大數(shù)據(jù)項目，那么你必須知道數(shù)據(jù)流處理對你的項目而言是否重要，并且供應商是否有能力提供。

　　二、并行化

　　大數(shù)據(jù)的定義有許多種，以下這種相對有用。“小數(shù)據(jù)”的情形類似于桌面環(huán)境，磁盤存儲能力在1GB到10GB之間，“中數(shù)據(jù)”的數(shù)據(jù)量在100GB到1TB之間，“大數(shù)據(jù)”分布式的存儲在多臺機器上，包含1TB到多個PB的數(shù)據(jù)。

　　如果你在分布式數(shù)據(jù)環(huán)境中工作，并且想在很短的時間內(nèi)處理數(shù)據(jù)，這就需要分布式處理。

　　并行處理在分布式數(shù)據(jù)中脫穎而出，Hadoop是一個分布式/并行處理領域廣為人知的例子。Hadoop包含一個大型分布式的文件系統(tǒng)，支持分布式/并行查詢。

　　三、摘要索引

　　摘要索引是一個對數(shù)據(jù)創(chuàng)建預計算摘要，以加速查詢運行的過程。摘要索引的問題是，你必須為要執(zhí)行的查詢做好計劃，因此它有所限制。

　　數(shù)據(jù)增長飛速，對摘要索引的要求遠不會停止，不論是長期考慮還是短期，供應商必須對摘要索引的制定有一個確定的策略。

　　四、數(shù)據(jù)可視化

可視化工具有兩大類。

　　探索性可視化描述工具可以幫助決策者和分析師挖掘不同數(shù)據(jù)之間的聯(lián)系，這是一種可視化的洞察力。類似的工具有Tableau、TIBCO和QlikView，這是一類。

　　敘事可視化工具被設計成以獨特的方式探索數(shù)據(jù)。例如，如果你想以可視化的方式在一個時間序列中按照地域查看一個企業(yè)的銷售業(yè)績，可視化格式會被預先創(chuàng)建。數(shù)據(jù)會按照地域逐月展示，并根據(jù)預定義的公式排序。供應商Perceptive Pixel就屬于這一類。

　　五、生態(tài)系統(tǒng)戰(zhàn)略

　　許多***最成功的公司都花費大量資金構(gòu)建圍繞它們產(chǎn)品的生態(tài)系統(tǒng)。這些生態(tài)系統(tǒng)被產(chǎn)品特性和商務模型所支持，并與合作伙伴的產(chǎn)品和技術(shù)協(xié)同工作。如果一個產(chǎn)品沒有一個富有戰(zhàn)略的生態(tài)系統(tǒng)，是很難適應客戶的要求的。