PB級(jí)大數(shù)據(jù)存儲(chǔ)技術(shù)解析
越來(lái)越多的存儲(chǔ)產(chǎn)品都在融入 大數(shù)據(jù) 的概念和功能,并使之成為產(chǎn)品的一大賣點(diǎn)。但對(duì)于從事存儲(chǔ)管理的專業(yè)人員來(lái)說(shuō),對(duì)“ 大數(shù)據(jù) ”在具體應(yīng)用場(chǎng)景中的特點(diǎn)和區(qū)別有所了解。
對(duì)于存儲(chǔ)管理人員來(lái)說(shuō),大數(shù)據(jù)應(yīng)該分為大數(shù)據(jù)存儲(chǔ)和大數(shù)據(jù)分析,這兩者的關(guān)系是——大數(shù)據(jù)存儲(chǔ)是用于大數(shù)據(jù)分析的。然而,到目前為止這是兩種截然不同的計(jì)算機(jī)技術(shù)領(lǐng)域:大數(shù)據(jù)存儲(chǔ)致力于研發(fā)可以擴(kuò)展至PB甚至EB級(jí)別的數(shù)據(jù)存儲(chǔ)平臺(tái);大數(shù)據(jù)分析關(guān)注在最短時(shí)間內(nèi)處理大量不同類型的數(shù)據(jù)集。
在快速變化的技術(shù)趨勢(shì)中有兩個(gè)特點(diǎn)需要存儲(chǔ)管理人員重視起來(lái)。
第一,大數(shù)據(jù)分析流程和傳統(tǒng)的 數(shù)據(jù)倉(cāng)庫(kù) 的方式完全不同,其已經(jīng)變成了業(yè)務(wù)部門(mén)級(jí)別和數(shù)據(jù)中心級(jí)別的關(guān)鍵應(yīng)用。這也是存儲(chǔ)管理員的切入點(diǎn)。隨著基礎(chǔ)平臺(tái)(分布式計(jì)算或其它架構(gòu))變得業(yè)務(wù)關(guān)鍵化,用戶群較以往更加地依賴這一平臺(tái),這也使得其成為企業(yè)安全性、數(shù)據(jù)保護(hù)和數(shù)據(jù)管理策略的關(guān)鍵課題。
第二,通常用于數(shù)據(jù)分析平臺(tái)的分布式計(jì)算平臺(tái)內(nèi)的存儲(chǔ)不是你以往面對(duì)的網(wǎng)絡(luò)附加存儲(chǔ)(NAS)和存儲(chǔ)區(qū)域網(wǎng)絡(luò)(SAN)——其通常是內(nèi)置的直連存儲(chǔ)(NAS)以及組成集群的分布式計(jì)算節(jié)點(diǎn)。這使得管理大數(shù)據(jù)變得更為復(fù)雜,因?yàn)槟銦o(wú)法像以前那樣對(duì)這些數(shù)據(jù)部署安全、保護(hù)和保存流程。然而,執(zhí)行這些流程策略的必要性被集成在管理分布式計(jì)算集群之中,并且改變了計(jì)算和存儲(chǔ)層交互的方式。
大數(shù)據(jù)分析和傳統(tǒng)的數(shù)據(jù)倉(cāng)庫(kù)的不同
大數(shù)據(jù)分析中包含了各種快速成長(zhǎng)中的技術(shù)。因此,簡(jiǎn)單用某一種技術(shù)嘗試對(duì)其定義,比如分布式計(jì)算,會(huì)比較困難。不過(guò),這些定義大數(shù)據(jù)分析的通用性技術(shù)可以用如下特征闡述:
對(duì)于傳統(tǒng)數(shù)據(jù)倉(cāng)庫(kù)處理流程效率和擴(kuò)展性方面限制的感知。將數(shù)據(jù),不論是結(jié)構(gòu)化還是非結(jié)構(gòu)化數(shù)據(jù)從多個(gè)數(shù)據(jù)源匯聚的能力。以及認(rèn)識(shí)到數(shù)據(jù)的及時(shí)性是擴(kuò)展非結(jié)構(gòu)化數(shù)據(jù)源的關(guān)鍵,其中包括移動(dòng)設(shè)備,RFID,網(wǎng)絡(luò)和不斷增長(zhǎng)的自動(dòng)化感知技術(shù)。
傳統(tǒng)的數(shù)據(jù)倉(cāng)庫(kù)系統(tǒng)通常從現(xiàn)有的關(guān)系型數(shù)據(jù)庫(kù)中抓取數(shù)據(jù)。然而,據(jù)估計(jì)超過(guò)80%的企業(yè)數(shù)據(jù)是非結(jié)構(gòu)化的,即無(wú)法關(guān)系型數(shù)據(jù)庫(kù)管理系統(tǒng)(RDBMS),比如DB2和Oracle完成的數(shù)據(jù)。一般而言,處于此次討論的目的,非結(jié)構(gòu)化數(shù)據(jù)可以看成所有無(wú)法簡(jiǎn)單轉(zhuǎn)化到結(jié)構(gòu)化關(guān)系型數(shù)據(jù)庫(kù)中的所有數(shù)據(jù)。而企業(yè)現(xiàn)在希望從這些非結(jié)構(gòu)化數(shù)據(jù)類型中抽取有價(jià)值的信息,包括:
- 郵件和其它形式的電子通訊記錄
- 網(wǎng)站上的資料,包括點(diǎn)擊量和社交媒體相關(guān)的內(nèi)容
- 數(shù)字視頻和音頻
- 設(shè)備產(chǎn)生的數(shù)據(jù)(RFID,GPS,傳感器產(chǎn)生的數(shù)據(jù),日志文件等)以及物聯(lián)網(wǎng)
在大數(shù)據(jù)分析的情況下,查看遠(yuǎn)多于RDBMS的數(shù)據(jù)類型十分必要——這代表了各種重要的新信息源。并且隨著每年非結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)總量較結(jié)構(gòu)化數(shù)據(jù)增長(zhǎng)率高出10到50倍,從業(yè)務(wù)角度看這些數(shù)據(jù)也變得更為重要。
更重要的數(shù)據(jù)需要更專業(yè)的人員進(jìn)行分析。但傳統(tǒng)的數(shù)據(jù)倉(cāng)庫(kù)技術(shù)對(duì)海量非結(jié)構(gòu)化數(shù)據(jù)的處理根本無(wú)法滿足大數(shù)據(jù)的需求。所以,存儲(chǔ)管理人員也應(yīng)該更快的跟隨技術(shù)潮流,更新自己的技術(shù)和知識(shí)結(jié)構(gòu),提高自己對(duì)大數(shù)據(jù)的管理和分析能力。