Lustre名字是由Linux和Clusters演化而來，是為解決海量存儲問題而設(shè)計(jì)的全新文件系統(tǒng)。是下一代的集群文件系統(tǒng)，可支持10,000個(gè)節(jié)點(diǎn)，PB的存儲量，100GB/S的傳輸速度，***的安全性和可管理性。 目前Lustre已經(jīng)運(yùn)用在一些領(lǐng)域，例如HP SFS產(chǎn)品等。

集群存儲簡介：
在集群里，一組獨(dú)立的節(jié)點(diǎn)或主機(jī)可以象一個(gè)系統(tǒng)一樣步調(diào)一致地工作。整個(gè)集群只有唯一的命名空間。廠商們也已經(jīng)制造了一些軟件和硬件設(shè)備，它們可以把不相干的文件系統(tǒng)融合成只使用一個(gè)命名空間的文件系統(tǒng)。用戶可以訪問并共享其他用戶的數(shù)據(jù)，而無需考慮是什么介質(zhì)或其所處的是哪臺主機(jī)。

集群存儲系統(tǒng)需要解決的最基本的問題：
（1）提供共享訪問數(shù)據(jù)，便于集群應(yīng)用程序的編寫和存儲的負(fù)載均衡；
（2）提供高性能的存儲，在I/O級和數(shù)據(jù)吞吐率方面能滿足成百上千臺規(guī)模的Linux集群服務(wù)器聚合訪問的需求。

與分布式文件系統(tǒng)相比：
數(shù)據(jù)不需要從一個(gè)文件系統(tǒng)拷貝或復(fù)制到另一個(gè)文件系統(tǒng)，通過集群系統(tǒng)共享應(yīng)用和數(shù)據(jù)的任務(wù)執(zhí)行起來要比在單獨(dú)的設(shè)備上執(zhí)行快得多；
集群可以為文件和文件系統(tǒng)提供更多的空間；
因?yàn)橹恍枰芾硪粋€(gè)文件系統(tǒng)，而不再是每個(gè)存儲設(shè)備或主機(jī)都需要一個(gè)文件系統(tǒng)，管理也更容易了；如果集群內(nèi)的某臺服務(wù)器出現(xiàn)了故障，另一臺服務(wù)器就可以把它的工作接手過來，故障恢復(fù)也成為了現(xiàn)實(shí)；
用戶也可以同時(shí)對位于其網(wǎng)絡(luò)上的存儲設(shè)備里的所有文件進(jìn)行訪問。

二、對象存儲文件系統(tǒng)

2.1 對象存儲文件系統(tǒng)架構(gòu)

對象存儲文件系統(tǒng)的核心是將數(shù)據(jù)通路（數(shù)據(jù)讀或?qū)懀┖涂刂仆罚ㄔ獢?shù)據(jù)）分離，并且基于對象存儲設(shè)備（Object-based Storage Device，OSD）構(gòu)建存儲系統(tǒng)，每個(gè)對象存儲設(shè)備具有一定的智能，能夠自動管理其上的數(shù)據(jù)分布，對象存儲文件系統(tǒng)通常有以下幾部分組成。

1、對象

對象是系統(tǒng)中數(shù)據(jù)存儲的基本單位，一個(gè)對象實(shí)際上就是文件的數(shù)據(jù)和一組屬性的組合，這些屬性可以定義基于文件的RAID參數(shù)、數(shù)據(jù)分布和服務(wù)質(zhì)量等，而傳統(tǒng)的存儲系統(tǒng)中用文件或塊作為基本的存儲單位，在塊存儲系統(tǒng)中還需要始終追蹤系統(tǒng)中每個(gè)塊的屬性，對象通過與存儲系統(tǒng)通信維護(hù)自己的屬性。在存儲設(shè)備中，所有對象都有一個(gè)對象標(biāo)識，通過對象標(biāo)識OSD命令訪問該對象。通常有多種類型的對象，存儲設(shè)備上的根對象標(biāo)識存儲設(shè)備和該設(shè)備的各種屬性，組對象是存儲設(shè)備上共享資源管理策略的對象集合等。

2、對象存儲設(shè)備

對象存儲設(shè)備具有一定的智能，它有自己的CPU、內(nèi)存、網(wǎng)絡(luò)和磁盤系統(tǒng)，目前國際上通常采用刀片式結(jié)構(gòu)實(shí)現(xiàn)對象存儲設(shè)備。OSD提供三個(gè)主要功能：

（1） 數(shù)據(jù)存儲。OSD管理對象數(shù)據(jù)，并將它們放置在標(biāo)準(zhǔn)的磁盤系統(tǒng)上，OSD不提供塊接口訪問方式，Client請求數(shù)據(jù)時(shí)用對象ID、偏移進(jìn)行數(shù)據(jù)讀寫。

（2） 智能分布。OSD用其自身的CPU和內(nèi)存優(yōu)化數(shù)據(jù)分布，并支持?jǐn)?shù)據(jù)的預(yù)取。由于OSD可以智能地支持對象的預(yù)取，從而可以優(yōu)化磁盤的性能。

（3）每個(gè)對象元數(shù)據(jù)的管理。OSD管理存儲在其上對象的元數(shù)據(jù)，該元數(shù)據(jù)與傳統(tǒng)的inode元數(shù)據(jù)相似，通常包括對象的數(shù)據(jù)塊和對象的長度。而在傳統(tǒng)的NAS 系統(tǒng)中，這些元數(shù)據(jù)是由文件服務(wù)器維護(hù)的，對象存儲架構(gòu)將系統(tǒng)中主要的元數(shù)據(jù)管理工作由OSD來完成，降低了Client的開銷。

3、元數(shù)據(jù)服務(wù)器（Metadata Server，MDS）

MDS控制Client與OSD對象的交互，主要提供以下幾個(gè)功能：

（1） 對象存儲訪問。MDS構(gòu)造、管理描述每個(gè)文件分布的視圖，允許Client直接訪問對象。MDS為Client提供訪問該文件所含對象的能力，OSD在接收到每個(gè)請求時(shí)將先驗(yàn)證該能力，然后才可以訪問。

（2） 文件和目錄訪問管理。MDS在存儲系統(tǒng)上構(gòu)建一個(gè)文件結(jié)構(gòu)，包括限額控制、目錄和文件的創(chuàng)建和刪除、訪問控制等。

（3） Client Cache一致性。為了提高Client性能，在對象存儲文件系統(tǒng)設(shè)計(jì)時(shí)通常支持Client方的Cache。由于引入Client方的Cache，帶來了Cache一致性問題，MDS支持基于Client的文件Cache，當(dāng)Cache的文件發(fā)生改變時(shí)，將通知Client刷新Cache，從而防止Cache不一致引發(fā)的問題。

優(yōu)勢： Lustre是基于對象的存儲系統(tǒng)，減少元數(shù)據(jù)服務(wù)器的inode。

Lustre實(shí)際上還是將數(shù)據(jù)條帶化到各個(gè)存儲目標(biāo)上，所以可以實(shí)現(xiàn)高度聚合io能力。
Lustre原生態(tài)支持海量小文件讀寫。且對大文件讀寫在linux內(nèi)核做了特殊優(yōu)化。

工作：
但是Lustre是個(gè)對用戶透明的share文件系統(tǒng)，條帶化數(shù)據(jù)的"位置信息"不能很***的暴露出來。所以要用上Hadoop的map/reduce優(yōu)勢還有許多工作要做。

實(shí)現(xiàn)廉價(jià)的Lustre容錯冗余機(jī)制，實(shí)現(xiàn)基于對象的副本復(fù)制策略。

不足:還有目前Lustre只能部署在linux特定內(nèi)核的平臺上，需要對內(nèi)核打補(bǔ)丁，限制lustre的普及。

Lustre容錯機(jī)制采用對每個(gè)OSS采用RAID方法，成本昂貴，需要通過副本的方式實(shí)現(xiàn)廉價(jià)的容錯。