HBase性能深度分析
對于BigTable類型的分布式數(shù)據(jù)庫應(yīng)用來說，用戶往往會對其性能狀況有極大的興趣，這其中又對實時數(shù)據(jù)插入性能更為關(guān)注。HBase作為BigTable的一個實現(xiàn)，在這方面的性能會如何呢？這就需要通過測試數(shù)據(jù)來說話了。
數(shù)據(jù)插入性能測試的設(shè)計場景是這樣的：取隨機值的Rowkey長度為2000字節(jié)，固定值的Value長度為4000字節(jié)，由于單行Row插入速度太快，系統(tǒng)統(tǒng)計精度不夠，所以將插入500行Row做一次耗時統(tǒng)計。
這里要對HBase的特點做個說明，首先是Rowkey值為何取隨機數(shù)，這是因為HBase是對Rowkey進行排序的，隨機Rowkey將被分配 到不同的region上，這樣才能發(fā)揮出分布式數(shù)據(jù)庫的性能優(yōu)點。而Value對于HBase來說不會進行任何解析，其數(shù)據(jù)是否變化，對性能是不應(yīng)該有任 何影響的。同時為了簡單起見，所有的數(shù)據(jù)都將只插入到一個表格的同一個Column中。
初次分析
在測試之初，需要對集群進行調(diào)優(yōu)，關(guān)閉可能大量耗費內(nèi)存、帶寬以及CPU的服務(wù)（例如Apache的HTTP服務(wù)），保持集群的寧靜度。此外，為了保證測試不受干擾，HBase的集群系統(tǒng)需要被獨立，以保證不與HDFS所在的Hadoop集群有所交叉。
實驗
那么做好一切準備之后，就開始進行數(shù)據(jù)灌入，客戶端從Zookeeper上查詢到Regionserver的地址后，開始源源不斷地向HBase的Regionserver上喂入Row。
這里，我寫了一個通過JFreeChart來實時生成圖片的程序，每3分鐘，喂數(shù)據(jù)的客戶端會將獲取到的耗時統(tǒng)計打印在一張十字坐標圖中，這些圖又被保存在制定的Web站點中，并通過HTTP服務(wù)展示出來。在通過長時間不間斷的測試后，我得到了圖1。
圖1 插入Row的性能測試
圖1好似一條直線上，每隔一段時間就會泛起一個波浪，且兩個高峰之間必有一個較矮的波浪。高峰的間隔呈現(xiàn)出越來越大的趨勢，而較矮的波浪恰好處于兩高峰的中間位置。
解讀
為了解釋，我對HDFS上HBase所在的主目錄下文件，以及被插入表格的region情況進行了實時監(jiān)控，以期發(fā)現(xiàn)這些波浪上發(fā)生了什么事情。
回溯到客戶端喂入數(shù)據(jù)的開始階段，創(chuàng)建表格，在HDFS上便被創(chuàng)建了一個與表格同名的目錄，該目錄下將出現(xiàn)第一個region，region中會以 family名創(chuàng)建一個目錄，這個目錄下才存在記錄具體數(shù)據(jù)的文件。同時在該表表名目錄下，還會生成一個“compaction.dir”目錄，該目錄將 在family名目錄下region文件超過指定數(shù)目時用于合并region。當?shù)谝粋€region目錄出現(xiàn)時，內(nèi)存中最初被寫入的數(shù)據(jù)將被保存到該文件 中，這個間隔是由選項“hbase.hregion.memstore.flush.size”決定的，默認是64MB，該region所在的 Regionserver的內(nèi)存中一旦有超過64MB的數(shù)據(jù)時，就將被寫入到region文件中。這個文件將不斷增殖，直到超過由 “hbase.hregion.max.filesize”決定的文件大?。J是256MB，此時加上內(nèi)存刷入的數(shù)據(jù)，實際最大可能到 256MB+64MB）時，該region將被執(zhí)行split，立即被一切為二，其過程是在該目錄下創(chuàng)建一個名為“.splits”的目錄作為標記，然后 由Regionserver將文件信息讀取進來，分別寫入到兩個新的region目錄中，最后再將老的region刪除。這里的標記目錄 “.splits”可以避免在split過程中發(fā)生其他操作，起到類似于多線程安全的鎖功能。在新的region中，從老的region中切分出的數(shù)據(jù)獨 立為一個文件并不再接收新的數(shù)據(jù)（該文件大小超過了64MB，最大可達到（256+64）/2=160MB）），內(nèi)存中新的數(shù)據(jù)將被保存到一個重新創(chuàng)建的 文件中，該文件大小將為64MB。內(nèi)存每刷新一次，region所在的目錄下就將增加一個64MB的文件，直到總文件數(shù)超過由 “hbase.hstore.compactionThreshold”指定的數(shù)量時（默認為3），compaction過程就將被觸發(fā)了。在上述值為3 時，此時該region目錄下，實際文件數(shù)只有兩個，還有額外的一個正處于內(nèi)存中將要被刷入到磁盤的過程中。Compaction過程是HBase的一個 大動作。HBase不僅要將這些文件轉(zhuǎn)移到“compaction.dir”目錄進行壓縮，而且在壓縮后的文件超過256MB時，還必須立即進行 split動作。這一系列行為在HDFS上可謂是翻山倒海，影響頗大。待Compaction結(jié)束之后，后續(xù)的split依然會持續(xù)一小段時間，直到所有 的region都被切割分配完畢，HBase才會恢復平靜并等待下一次數(shù)據(jù)從內(nèi)存寫入到HDFS。
圖2 再次的數(shù)據(jù)插入測試
理解了上述過程，就必然會對HBase的數(shù)據(jù)插入性能為何是圖1所示的曲線的原因一目了然。與X軸幾乎平行的直線，表明數(shù)據(jù)正在被寫入HBase的 Regionserver所在機器的內(nèi)存中。而較低的波峰意味著Regionserver正在將內(nèi)存寫入到HDFS上，較高的波峰意味著 Regionserver不僅正在將內(nèi)存刷入到HDFS，而且還在執(zhí)行Compaction和Split兩種操作。如果調(diào)整 “hbase.hstore.compactionThreshold”的值為一個較大的數(shù)量，例如改成5，可以預(yù)見，在每兩個高峰之間必然會等間隔地出 現(xiàn)三次較低的波峰，并可預(yù)見到，高峰的高度將遠超過上述值為3時的高峰高度（因為Compaction的工作更為艱巨）。由于region數(shù)量由少到多， 而我們插入的Row的Rowkey是隨機的，因此每一個region中的數(shù)據(jù)都會均勻的增加，同一段時間插入的數(shù)據(jù)將被分布到越來越多的region上， 因此波峰之間的間隔時間也將會越來越長。
再次理解上述論述，我們可以推斷出HBase的數(shù)據(jù)插入性能實際上應(yīng)該被分為三種情況：直線狀態(tài)、低峰狀態(tài)和高峰狀態(tài)。在這三種情況下得到的性能數(shù) 據(jù)才是最終HBase數(shù)據(jù)插入性能的真實描述。那么提供給用戶的數(shù)據(jù)該是采取哪一個呢？我認為直線狀態(tài)由于所占時間會較長，尤其在用戶寫入數(shù)據(jù)的速度也許 并不是那么快的情況下，所以這個狀態(tài)下得到的性能數(shù)據(jù)結(jié)果更應(yīng)該提供給用戶。
圖3 圖1的數(shù)據(jù)分布圖
再度分析
前面的HBase性能深度分析，提出了一個猜想，是關(guān)于調(diào)整“hbase.hstore.compaction-Threshold”值的假設(shè)。猜 想的內(nèi)容為：如果改變該值，例如調(diào)整為5，那么耗時圖形會在每兩個高峰之間出現(xiàn)等間隔的三次較低的波峰，并且高峰將會更加突出，超過上述值較低時的波峰高 度。
為了證明這個猜想，我將“hbase.hstore.compactionThreshold”值調(diào)整為5，并重新做了數(shù)據(jù)插入測試，一段時間后， 得到如圖2所示的性能圖形（Y軸表示耗時，X軸為插入次數(shù)，Sandy建議這里的Y軸應(yīng)該改為插入速度，但是由于前次已經(jīng)使用了耗時為Y軸，因此改變Y軸 顯示的工作只能放到下次測試中了）。
通過相比發(fā)現(xiàn)，圖1和圖2的Y軸比例尺是不同的，圖1中Y軸最大為30秒，圖2中最大為50秒?？梢娂僭O(shè)中聲稱低峰會在兩個高峰之間等間隔的出現(xiàn)3 次的現(xiàn)象的確是成立的。當高峰出現(xiàn)第5次以后，可以從圖2看到代表耗時的點的高峰段已經(jīng)達到了25秒以上，而對于前次來說，高峰段基本上處于20秒左右， 由此可以認為Compaction的壓力的確是增加了。現(xiàn)在換一個角度來分析這一情況。我為圖1制作了一張數(shù)據(jù)分布圖（圖3），與圖2進行比較（圖4）。
雖說第二次測試經(jīng)歷的時間不如第一次，但是基于統(tǒng)計學的觀點，分布圖的外形是不會受樣本容量大小影響的，因此圖3和圖4可以進行外觀上的比較。這兩 張分布圖都是典型的正態(tài)分布圖，但又不是標準正態(tài)分布，原因在于，波峰段的數(shù)據(jù)影響了正態(tài)分布的標準性，表現(xiàn)之一在于右側(cè)的長尾，表現(xiàn)之二在于眾數(shù)所在位 置右移，以至于左側(cè)凸顯了一個小波峰。
圖4 圖2的數(shù)據(jù)分布圖
計算本次分布圖與前次分布圖中位于右側(cè)長尾部分的數(shù)據(jù)的標準差（計算公式：），我們可以得到前次右側(cè)標準差為4.10390692438，而本次右側(cè)標準差為7.12068861446，說明高峰段影響的數(shù)據(jù)右偏更為嚴重了。
從外觀上表現(xiàn)在右側(cè)長尾在整圖比例尺中的寬度和高度要大于前次分布圖中的右側(cè)長尾。這說明Compaction的壓力增大了。
推導到這里，我發(fā)現(xiàn)右側(cè)標準差與Compaction的壓力之間是存在顯著關(guān)系的，今后對Compaction壓力增減的估算，貌似可以轉(zhuǎn)換為對右 側(cè)標準差的計算。壓力增加的比率是否等于標準差的比值呢？這里先做一個標記，等后面有時間再仔細思考一下這個問題。現(xiàn)在假設(shè)中的說法“高峰將會更加突出， 超過上述值較低時的波峰高度”，應(yīng)該算是被證明了。
以上論證結(jié)束之后，按照慣例還是要提出一些假設(shè)和推斷。
HBase在已經(jīng)發(fā)布的0.90.x版對Compaction和Split機制作了調(diào)整，將Split過程提到了Compaction之前，也就是 說，當region目錄下，HFiles數(shù)目超過“hbase.hstore.compactionThreshold”指定值之 后，Regionserver會首先計算一下Compaction之后的文件大小是否會超過“hbase.hregion.max.filesize”確 定的Split上限大小，如果超過了，那么HFiles首先被切分，然后才會將切分好的文件轉(zhuǎn)移到新的region中Compaction。這樣將大大減 小Compaction的壓力，由此可以推斷，HBase的性能調(diào)優(yōu)必然與“hbase.hstore.compactionThreshold”和 “hbase.hregion.max.filesize”這兩個值的大小息息相關(guān)。理論上，可以將某次設(shè)定了確定值的實驗中獲得的數(shù)據(jù)代入到一個特定公 式中，上述兩值作為該公式的自變量，其應(yīng)變量，即性能數(shù)據(jù)，將可以輕松地計算出來。
是否真的如此，且待進一步的詳細測試。
【編輯推薦】
