歷時三個多月的HBase成本優(yōu)化項目按照預期交付了，HBase云數據庫月度成本下降了32.5%，超出預期達成目標。

我們對本次HBase成本優(yōu)化項目進行深度復盤，并進一步嘗試總結云數據庫的FinOps之道。

希望能夠賦能mysql、redis、mongo等其他云數據庫產品實現降本增效，進而給互聯網寒冬環(huán)境下的企業(yè)IT降本增效，提供一個參考思路。

本文將從4個方面進行展開：

• 云數據庫成本挑戰(zhàn)
• 什么是FinOps
• HBase成本優(yōu)化實踐
• 云數據庫FinOps之道

1、云數據庫成本挑戰(zhàn)

在早期，云計算被視為企業(yè)降低IT管理成本、提高業(yè)務敏捷性的重要途徑。尤其是云數據庫，高性能、高可用、彈性使用等特性，“數據庫上云”是降本增效的一個重要途徑。

但是，隨著云數據庫大規(guī)模使用，云產品的成本問題開始顯現。比如我們使用的雙集群HBase，在投入使用2年后，已經成為所有云數據庫類別中，成本占比最大的組件。

如何解決云數據庫成本優(yōu)化問題？尤其在這樣的互聯網寒冬下，是擺在很多技術團隊面前的首要問題。

常見的成本優(yōu)化挑戰(zhàn)包括四種情況：

• 挑戰(zhàn)一：無法準確衡量數據庫資源是否存在浪費
• 挑戰(zhàn)二：縮容、降配等手段效果不明顯，沒啥別的優(yōu)化措施
• 挑戰(zhàn)三：基礎架構團隊很著急，一線業(yè)務團隊不care
• 挑戰(zhàn)四：“運動式”成本優(yōu)化，無法形成長效機制

為了系統(tǒng)化解決這些問題，就需要引入FinOps(云成本優(yōu)化)的概念了。

2、什么是FinOps

FinOps 是“Finance”和“DevOps”的綜合體，也被稱為“云財務管理”、“云成本管理”或“云財務優(yōu)化”等。

FinOps有一個權威組織——FinOps 基金會，FinOps 基金會是Linux 基金會發(fā)起的項目，致力于通過最佳實踐、教育和標準來推動實踐云財務管理學科。

FinOps基金會對FinOps定義如下：

FinOps is an evolving cloud financial management discipline and cultural practice that enables organizations to get maximum business value by helping engineering, finance, technology and business teams to collaborate on data-driven spending decisions.

(Definition Updated: November 2021 by the FinOps Foundation Technical Advisory Council

這里有三點非常關鍵：

• cultural practice文化建設：FinOps的準測與文化需要建設推廣。（自上而下）
• collaborate 跨團隊協作：工程、財務、技術和業(yè)務團隊。（FinOps絕不只是任意一個團隊的工作）
• data-driven 方式：數據驅動。（如何推動協作的關鍵）

此外，FinOps還有幾個非常重要的維度，包括六大原則、角色、循環(huán)方法論、成熟度模型。

3、HBase成本優(yōu)化實踐

參考FinOps六大原則，我們來看看 HBase成本優(yōu)化項目 中如何落地。

（1）團隊協作

原則1:Teams need to collaborate

原則2:Everyone takes ownership for their cloud usage

這兩條原則非常具有現實意義，成本優(yōu)化很難由單一團隊負責，必須各個團隊都把 成本 作為一個關鍵指標，持續(xù)優(yōu)化，提高效率和創(chuàng)新能力。

在HBase成本優(yōu)化項目的 立項之初，我們就提前和各個業(yè)務團隊進行深入溝通，對HBase成本優(yōu)化的 現狀、價值、實施路徑 充分對齊。

因此，在項目開展過程中，各個團隊能結合各自的業(yè)務特點，采用 業(yè)務架構優(yōu)化、數據架構優(yōu)化、云原生技術 等手段，共同朝著HBase成本優(yōu)化的大目標前進。

（2）中心化驅動

原則3:A centralized team drives FinOps

專門有一個團隊來推動FinOps的開展，包括各項流程的推進、基礎設施的搭建等。

本次HBase成本優(yōu)化項目中，采用 項目制 的形式，由基礎架構團隊進行推進，提供了諸如 成本優(yōu)化目標、資源使用狀況、數據增長變化、業(yè)務改造方案支持 等指標與工具。

后續(xù)，我們會開發(fā)一個統(tǒng)一的 FinOps平臺產品，由一個 中心化產品，進行長效持久地推進云數據庫成本優(yōu)化。

（3）可視化數據與報告

原則4:Reports should be accessible and timely

HBase目前是集群模式運作，各個集群都存在業(yè)務團隊共用集群的情況。另外，業(yè)務數量眾多（近百個敏捷組），如何快速識別成本大頭進行優(yōu)化，也是一個重點問題。

因此，本次HBase成本優(yōu)化項目中，充分踐行了 數據驅動 的理念。

• 大數據量識別篩選出單副本大于5T的業(yè)務，共15個敏捷組，占總存儲80%以上
• 高增速識別篩選出增速較快的業(yè)務。
• 優(yōu)化效果指標評判采用腳本統(tǒng)計的方式記錄數據，跟蹤目標業(yè)務的優(yōu)化情況。

這些數據驅動的能力，后續(xù)會沉淀為FinOps平臺上的通用組件能力。

（4）因地制宜，業(yè)務架構優(yōu)化

原則5:Decisions are driven by business value of cloud

獲得成本相關數據后，根據實際業(yè)務價值和使用情況進行成本優(yōu)化決策。

本次HBase成本優(yōu)化項目中，各個業(yè)務團隊充分利用各自業(yè)務特點，進行相關業(yè)務優(yōu)化。

減少副本數

以HBase為例，本身存儲在本地盤的HDFS上，通過三副本機制保證數據不丟失。

為了提高應用穩(wěn)定性，降低單HBase不可用帶來的風險，我們核心服務都配備了雙集群主備架構的HBase。這樣導致了一份數據會存在六個副本，造成了磁盤空間使用率的極速膨脹。

在多副本災備架構下，可以對主備集群內數據都調整為兩副本（去掉replica3、replica6），整體變?yōu)樗母北?，可以降?0%的磁盤空間使用。

某業(yè)務團隊單副本140T數據，六副本840T，磁盤使用率不斷上漲，造成巨大成本壓力。我們通過調整副本數量為四副本（從原來的六副本），有效降低了280T數據的磁盤使用空間。

數據冷熱分離

如果數據量過大，一般可以考慮根據數據生命周期特點，實施冷熱分離、無效數據清理。

關鍵邏輯

• 客戶端寫熱存儲
• 客戶端查詢時，根據 業(yè)務冷熱劃分邏輯 進行路由查詢。
• 遷移任務根據 業(yè)務冷熱劃分邏輯（一般為生產時間或修改時間）進行 查詢&過濾 ，將符合條件的冷數據寫入冷存儲，并且從熱存儲中刪除
• 對賬任務根據遷移任務的記錄日志log，進行定時校驗，確保數據不丟失，校驗無誤后清理log

做好數據壓縮，減少存儲量

對于單value比較大的數據，可以通過數據壓縮算法，如snappy、lz4、gizp等，提高數據壓縮比，降低存儲。

HBase、mongo等數據庫服務端可以做自動壓縮的配置，如果服務端不支持自動壓縮的，可以采用客戶端壓縮后再寫入。

（5）充分利用云產品

原則6:Take advantage of the variable cost model of the cloud

充分利用好不同的云產品計費模型。這個目前其實做得比較多了，比如選擇不同云廠商的不同產品、根據不同場景選擇不同計費模式（ 包年包月、按量付費、serverless等）等。

本次HBase成本優(yōu)化項目中，典型的就是在某個特定業(yè)務場景下，引入了 HBase serverless方案 作為災備集群，降低了普通集群作為災備集群的低效支出。

4、云數據庫FinOps之道

前面聊了HBase成本優(yōu)化實踐的若干原則與具體操作，比較偏重“術”的層面。

下面，我們再結合FinOps的循環(huán)治理方法論，來更全面地思考云數據庫的FinOps之道。

FinOps 基金會建議采用迭代方法來管理云服務的可變成本。最佳實踐包括應持續(xù)管理的三個環(huán)節(jié)：通知、優(yōu)化和運營。

（1）通知(Inform)

核心在于 數據可視化 與 可分配。

業(yè)務團隊和財務利益相關者能夠確保他們在控制預算和準確預測支出的同時提高ROI，避免意外。

同時，也能作為一個業(yè)務團隊的基礎指標，來衡量并提升團隊成本優(yōu)化效率。

數據可視化

俗話說，It you can’t measure it, you can’t manage it。

數據驅動理念在FinOps中同樣處于核心地位。

包括但不限于：

• 資源（CPU/內存/磁盤）使用率
• 資源增長速率
• 資源預算
• 資源實際使用超額比例
• 資源使用預測

準確而全面的可視化，可以較好解決成本優(yōu)化的挑戰(zhàn)一，精準衡量是否存在資源浪費的情況。

可分配

對于所有云上資源，都要盡可能精細化、準確 分配到各個實際使用團隊上。

目前在微服務架構下，單實例類型的組件比較容易跟上游應用綁定，進而分配到具體業(yè)務團隊。但是集群類型的組件（如HBase)，仍然需要做進一步細粒度的計算與分配。

（2）優(yōu)化(Optimize)

一旦資源優(yōu)化指標準確綁定到 實際使用團隊后，就可以開展各項優(yōu)化工作。

最基礎的方式，是根據數據使用率指標，對空閑資源進行降配、縮容等方式。

更深度的優(yōu)化，需要結合實際業(yè)務場景，參考3.4的內容，實施 減少副本數、冷熱分離、數據壓縮、充分利用云產品 等手段。（解決挑戰(zhàn)二）

（3）運營(Oprate)

文化建設

通過FinOps進行成本優(yōu)化的文化建設是首要條件。必須自上而下推行這種意識和相關的獎懲制度。

讓基礎團隊、業(yè)務團隊認識到這項工作不是某個人、某個團隊的事情，而是各個團隊在架構設計、技術優(yōu)化、績效達成中的關鍵任務。（解決挑戰(zhàn)三）

如果沒有自上而下推行這種文化，FinOps肯定無法落地，更不用談長期機制了。

自動化流程與機制

為了使FinOps成為一種長期機制，除了文化建設外，必須將人工流程自動化。

從 數據化、成本問題識別、任務分配、優(yōu)化完成、數據追蹤 等環(huán)節(jié)入手，將一整套流程以平臺產品的形式沉淀下來。

轉變”運動式“優(yōu)化的困境，形成真正的長期機制。（解決挑戰(zhàn)四）

5、小結

本文從云數據庫成本挑戰(zhàn)引入FinOps的概念，結合HBase成本優(yōu)化項目闡述了FinOps的具體原則與實踐案例。

最后總結了云數據庫FinOps之道，形成數據庫成本優(yōu)化真正的閉環(huán)解決方案，形成長效機制，徹底解決四種常見成本優(yōu)化挑戰(zhàn)。