在聊Kafka高可靠之前，先在評論區(qū)來波RNG NB好不好!

什么叫可靠性?

大家都知道，系統(tǒng)架構(gòu)有三高：「高性能、高并發(fā)和高可用」，三者的重要性不言而喻。

對于任意系統(tǒng)，想要同時滿足三高都是一件非常困難的事情，大型業(yè)務(wù)系統(tǒng)或者傳統(tǒng)中間件都會搭建復(fù)雜的架構(gòu)來保證。

除以上三種模式之外，還有一個指標方向也很重要，那就是高可靠，甚至你可能會將它和「高可用」混淆起來。

事實上兩者并不一樣，高可用會更偏向于整體服務(wù)的可用性，防止系統(tǒng)宕機等等。而高可靠是指數(shù)據(jù)的可靠性保證嘛，你可以理解”高可靠“相比于系統(tǒng)三高會是一個更細一點的概念。

那么什么是數(shù)據(jù)的高可靠呢，總結(jié)一下就是系統(tǒng)要提供可靠的數(shù)據(jù)支撐，不能發(fā)生丟失、重復(fù)等錯誤現(xiàn)象。

所以每個開源中間件在發(fā)布版本時都會通過文檔聲明自己是超可靠的，就像520那天每一位暖男說的那樣。

咱今天的主角kafka就是這么一個例子。

一些重要概念

因為有一段時間沒講消息隊列了嘛，為了幫助你更好理解文章，我們來先復(fù)習(xí)一下kafka的基礎(chǔ)概念：

• record：消息，消息隊列基礎(chǔ)通信單位。
• topic：主題，目的就是將消息進行分類，不同業(yè)務(wù)類型的消息通常會被分發(fā)到不同的主題。
• partition：分區(qū)，每個主題可以創(chuàng)建多個分區(qū)，每個分區(qū)都由一系列有序和不可變的消息組成。
• replica：副本，每個分區(qū)都有一個至多個副本存在，它的主要作用是存儲保存數(shù)據(jù)，以日志(Log)對象的形式體現(xiàn)。副本又分為leader副本和follower副本。
• offset：偏移量，每一個消息在日志文件中的位置都對應(yīng)一個按序遞增的偏移量，你可以理解為類似數(shù)組的存儲形式。
• producer：生產(chǎn)者，生產(chǎn)消息的那一方。
• consumer：消費者，通常不同的業(yè)務(wù)都會有一到多個消費者組成消費者集群。
• broker：代理，一個Kafka集群由一個或多個Kafka實例構(gòu)成，每一個Kafka實例就稱為代理。

如上圖所示，一共存在主題1和主題2，主題1有兩個分區(qū)，主題2只有一個分區(qū)，并且每個分區(qū)都存在一個leader副本和兩個follower副本，它們分布在每個不同的代理節(jié)點上。

partition里只有l(wèi)eader副本負責與生產(chǎn)者、消費者之間數(shù)據(jù)的交互，follower副本會定期從leader副本拉取數(shù)據(jù)以保證整個集群數(shù)據(jù)可用性。

如何保證數(shù)據(jù)高可靠

Kafka是通過副本機制實現(xiàn)數(shù)據(jù)的存儲的，所以就需要一些機制保證數(shù)據(jù)在跨集群的副本之間能夠可靠地傳輸。

1、副本同步集合

業(yè)務(wù)數(shù)據(jù)封裝成消息在系統(tǒng)中流轉(zhuǎn)，由于各個組件都是分布在不同的服務(wù)器上的，所以主題和生產(chǎn)者、消費者之間的數(shù)據(jù)同步可能存在一定的時間延遲，Kafka通過延遲范圍劃分了幾個不同的集合：

AR(Assigned Replicas)

指的是已經(jīng)分配數(shù)據(jù)的分區(qū)副本，通常指的是leader副本 + follower副本。

ISR(In Sync Replicas)

指的是和leader副本數(shù)據(jù)保持同步的副本集合。當follower副本數(shù)據(jù)和leader副本數(shù)據(jù)保持同步，那么這些副本就處在ISR里面，ISR集合會根據(jù)數(shù)據(jù)的同步狀態(tài)動態(tài)變化。

OSR(Out Sync Replicas)

一旦follower副本的數(shù)據(jù)同步進度跟不上leader了，那么它就會被放進叫做OSR的集合里。也就是這個集合包含的是不處于同步狀態(tài)的分區(qū)副本。

OK，那有什么標準判斷它是同步還是不同步呢?

通過replica.lag.time.max.ms這個參數(shù)來設(shè)置數(shù)據(jù)同步時間差，它的默認值是10s。

一旦從分區(qū)副本和主分區(qū)副本的消息相差10s以上，那么就認為消息處于OSR不同步的狀態(tài)。若follower處于OSR集合里，那么在選取新的leader的時候就不會選舉它作為新leader。

2、ACK應(yīng)答機制

我們剛剛說了kafka是通過ack來發(fā)送數(shù)據(jù)同步信號的，那信號發(fā)送頻率又有幾種設(shè)定呢?

• ack = 0

生產(chǎn)者發(fā)送一次消息就不再發(fā)送。不管是否發(fā)送成功，若發(fā)出去的消息處于通信的路上就丟失，或者還未做磁盤持久化操作，那么消息就可能丟失。

它的好處就是性能很高，你想呀你發(fā)送消息都不需要等待對方回復(fù)就持續(xù)發(fā)送下一批，那么消息等待的時間就節(jié)省出來了。同一時間范圍內(nèi)能比別人處理更多數(shù)據(jù)，缺點就是它的可靠性真的很低，數(shù)據(jù)真的是說丟就丟。

• ack = 1

leader接收到消息并且寫入到本地磁盤后就認為消息處理成功。這種方式可靠性會比上一種好一些，當leader接收到消息并且寫入到本地磁盤后就認為消息處理成功，不論follower是否同步完這條消息就會返回給producer。

但是假如此刻partition leader所在的broker宕機了，如果那么數(shù)據(jù)也可能會丟失，所以follower副本的數(shù)據(jù)同步就很重要。

Kafka默認就采用這種方式。

• ack = -1

producer只有收到分區(qū)內(nèi)所有副本的響應(yīng)ACK才會認為消息已經(jīng)push成功。

這種方式雖然對于數(shù)據(jù)的可靠保障做得很好，但是就是性能很差，影響吞吐量，所以一般也不會采取。

那么它就絕對可靠嗎?也不一定。最重要的還是取決于副本數(shù)據(jù)是否同步完成。若producer收到響應(yīng)消息前l(fā)eader副本掛掉，那么producer會因未收到消息重復(fù)發(fā)送消息，那就可能造成數(shù)據(jù)重復(fù)。怎么解決呢?只要保證業(yè)務(wù)冪等就行。

我們可以通過request.required.acks這個參數(shù)控制消息的發(fā)送頻率。

3、消息語義

消息集群整體是一個復(fù)雜的系統(tǒng)，所以過程中可能會因為各種原因?qū)е孪鬟f出錯，Kafka對于這些可能遇到的場景定義了對應(yīng)的的消息語義。

at most once

它代表消息可能被消費者消費0次或者1次。若場景如下：

• 消息從partition分發(fā)給消費者集群。
• 消費者把自己收到的消息告訴集群，集群收到之后offset就會往后移動。
• 消費者將數(shù)據(jù)入庫做持久化。

你一定想到了。在第三步消費者將消息入庫時若因任何原因消費者A掛了，那么在將消費者切換到集群的消費者B后，數(shù)據(jù)還沒入庫呢。此時partition是渾然不知的呀，那么這就會造成一個問題：數(shù)據(jù)丟失。

at least once

它代表partition分發(fā)的消息至少被消費一次。其通信過程如下：

• 消息從partition分發(fā)給消費者集群。
• 消費者將數(shù)據(jù)入庫做持久化。
• 消費者把自己收到的消息告訴集群，集群收到之后offset就會往后移動。

假設(shè)consumer group在數(shù)據(jù)入庫之后，在將數(shù)據(jù)返回給partition的過程中消費者A掛了，那么partition會因為接收不到響應(yīng)ACK而重新發(fā)送數(shù)據(jù)，此時消費者B可能再次將原先的消息入庫，這就造成了數(shù)據(jù)重復(fù)了。

在沒有做任何冪等性保護的情況下，像重復(fù)轉(zhuǎn)賬，重付疊加積分這種業(yè)務(wù)，那么結(jié)果可能是致命的。

exactly once

代表消息正好能被消費一次，不丟失，不重復(fù)。

在at least once的情況基礎(chǔ)上，假設(shè)consumerA在返回ack給partition的過程中宕機了。那么consumerB不會跟著partition的offset走，它會先去數(shù)據(jù)庫里面查看最新消息對應(yīng)的偏移位，再根據(jù)這個偏移位返回Kafka集群從對應(yīng)的偏移位置出發(fā)，這就可以避免消息重復(fù)和消息丟失。

4、數(shù)據(jù)截斷機制

我們開頭說了真正處理數(shù)據(jù)的是leader副本，follower副本只負責數(shù)據(jù)的同步和保存，那如果因為leader宕機了二者數(shù)據(jù)不一致會怎么樣呢?

在講一致性保證過程之前還需了解兩個Kafka用于表示副本數(shù)據(jù)同步的概念：

HW(High Watermark)：中文翻譯為高水位，用來體現(xiàn)副本間數(shù)據(jù)同步的相對位置，consumer最多只能消費到HW所在的位置，通過HW我們可以判斷數(shù)據(jù)對副本是否可見。

LEO(Log End Offset)：下一條待寫入消息的記錄位置。

leader副本從生產(chǎn)者獲取消息，follower副本實時從leder同步數(shù)據(jù)，此時它們的同步數(shù)據(jù)是一致的都同步到2這個位置，并且下一個寫入的消息都是偏移位4：

假設(shè)因為意外leader發(fā)生宕機，follower即被選為新leader，此后從生產(chǎn)者寫入最新的偏移位4和5：

過了一段時間原leader通過修復(fù)恢復(fù)服務(wù)，它就會發(fā)現(xiàn)自己和新leader的數(shù)據(jù)是不一致的：

為了保證數(shù)據(jù)一致性就必須強行讓一方妥協(xié)。因為數(shù)據(jù)是不斷在刷新的，所以舊leader此時的優(yōu)先級會小于新leader，因此它會將自己的數(shù)據(jù)截斷到與新leader相同的HW和LEO位置，確保和新leader的數(shù)據(jù)一定相同，這就是Kafka數(shù)據(jù)截斷機制。

5、數(shù)據(jù)清理機制

同其它中間件一樣，Kafka的主要作用是通信，所以即使是將數(shù)據(jù)保存在磁盤上它還是會占用一定空間。為了節(jié)約存儲空間它會通過一些機制對過期數(shù)據(jù)進行清理。

日志刪除

日志刪除會直接刪除日志分段，kafka會維護一個定時任務(wù)來周期性檢查和刪除「過期數(shù)據(jù)」。

• 基于時間的日志刪除

它在每一個日志段文件里面都維護一個最大時間戳來確認當前配置的刪除時間，只要日志段寫入新消息該字段都會被更新。一個日志段被寫滿了之后就不會再接收新的消息，它會去創(chuàng)建一個新的日志段文件往里面寫數(shù)據(jù)。

每一個日志段文件被寫滿之后它的最大的時間戳都是保持不變的，Kafka只要通過當前時間與最大時間戳進行比較就可以判斷該日志段文件是否過期。

Kafka默認配置log.retention.hours = 168，也就是7天的日志保留時間。

• 基于容量大小的日志刪除

這和以上是異曲同工的方式， 只不過這次從時間換成了空間。

Kafka會通過每個日志段空間的大小計算一個總?cè)萘块撝?，然后計算出當前的實際空間大小和總?cè)萘块撝档牟钪?，如果這個差值大于單個日志段文件的大小那么就會刪除掉最舊的那個日志段文件，反之則不做任何處理。

同理，這個閾值也可以通過log.retention.bytes參數(shù)來設(shè)置。

日志壓縮

Kafka的消息是由鍵值組成的，如果日志段里存在多條相同key但是不同value的數(shù)據(jù)，那么它會選擇性地清除舊數(shù)據(jù)，保留最近一條記錄。

具體的壓縮方式就是創(chuàng)建一個檢查點文件，從日志起始位置開始遍歷到最大結(jié)束位置，然后把每個消息的key和key對應(yīng)的offset保存在一個固定容量的SkimpyOffsetMap中。

這樣前面的值就會被后面的覆蓋掉，如果日志文件里存在相同的key只有最新的那個會被保留。

總結(jié)

Kafka通過ACK應(yīng)答機制保證了不同組件之間的通信效率，通過副本同步機制、數(shù)據(jù)截斷和數(shù)據(jù)清理機制實現(xiàn)了對于數(shù)據(jù)的管理策略，保證整個系統(tǒng)運行效率。

作為一款高性能又同時兼顧高可靠性的消息中間件來說，Kafka能吹的點實在太多。如果本篇文章對你有所幫助，點擊一下右下角的大拇指，下一次我們來詳細講解Kafka是如何實現(xiàn)副本間數(shù)據(jù)傳遞的。