前言

MySQL日志 主要包括錯誤日志、查詢?nèi)罩?、慢查詢?nèi)罩尽⑹聞?wù)日志、二進制日志幾大類。其中，比較重要的還要屬二進制日志binlog（歸檔日志）和事務(wù)日志redo log（重做日志）和undo log（回滾日志）。

今天就來聊聊redo log（重做日志）、binlog（歸檔日志）、兩階段提交、undo log（回滾日志）。

redo log

redo log（重做日志）是InnoDB存儲引擎獨有的，它讓MySQL擁有了崩潰恢復(fù)能力。

比如MySQL實例掛了或宕機了，重啟時，InnoDB存儲引擎會使用redo log恢復(fù)數(shù)據(jù)，保證數(shù)據(jù)的持久性與完整性。

MySQL中數(shù)據(jù)是以頁為單位，你查詢一條記錄，會從硬盤把一頁的數(shù)據(jù)加載出來，加載出來的數(shù)據(jù)叫數(shù)據(jù)頁，會放入到Buffer Pool中。

后續(xù)的查詢都是先從Buffer Pool中找，沒有命中再去硬盤加載，減少硬盤IO開銷，提升性能。

更新表數(shù)據(jù)的時候，也是如此，發(fā)現(xiàn)Buffer Pool里存在要更新的數(shù)據(jù)，就直接在Buffer Pool里更新。

然后會把“在某個數(shù)據(jù)頁上做了什么修改”記錄到重做日志緩存（redo log buffer）里，接著刷盤到redo log文件里。

理想情況，事務(wù)一提交就會進行刷盤操作，但實際上，刷盤的時機是根據(jù)策略來進行的。

小貼士：每條 redo 記錄由“表空間號+數(shù)據(jù)頁號+偏移量+修改數(shù)據(jù)長度+具體修改的數(shù)據(jù)”組成

刷盤時機

InnoDB存儲引擎為redo log的刷盤策略提供了innodb_flush_log_at_trx_commit參數(shù)，它支持三種策略：

• 0：設(shè)置為 0 的時候，表示每次事務(wù)提交時不進行刷盤操作
• 1：設(shè)置為 1 的時候，表示每次事務(wù)提交時都將進行刷盤操作（默認值）
• 2：設(shè)置為 2 的時候，表示每次事務(wù)提交時都只把 redo log buffer 內(nèi)容寫入 page cache

innodb_flush_log_at_trx_commit參數(shù)默認為 1 ，也就是說當事務(wù)提交時會調(diào)用fsync對 redo log 進行刷盤

另外，InnoDB存儲引擎有一個后臺線程，每隔1秒，就會把redo log buffer中的內(nèi)容寫到文件系統(tǒng)緩存（page cache），然后調(diào)用fsync刷盤。

也就是說，一個沒有提交事務(wù)的redo log記錄，也可能會刷盤。

為什么呢？

因為在事務(wù)執(zhí)行過程redo log記錄是會寫入redo log buffer中，這些redo log記錄會被后臺線程刷盤。

除了后臺線程每秒1次的輪詢操作，還有一種情況，當redo log buffer占用的空間即將達到innodb_log_buffer_size一半的時候，后臺線程會主動刷盤。

下面是不同刷盤策略的流程圖。

(1) innodb_flush_log_at_trx_commit=0

為0時，如果MySQL掛了或宕機可能會有1秒數(shù)據(jù)的丟失。

(2) innodb_flush_log_at_trx_commit=1

為1時， 只要事務(wù)提交成功，redo log記錄就一定在硬盤里，不會有任何數(shù)據(jù)丟失。

如果事務(wù)執(zhí)行期間MySQL掛了或宕機，這部分日志丟了，但是事務(wù)并沒有提交，所以日志丟了也不會有損失。

(3) innodb_flush_log_at_trx_commit=2

為2時， 只要事務(wù)提交成功，redo log buffer中的內(nèi)容只寫入文件系統(tǒng)緩存（page cache）。

如果僅僅只是MySQL掛了不會有任何數(shù)據(jù)丟失，但是宕機可能會有1秒數(shù)據(jù)的丟失。

日志文件組

硬盤上存儲的redo log日志文件不只一個，而是以一個日志文件組的形式出現(xiàn)的，每個的redo日志文件大小都是一樣的。

比如可以配置為一組4個文件，每個文件的大小是1GB，整個redo log日志文件組可以記錄4G的內(nèi)容。

它采用的是環(huán)形數(shù)組形式，從頭開始寫，寫到末尾又回到頭循環(huán)寫，如下圖所示。

在個日志文件組中還有兩個重要的屬性，分別是write pos、checkpoint：

• write pos是當前記錄的位置，一邊寫一邊后移
• checkpoint是當前要擦除的位置，也是往后推移

每次刷盤redo log記錄到日志文件組中，write pos位置就會后移更新。

每次MySQL加載日志文件組恢復(fù)數(shù)據(jù)時，會清空加載過的redo log記錄，并把checkpoint后移更新。

write pos和checkpoint之間的還空著的部分可以用來寫入新的redo log記錄。

如果write pos追上checkpoint，表示日志文件組滿了，這時候不能再寫入新的redo log記錄，MySQL得停下來，清空一些記錄，把checkpoint推進一下。

redo log 小結(jié)

相信大家都知道redo log的作用和它的刷盤時機、存儲形式。

現(xiàn)在我們來思考一個問題：只要每次把修改后的數(shù)據(jù)頁直接刷盤不就好了，還有redo log什么事？

它們不都是刷盤么？差別在哪里？

• 1Byte=8bit
• 1KB=1024Byte
• 1MB=1024KB
• 1GB=1024MB
• 1TB=1024GB

實際上，數(shù)據(jù)頁大小是16KB，刷盤比較耗時，可能就修改了數(shù)據(jù)頁里的幾Byte數(shù)據(jù)，有必要把完整的數(shù)據(jù)頁刷盤嗎？

而且數(shù)據(jù)頁刷盤是隨機寫，因為一個數(shù)據(jù)頁對應(yīng)的位置可能在硬盤文件的隨機位置，所以性能是很差。

如果是寫redo log，一行記錄可能就占幾十Byte，只包含表空間號、數(shù)據(jù)頁號、磁盤文件偏移 量、更新值，再加上是順序?qū)懀运⒈P速度很快。

所以用redo log形式記錄修改內(nèi)容，性能會遠遠超過刷數(shù)據(jù)頁的方式，這也讓數(shù)據(jù)庫的并發(fā)能力更強。

其實內(nèi)存的數(shù)據(jù)頁在一定時機也會刷盤，我們把這稱為頁合并，講Buffer Pool的時候會對這塊細說

binlog

redo log它是物理日志，記錄內(nèi)容是“在某個數(shù)據(jù)頁上做了什么修改”，屬于InnoDB存儲引擎。

而binlog是邏輯日志，記錄內(nèi)容是語句的原始邏輯，類似于“給 ID=2 這一行的 c 字段加 1”，屬于MySQL Server層。

不管用什么存儲引擎，只要發(fā)生了表數(shù)據(jù)更新，都會產(chǎn)生binlog日志。

那binlog到底是用來干嘛的？

可以說MySQL數(shù)據(jù)庫的數(shù)據(jù)備份、主備、主主、主從都離不開binlog，需要依靠binlog來同步數(shù)據(jù)，保證數(shù)據(jù)一致性。

binlog會記錄所有涉及更新數(shù)據(jù)的邏輯操作，并且是順序?qū)憽?/p>

(1) 記錄格式

binlog日志有三種格式，可以通過binlog_format參數(shù)指定。

• statement
• row
• mixed

指定statement，記錄的內(nèi)容是SQL語句原文，比如執(zhí)行一條update T set update_time=now() where id=1，記錄的內(nèi)容如下。

同步數(shù)據(jù)時，會執(zhí)行記錄的SQL語句，但是有個問題，update_time=now()這里會獲取當前系統(tǒng)時間，直接執(zhí)行會導(dǎo)致與原庫的數(shù)據(jù)不一致。

為了解決這種問題，我們需要指定為row，記錄的內(nèi)容不再是簡單的SQL語句了，還包含操作的具體數(shù)據(jù)，記錄內(nèi)容如下。

row格式記錄的內(nèi)容看不到詳細信息，要通過mysqlbinlog工具解析出來。

update_time=now()變成了具體的時間update_time=1627112756247，條件后面的@1、@2、@3 都是該行數(shù)據(jù)第 1 個~3 個字段的原始值（假設(shè)這張表只有 3 個字段）。

這樣就能保證同步數(shù)據(jù)的一致性，通常情況下都是指定為row，這樣可以為數(shù)據(jù)庫的恢復(fù)與同步帶來更好的可靠性。

但是這種格式，需要更大的容量來記錄，比較占用空間，恢復(fù)與同步時會更消耗IO資源，影響執(zhí)行速度。

所以就有了一種折中的方案，指定為mixed，記錄的內(nèi)容是前兩者的混合。

MySQL會判斷這條SQL語句是否可能引起數(shù)據(jù)不一致，如果是，就用row格式，否則就用statement格式。

(2) 寫入機制

binlog的寫入時機也非常簡單，事務(wù)執(zhí)行過程中，先把日志寫到binlog cache，事務(wù)提交的時候，再把binlog cache寫到binlog文件中。

因為一個事務(wù)的binlog不能被拆開，無論這個事務(wù)多大，也要確保一次性寫入，所以系統(tǒng)會給每個線程分配一個塊內(nèi)存作為binlog cache。

我們可以通過binlog_cache_size參數(shù)控制單個線程 binlog cache 大小，如果存儲內(nèi)容超過了這個參數(shù)，就要暫存到磁盤（Swap）。

binlog日志刷盤流程如下：

• 上圖的 write，是指把日志寫入到文件系統(tǒng)的 page cache，并沒有把數(shù)據(jù)持久化到磁盤，所以速度比較快
• 上圖的 fsync，才是將數(shù)據(jù)持久化到磁盤的操作

write和fsync的時機，可以由參數(shù)sync_binlog控制，默認是0。

為0的時候，表示每次提交事務(wù)都只write，由系統(tǒng)自行判斷什么時候執(zhí)行fsync。

雖然性能得到提升，但是機器宕機，page cache里面的 binglog 會丟失。

為了安全起見，可以設(shè)置為1，表示每次提交事務(wù)都會執(zhí)行fsync，就如同binlog 日志刷盤流程一樣。

最后還有一種折中方式，可以設(shè)置為N(N>1)，表示每次提交事務(wù)都write，但累積N個事務(wù)后才fsync。

在出現(xiàn)IO瓶頸的場景里，將sync_binlog設(shè)置成一個比較大的值，可以提升性能。

同樣的，如果機器宕機，會丟失最近N個事務(wù)的binlog日志。

(3) 兩階段提交

• redo log（重做日志）讓InnoDB存儲引擎擁有了崩潰恢復(fù)能力。
• binlog（歸檔日志）保證了MySQL集群架構(gòu)的數(shù)據(jù)一致性。

雖然它們都屬于持久化的保證，但是則重點不同。

在執(zhí)行更新語句過程，會記錄redo log與binlog兩塊日志，以基本的事務(wù)為單位，redo log在事務(wù)執(zhí)行過程中可以不斷寫入，而binlog只有在提交事務(wù)時才寫入，所以redo log與binlog的寫入時機不一樣。

回到正題，redo log與binlog兩份日志之間的邏輯不一致，會出現(xiàn)什么問題？

我們以update語句為例，假設(shè)id=2的記錄，字段c值是0，把字段c值更新成1，SQL語句為update T set c=1 where id=2。

假設(shè)執(zhí)行過程中寫完redo log日志后，binlog日志寫期間發(fā)生了異常，會出現(xiàn)什么情況呢？

由于binlog沒寫完就異常，這時候binlog里面沒有對應(yīng)的修改記錄。因此，之后用binlog日志恢復(fù)數(shù)據(jù)時，就會少這一次更新，恢復(fù)出來的這一行c值是0，而原庫因為redo log日志恢復(fù)，這一行c值是1，最終數(shù)據(jù)不一致。

為了解決兩份日志之間的邏輯一致問題，InnoDB存儲引擎使用兩階段提交方案。

原理很簡單，將redo log的寫入拆成了兩個步驟prepare和commit，這就是兩階段提交。

使用兩階段提交后，寫入binlog時發(fā)生異常也不會有影響，因為MySQL根據(jù)redo log日志恢復(fù)數(shù)據(jù)時，發(fā)現(xiàn)redo log還處于prepare階段，并且沒有對應(yīng)binlog日志，就會回滾該事務(wù)。

再看一個場景，redo log設(shè)置commit階段發(fā)生異常，那會不會回滾事務(wù)呢？

并不會回滾事務(wù)，它會執(zhí)行上圖框住的邏輯，雖然redo log是處于prepare階段，但是能通過事務(wù)id找到對應(yīng)的binlog日志，所以MySQL認為是完整的，就會提交事務(wù)恢復(fù)數(shù)據(jù)。

undo log

數(shù)據(jù)庫事務(wù)四大特性中有一個是原子性，具體來說就是原子性是指對數(shù)據(jù)庫的一系列操作，要么全部成功，要么全部失敗，不可能出現(xiàn)部分成功的情況。

我們知道如果想要保證事務(wù)的原子性，就需要在異常發(fā)生時，對已經(jīng)執(zhí)行的操作進行回滾，在 MySQL 中，恢復(fù)機制是通過回滾日志（undo log）實現(xiàn)的，所有事務(wù)進行的修改都會先先記錄到這個回滾日志中，然后再執(zhí)行相關(guān)的操作。

如果執(zhí)行過程中遇到異常的話，我們直接利用回滾日志中的信息將數(shù)據(jù)回滾到修改之前的樣子即可！并且，回滾日志會先于數(shù)據(jù)持久化到磁盤上。這樣就保證了即使遇到數(shù)據(jù)庫突然宕機等情況，當用戶再次啟動數(shù)據(jù)庫的時候，數(shù)據(jù)庫還能夠通過查詢回滾日志來回滾將之前未完成的事務(wù)。

另外，MVCC的實現(xiàn)依賴于：隱藏字段、Read View、undo log。在內(nèi)部實現(xiàn)中，InnoDB通過數(shù)據(jù)行的DB_TRX_ID和Read View來判斷數(shù)據(jù)的可見性，如不可見，則通過數(shù)據(jù)行的DB_ROLL_PTR找到undo log中的歷史版本。

每個事務(wù)讀到的數(shù)據(jù)版本可能是不一樣的，在同一個事務(wù)中，用戶只能看到該事務(wù)創(chuàng)建Read View之前已經(jīng)提交的修改和該事務(wù)本身做的修改。

總結(jié)

MySQL InnoDB 引擎使用redo log(重做日志)保證事務(wù)的持久性，使用undo log(回滾日志)來保證事務(wù)的原子性。

MySQL數(shù)據(jù)庫的數(shù)據(jù)備份、主備、主主、主從都離不開binlog，需要依靠binlog來同步數(shù)據(jù)，保證數(shù)據(jù)一致性。