MySQL 復(fù)制原理與實際操作過程
以下的文章主要講述的是MySQL 復(fù)制原理。以及MySQL 復(fù)制的實際操作過程的介紹,同時也有對MySQL 復(fù)制實現(xiàn)級別的優(yōu)點與缺點的介紹,下面就是文章的詳細內(nèi)容介紹,希望大家對其有所收獲。
1、復(fù)制進程復(fù)制
Mysql復(fù)制(replication)是一個異步的復(fù)制,從一個Mysql instace(稱之為Master)復(fù)制到另一個Mysql instance(稱之Slave)。實現(xiàn)整個復(fù)制操作主要由三個進程完成的,其中兩個進程在Slave(Sql進程和IO進程),另外一個進程在 Master(IO進程)上。
要實施復(fù)制,首先必須打開Master端的binary log(bin-log)功能,否則無法實現(xiàn)。因為整個MySQL 復(fù)制過程實際上就是Slave從Master端獲取該日志然后再在自己身上完全順序的執(zhí)行日志中所記錄的各種操作。
復(fù)制的基本過程如下:
1)、Slave上面的IO進程連接上Master,并請求從指定日志文件的指定位置(或者從最開始的日志)之后的日志內(nèi)容;
2)、Master接收到來自Slave的IO進程的請求后,通過負責(zé)復(fù)制的IO進程根據(jù)請求信息讀取制定日志指定位置之后的日志信息,返回給Slave 的IO進程。返回信息中除了日志所包含的信息之外,還包括本次返回的信息已經(jīng)到Master端的bin-log文件的名稱以及bin-log的位置;
3)、Slave的IO進程接收到信息后,將接收到的日志內(nèi)容依次添加到Slave端的relay-log文件的最末端,并將讀取到的Master端的 bin-log的文件名和位置記錄到master-info文件中,以便在下一次讀取的時候能夠清楚的高速Master“我需要從某個bin-log的哪 個位置開始往后的日志內(nèi)容,請發(fā)給我”;
4)、Slave的Sql進程檢測到relay-log中新增加了內(nèi)容后,會馬上解析relay-log的內(nèi)容成為在Master端真實執(zhí)行時候的那些可執(zhí)行的內(nèi)容,并在自身執(zhí)行。
實際上在老版本的Mysql的復(fù)制實現(xiàn)在Slave端并不是兩個進程完成的,而是由一個進程完成。但是后來發(fā)現(xiàn)這樣做存在較大的風(fēng)險和性能問題,主要如下:
首先,一個進程就使復(fù)制bin-log日志和解析日志并在自身執(zhí)行的過程成為一個串行的過程,性能受到了一定的限制,異步復(fù)制的延遲也會比較長。
另外,Slave端從Master端獲取bin-log過來之后,需要接著解析日志內(nèi)容,然后在自身執(zhí)行。在這個過程中,Master端可能又產(chǎn)生了大量 變化并聲稱了大量的日志。如果在這個階段Master端的存儲出現(xiàn)了無法修復(fù)的錯誤,那么在這個階段所產(chǎn)生的所有變更都將永遠無法找回。如果在Slave 端的壓力比較大的時候,這個過程的時間可能會比較長。
所以,后面版本的Mysql為了解決這個風(fēng)險并提高復(fù)制的性能,將Slave端的復(fù)制改為兩個進程來完成。提出這個改進方案的人是Yahoo!的一位工程 師“Jeremy Zawodny”。這樣既解決了性能問題,又縮短了異步的延時時間,同時也減少了可能存在的數(shù)據(jù)丟失量。
當(dāng)然,即使是換成了現(xiàn)在這樣兩個線程處理以后,同 樣也還是存在slave數(shù)據(jù)延時以及數(shù)據(jù)丟失的可能性的,畢竟這個復(fù)制是異步的。只要數(shù)據(jù)的更改不是在一個事物中,這些問題都是會存在的。如果要完全避免 這些問題,就只能用mysql的cluster來解決了。
不過mysql的cluster是內(nèi)存數(shù)據(jù)庫的解決方案,需要將所有數(shù)據(jù)都load到內(nèi)存中,這 樣就對內(nèi)存的要求就非常大了,對于一般的應(yīng)用來說可實施性不是太大。
2、復(fù)制實現(xiàn)級別
Mysql的復(fù)制可以是基于一條語句(Statement level),也可以是基于一條記錄(Row level),可以在Mysql的配置參數(shù)中設(shè)定這個MySQL 復(fù)制級別,不同復(fù)制級別的設(shè)置會影響到Master端的bin-log記錄成不同的形式。
Row Level:日志中會記錄成每一行數(shù)據(jù)被修改的形式,然后在slave端再對相同的數(shù)據(jù)進行修改。
優(yōu)點:在row level模式下,bin-log中可以不記錄執(zhí)行的sql語句的上下文相關(guān)的信息,僅僅只需要記錄那一條記錄被修改了,修改成什么樣了。所以row level的日志內(nèi)容會非常清楚的記錄下每一行數(shù)據(jù)修改的細節(jié),非常容易理解。而且不會出現(xiàn)某些特定情況下的存儲過程,或function,以及 trigger的調(diào)用和觸發(fā)無法被正確復(fù)制的問題。
缺點:row level下,所有的執(zhí)行的語句當(dāng)記錄到日志中的時候,都將以每行記錄的修改來記錄,這樣可能會產(chǎn)生大量的日志內(nèi)容,比如有這樣一條update語 句:
update product set owner_member_id = ‘b’ where owner_member_id = ‘a’,執(zhí)行之后,日志中記錄的不是這條update語句所對應(yīng)額事件(mysql以事件的形式來記錄bin-log日志),而是這條語句所更新的每一條 記錄的變化情況,這樣就記錄成很多條記錄被更新的很多個事件。
自然,bin-log日志的量就會很大。尤其是當(dāng)執(zhí)行alter table之類的語句的時候,產(chǎn)生的日志量是驚人的。因為Mysql對于alter table之類的表結(jié)構(gòu)變更語句的處理方式是整個表的每一條記錄都需要變動,實際上就是重建了整個表。那么該表的每一條記錄都會被記錄到日志中。
Statement Level:每一條會修改數(shù)據(jù)的sql都會記錄到 master的bin-log中。slave在復(fù)制的時候sql進程會解析成和原來master端執(zhí)行過的相同的sql來再次執(zhí)行。
優(yōu)點:statement level下的優(yōu)點首先就是解決了row level下的缺點,不需要記錄每一行數(shù)據(jù)的變化,減少bin-log日志量,節(jié)約IO,提高性能。因為他只需要記錄在Master上所執(zhí)行的語句的細節(jié),以及執(zhí)行語句時候的上下文的信息。
缺點:由于他是記錄的執(zhí)行語句,所以,為了讓這些語句在slave端也能正確執(zhí)行,那么他還必須記錄每條語句在執(zhí)行的時候的一些相關(guān)信息,也就是上下文信 息,以保證所有語句在slave端杯執(zhí)行的時候能夠得到和在master端執(zhí)行時候相同的結(jié)果。
另外就是,由于Mysql現(xiàn)在發(fā)展比較快,很多的新功能不 斷的加入,使mysql復(fù)制遇到了不小的挑戰(zhàn),自然復(fù)制的時候涉及到越復(fù)雜的內(nèi)容,bug也就越容易出現(xiàn)。在statement level下,目前已經(jīng)發(fā)現(xiàn)的就有不少情況會造成mysql的復(fù)制出現(xiàn)問題,主要是修改數(shù)據(jù)的時候使用了某些特定的函數(shù)或者功能的時候會出現(xiàn),
比 如:sleep()函數(shù)在有些版本中就不能真確復(fù)制,在存儲過程中使用了last_insert_id()函數(shù),可能會使slave和master上得到 不一致的id等等。由于row level是基于每一行來記錄的變化,所以不會出現(xiàn)類似的問題。
從官方文檔中看到,之前的Mysql一直都只有基于statement的復(fù)制模式,直到5.1.5版本的Mysql才開始支持row level的復(fù)制。從5.0開始,Mysql的復(fù)制已經(jīng)解決了大量老版本中出現(xiàn)的無法正確復(fù)制的問題。但是由于存儲過程的出現(xiàn),給Mysql的復(fù)制又帶來 了更大的新挑戰(zhàn)。
另外,看到官方文檔說,從5.1.8版本開始,Mysql提供了除Statement Level和Row Level之外的第三種復(fù)制模式:Mixed,實際上就是前兩種模式的結(jié)合。在Mixed模式下,Mysql會根據(jù)執(zhí)行的每一條具體的sql語句來區(qū)分對 待記錄的日志形式,也就是在Statement和Row之間選擇一種。新版本中的Statment level還是和以前一樣,僅僅記錄執(zhí)行的語句。
而新版本的Mysql中隊row level模式也被做了優(yōu)化,并不是所有的修改都會以row level來記錄,像遇到表結(jié)構(gòu)變更的時候就會以statement模式來記錄,如果sql語句確實就是update或者delete等修改數(shù)據(jù)的語句, 那么還是會記錄所有行的變更。
3、復(fù)制常用架構(gòu)
Mysql復(fù)制環(huán)境90%以上都是一個Master帶一個或者多個Slave的架構(gòu)模式,主要用于讀壓力比較大的應(yīng)用的數(shù)據(jù)庫端廉價擴展解決方案。因為只 要master和slave的壓力不是太大(尤其是slave端壓力)的話,異步復(fù)制的延時一般都很少很少。尤其是自slave端的復(fù)制方式改成兩個進程 處理之后,更是減小了slave端的延時。
而帶來的效益是,對于數(shù)據(jù)實時性要求不是特別的敏感度的應(yīng)用,只需要通過廉價的pc server來擴展slave的數(shù)量,將讀壓力分散到多臺slave的機器上面,即可解決數(shù)據(jù)庫端的讀壓力瓶頸。這在很大程度上解決了目前很多中小型網(wǎng)站 的數(shù)據(jù)庫壓力瓶頸問題,甚至有些大型網(wǎng)站也在使用類似方案解決數(shù)據(jù)庫瓶頸。
一個Master帶多個slave的架構(gòu)實施非常簡單,多個slave和單個slave的實施并沒有太大區(qū)別。在Master端并不care有多少個 slave連上了master端,只要有slave進程通過了連接認證,向他請求binlog信息,他就會按照連接上來的io進程的要求,讀取自己的 binlog信息,返回給slave的IO進程。對于slave的配置細節(jié),在Mysql的官方文檔上面已經(jīng)說的很清楚了,甚至介紹了多種實現(xiàn)slave 的配置方法。
Mysql不支持一個Slave instance從屬于多個Master的架構(gòu)。就是說,一個slave instance只能接受一個master的同步源,聽說有patch可以改進這樣的功能,但沒有實踐過。Mysql AB之所以不實現(xiàn)這樣的功能,主要是考慮到?jīng)_突解決的問題。
Mysql也可以搭建成dual master模式,也就是說兩個Mysql instance互為對方的Master,也同時為對方的Slave。不過一般這種架構(gòu)也是只有一端提供服務(wù),避免沖突問題。因為即使在兩邊執(zhí)行的修改有 先后順序,由于MySQL 復(fù)制的異步實現(xiàn)機制,同樣會導(dǎo)致即使在晚做的修改也可能會被早做的修改所覆蓋,就像如下情形:
時間點 Mysql A Mysql B
1 更新x表y記錄為10
2 更新x表y記錄為20
3 獲取到A日志并應(yīng)用,更新x表的y記錄為10(不符合期望)
4 獲取B日志更新x表y記錄為20(符合期望)
這樣,不僅在B庫上面的數(shù)據(jù)不是用戶所期望的結(jié)果,A和B兩邊的數(shù)據(jù)也出現(xiàn)了不一致的情況。除非能將寫操作根據(jù)某種條件固定分開在A和B兩端,保證不會交叉寫入,才能夠避免上面的問題。
【編輯推薦】
- MySQL 安裝備份在Linux系統(tǒng)中的安裝
- MySQL 數(shù)據(jù)庫的雙機熱備實際操作配置
- 建立MySQL鏡像數(shù)據(jù)庫在linux下的簡單方案
- Mysql安裝與qmail實際操作概述
- MySQL filter的實際配置