數(shù)據(jù)的重要性對(duì)于人們來說重要程度不說自明，在信息時(shí)代，數(shù)據(jù)有著比人們更大的力量,我們也知道最近的斯諾登事件，軍事專家對(duì)于他掌握的數(shù)據(jù)給出的評(píng)價(jià)是，相當(dāng)于美軍十個(gè)重裝甲師。

數(shù)據(jù)庫的價(jià)值可見一斑，數(shù)據(jù)庫的存在為人們提供了更快的查詢，那么在一個(gè)web網(wǎng)站中如何做到數(shù)據(jù)庫的高可用，保證持續(xù)提供服務(wù)，下面的實(shí)驗(yàn)是通過MHA的故障轉(zhuǎn)移來實(shí)現(xiàn)。

實(shí)現(xiàn)原理：MHA是由日本Mysql專家用Perl寫的一套Mysql故障切換方案以保障數(shù)據(jù)庫的高可用性，它的功能是能在0-30s之內(nèi)實(shí)現(xiàn)主Mysql故障轉(zhuǎn)移（failover），

MHA故障轉(zhuǎn)移可以很好的幫我們解決從庫數(shù)據(jù)的一致性問題，同時(shí)最大化挽回故障發(fā)生后的數(shù)據(jù)。MHA里有兩個(gè)角色一個(gè)是node節(jié)點(diǎn) 一個(gè)是manager節(jié)點(diǎn)，要實(shí)現(xiàn)這個(gè)MHA，必須最少要三臺(tái)數(shù)據(jù)庫服務(wù)器，一主多備，即一臺(tái)充當(dāng)master，一臺(tái)充當(dāng)master的備份機(jī)，另外一臺(tái)是從屬機(jī)，這里實(shí)驗(yàn)為了實(shí)現(xiàn)更好的效果使用四臺(tái)機(jī)器，需要說明的是一旦主服務(wù)器宕機(jī)，備份機(jī)即開始充當(dāng)master提供服務(wù)，如果主服務(wù)器上線也不會(huì)再成為master了，因?yàn)槿绻@樣數(shù)據(jù)庫的一致性就被改變了。

實(shí)驗(yàn)環(huán)境：vmware 9.0 RHEL5.5

實(shí)驗(yàn)所需軟件包：http://mysql-master-ha.googlecode.com/files/mha4mysql-node-0.52-0.noarch.rpmhttp://mysql-master-ha.googlecode.com/files/mha4mysql-manager-0.52-0.noarch.rpm

實(shí)驗(yàn)大體步驟：

1 首先要保證虛擬機(jī)能夠上網(wǎng)這里我在vmware里添加了第二塊網(wǎng)卡 一塊專門用于四臺(tái)機(jī)器通信，一塊配置上網(wǎng)
2 關(guān)閉selinux和配置IP地址和本地yum源
3 配置epel源
4 配置ssh公鑰免登錄環(huán)境
5 修改hostname
6 配置hosts文件
7 配置Mysql的主從同步關(guān)系并通過grant命令賦權(quán)
8 安裝node包
9 在管理機(jī)安裝manager包
10  編輯主配置文件
11 測試及排錯(cuò)
12 啟動(dòng)

驗(yàn)拓?fù)鋱D如下：

1 在配置好IP地址后檢查selinux設(shè)置

2 在四臺(tái)機(jī)器都配置epel源 這里我找了一個(gè)epel源

rpm –ivh http://dl.fedoraproject.org/pub/epel/5Server/i386/epel-release-5-4.noarch.rpm

#p#

3 建立ssh無密碼登錄環(huán)境

主Mysql

#ssh-keygen -t rsa

#ssh-copy-id -i .ssh/id_rsa.pub root@192.168.1.1 ----------------------為什么要在本機(jī)也要設(shè)置呢，因?yàn)閙anager節(jié)點(diǎn)安裝在這上面，如不設(shè)置在下面ssh檢查時(shí)會(huì)通不過。

#ssh-copy-id -i .ssh/id_rsa.pub root@192.168.1.2

#ssh-copy-id -i .ssh/id_rsa.pub root@192.168.1.3

#ssh-copy-id -i .ssh/id_rsa.pub root@192.168.1.4

過程示意圖（因其過程都一樣，故只示范192.168.1.1）

主備Mysql

#ssh-keygen -t rsa
#ssh-copy-id -i .ssh/id_rsa.pub root@192.168.1.1
#ssh-copy-id -i .ssh/id_rsa.pub root@192.168.1.3
#ssh-copy-id -i .ssh/id_rsa.pub root@192.168.1.4

從Mysql1

#ssh-keygen -t rsa
#ssh-copy-id -i .ssh/id_rsa.pub root@192.168.1.1
#ssh-copy-id -i .ssh/id_rsa.pub root@192.168.1.2
#ssh-copy-id -i .ssh/id_rsa.pub root@192.168.1.4

從Mysql2

#ssh-keygen -t rsa
#ssh-copy-id -i .ssh/id_rsa.pub root@192.168.1.1
#ssh-copy-id -i .ssh/id_rsa.pub root@192.168.1.2
#ssh-copy-id -i .ssh/id_rsa.pub root@192.168.1.3

測試ssh登錄

我們?cè)谥鱉ysql上測試一下：

結(jié)果測試成功 進(jìn)入下一步操作

4 接下來步驟就是修改hostname了

為了保險(xiǎn)起見 我想要從內(nèi)存中和文件中修改，不重啟系統(tǒng)（內(nèi)存中位置 /etc/sysconfig/network）。

192.168.1.1 hostname為mastersql
192.168.1.2 hostname為backupsql
192.168.1.3 hostname為slavesql1
192.168.1.4 hostname為slavesql2

5 配置hosts文件

配置好后分別拷貝到其他三臺(tái)機(jī)器上：

#p#

6 配置mysql主從關(guān)系

在四臺(tái)系統(tǒng)通過yum安裝mysql

yum –y install mysql-server

在mastersql：

vi /etc/my.cnf

在里面添加2 3 4 行 定義id和二進(jìn)制目錄：

在backupsql
vi /etc/my.cnf
在里面添加2 3 4 5 6 7行

在slavesql1

vi /etc/my.cnf 不同的是第三行中的代碼 其中意思是sql數(shù)據(jù)庫是只讀的： 

在slavesql2

vi /etc/my.cnf

配置好后重啟下mysql服務(wù)重新加載配置文件：

service mysqld restart

在mastersql中：

mysql> GRANT replication slave ON *.* TO 'kyo'@'%' identified by '123';-------------------賦給用戶有關(guān)操作權(quán)限
mysql> flush privileges;
#mysqldump -A -x > /tmp/full.sql  #scp /tmp/full.sql root@192.168.1.2:/tmp/
#scp /tmp/full.sql root@192.168.1.3:/tmp/
#scp /tmp/full.sql root@192.168.1.4:/tmp/
mysql> show master status;------------------記住position號(hào)碼（366）

分別在backupsql、slavesql1、slavesql2中做如下操作，這里以backupsql機(jī)為例：

只要看到Slave_IO_Running Slave_SQL_Running都為yes就可以了。

然后再就是賦權(quán)了，之前的一步賦權(quán)操作是權(quán)限是只有replication,MHA會(huì)在配置文件里要求能遠(yuǎn)程登錄到數(shù)據(jù)庫，所以要進(jìn)行必要的賦權(quán)。

在四臺(tái)機(jī)器中都做如下操作：

mysql> grant all privileges on *.* to 'root'@'mastersql' identified by '123';
mysql> flush privileges;
mysql> grant all privileges on *.* to 'root'@'backupsql' identified by '123';
mysql> flush privileges;
mysql> grant all privileges on *.* to 'root'@'slavesql1' identified by '123';
mysql> flush privileges;
mysql> grant all privileges on *.* to 'root'@'slavesql2' identified by '123';
mysql> flush privileges;

#p#

7 接下來就是開始正式安裝MHA了，先安裝節(jié)點(diǎn)包開始 四臺(tái)機(jī)器都要安裝！

yum install perl-DBD-MySQL -----------------MHA是perl編寫的軟件需要perl支持 之前yum安裝mysql已經(jīng)安裝過了 如果沒安裝過需要安裝這個(gè)依賴。

rpm -Uvh http://mysql-master-ha.googlecode.com/files/mha4mysql-node-0.52-0.noarch.rpm

8 節(jié)點(diǎn)配置完畢就開始配置管理節(jié)點(diǎn)了

yum –y install perl-DBD-MySQL perl-Config-Tiny perl-Log-Dispatch perl-Parallel-ForkManager  -----------安裝依賴包
rpm -Uvh http://mysql-master-ha.googlecode.com/files/mha4mysql-manager-0.52-0.noarch.rpm

管理節(jié)點(diǎn)安裝完畢后就應(yīng)該去編輯主配文件了

vi /etc/app1.cnf     需要指出的是第二行第三行中之前提到的user和password是mysql中賦權(quán)的用戶：

檢查下SSH公鑰免密碼登錄

masterha_check_ssh --conf=/etc/app1.cnf

之前的都看不到了 可以看到最后檢測成功

再檢查下MySQL復(fù)制

masterha_check_repl --conf=/etc/app1.cnf---------------------由于截圖太小 直接貼出檢測文字 可以看出 最后檢測都成功（雖然有些警告信息，不用去管它）。

[root@mastersql ~]# masterha_check_repl --conf=/etc/app1.cnf 
Mon Jul  1 02:08:33 2013 - [warning] Global configuration file /etc/masterha_default.cnf not found. Skipping. 
Mon Jul  1 02:08:33 2013 - [info] Reading application default configurations from /etc/app1.cnf.. 
Mon Jul  1 02:08:33 2013 - [info] Reading server configurations from /etc/app1.cnf.. 
Mon Jul  1 02:08:33 2013 - [info] MHA::MasterMonitor version 0.52. 
Mon Jul  1 02:08:33 2013 - [info] Dead Servers: 
Mon Jul  1 02:08:33 2013 - [info] Alive Servers: 
Mon Jul  1 02:08:33 2013 - [info]   192.168.1.1(192.168.1.1:3306) 
Mon Jul  1 02:08:33 2013 - [info]   192.168.1.2(192.168.1.2:3306) 
Mon Jul  1 02:08:33 2013 - [info]   192.168.1.3(192.168.1.3:3306) 
Mon Jul  1 02:08:33 2013 - [info]   192.168.1.4(192.168.1.4:3306) 
Mon Jul  1 02:08:33 2013 - [info] Alive Slaves: 
Mon Jul  1 02:08:33 2013 - [info]   192.168.1.2(192.168.1.2:3306)  Version=5.0.77-log (oldest major version between slaves) log-bin:enabled 
Mon Jul  1 02:08:33 2013 - [info]     Replicating from 192.168.1.1(192.168.1.1:3306) 
Mon Jul  1 02:08:33 2013 - [info]     Primary candidate for the new Master (candidate_master is set) 
Mon Jul  1 02:08:33 2013 - [info]   192.168.1.3(192.168.1.3:3306)  Version=5.0.77-log (oldest major version between slaves) log-bin:enabled 
Mon Jul  1 02:08:33 2013 - [info]     Replicating from 192.168.1.1(192.168.1.1:3306) 
Mon Jul  1 02:08:33 2013 - [info]     Not candidate for the new Master (no_master is set) 
Mon Jul  1 02:08:33 2013 - [info]   192.168.1.4(192.168.1.4:3306)  Version=5.0.77-log (oldest major version between slaves) log-bin:enabled 
Mon Jul  1 02:08:33 2013 - [info]     Replicating from 192.168.1.1(192.168.1.1:3306) 
Mon Jul  1 02:08:33 2013 - [info]     Not candidate for the new Master (no_master is set) 
Mon Jul  1 02:08:33 2013 - [info] Current Alive Master: 192.168.1.1(192.168.1.1:3306) 
Mon Jul  1 02:08:33 2013 - [info] Checking slave configurations.. 
Mon Jul  1 02:08:33 2013 - [warning]  read_only=1 is not set on slave 192.168.1.2(192.168.1.2:3306). 
Mon Jul  1 02:08:33 2013 - [warning]  relay_log_purge=0 is not set on slave 192.168.1.2(192.168.1.2:3306). 
Mon Jul  1 02:08:33 2013 - [warning]  relay_log_purge=0 is not set on slave 192.168.1.3(192.168.1.3:3306). 
Mon Jul  1 02:08:33 2013 - [warning]  relay_log_purge=0 is not set on slave 192.168.1.4(192.168.1.4:3306). 
Mon Jul  1 02:08:33 2013 - [info] Checking replication filtering settings.. 
Mon Jul  1 02:08:33 2013 - [info]  binlog_do_db= , binlog_ignore_db= 
Mon Jul  1 02:08:33 2013 - [info]  Replication filtering check ok. 
Mon Jul  1 02:08:33 2013 - [info] Starting SSH connection tests.. 
Mon Jul  1 02:08:36 2013 - [info] All SSH connection tests passed successfully. 
Mon Jul  1 02:08:36 2013 - [info] Checking MHA Node version.. 
Mon Jul  1 02:08:36 2013 - [info]  Version check ok. 
Mon Jul  1 02:08:36 2013 - [info] Checking SSH publickey authentication and checking recovery script configurations on the current master.. 
Mon Jul  1 02:08:36 2013 - [info]   Executing command: save_binary_logs --command=test --start_file=binlog.000003 --start_pos=4 --
binlog_dir=/var/lib/mysql,/var/log/mysql --output_file=/var/log/masterha/app1/save_binary_logs_test --manager_version=0.52 
Mon Jul  1 02:08:36 2013 - [info]   Connecting to root@192.168.1.1(192.168.1.1).. 
  Creating /var/log/masterha/app1 if not exists..    ok. 
  Checking output directory is accessible or not.. 
   ok. 
  Binlog found at /var/lib/mysql, up to binlog.000003 
Mon Jul  1 02:08:37 2013 - [info] Master setting check done. 
Mon Jul  1 02:08:37 2013 - [info] Checking SSH publickey authentication and checking recovery script configurations on all alive slave servers.. 
Mon Jul  1 02:08:37 2013 - [info]   Executing command : apply_diff_relay_logs --command=test --slave_user=root --slave_host=192.168.1.2 --slave_ip=192.168.1.2 --slave_port=3306 --workdir=/var/log/masterha/app1 --target_version=5.0.77-log --manager_version=0.52 --relay_log_info=/var/lib/mysql/relay-log.info  --slave_pass=xxx 
Mon Jul  1 02:08:37 2013 - [info]   Connecting to root@192.168.1.2(192.168.1.2).. 
mysqlbinlog version is 3.2 (included in MySQL Client 5.0 or lower). This is not recommended. Consider upgrading MySQL Client to 5.1 or higher. 
  Checking slave recovery environment settings.. 
  Opening /var/lib/mysql/relay-log.info ... ok. 
  Relay log found at /var/lib/mysql, up to mysql-relay-bin.000002 
  Temporary relay log file is /var/lib/mysql/mysql-relay-bin.000002 
  Testing mysql connection and privileges.. done. 
  Testing mysqlbinlog output.. done. 
  Cleaning up test file(s).. done. 
Mon Jul  1 02:08:37 2013 - [info]   Executing command : apply_diff_relay_logs --command=test --slave_user=root --slave_host=192.168.1.3 --slave_ip=192.168.1.3 --slave_port=3306 --workdir=/var/log/masterha/app1 --target_version=5.0.77-log --manager_version=0.52 --relay_log_info=/var/lib/mysql/relay-log.info  --slave_pass=xxx 
Mon Jul  1 02:08:37 2013 - [info]   Connecting to root@192.168.1.3(192.168.1.3)..  mysqlbinlog version is 3.2 (included in MySQL Client 5.0 or lower). This is not recommended. Consider upgrading MySQL Client to 5.1 or higher. 
  Checking slave recovery environment settings.. 
  Opening /var/lib/mysql/relay-log.info ... ok. 
  Relay log found at /var/lib/mysql, up to mysql-relay-bin.000002 
  Temporary relay log file is /var/lib/mysql/mysql-relay-bin.000002 
  Testing mysql connection and privileges.. done. 
  Testing mysqlbinlog output.. done. 
  Cleaning up test file(s).. done. 
Mon Jul  1 02:08:37 2013 - [info]   Executing command : apply_diff_relay_logs --command=test --slave_user=root --slave_host=192.168.1.4 --slave_ip=192.168.1.4 --slave_port=3306 --workdir=/var/log/masterha/app1 --target_version=5.0.77-log --manager_version=0.52 --relay_log_info=/var/lib/mysql/relay-log.info  --slave_pass=xxx 
Mon Jul  1 02:08:37 2013 - [info]   Connecting to root@192.168.1.4(192.168.1.4).. 
mysqlbinlog version is 3.2 (included in MySQL Client 5.0 or lower). This is not recommended. Consider upgrading MySQL Client to 5.1 or higher. 
Creating directory /var/log/masterha/app1.. done. 
  Checking slave recovery environment settings.. 
  Opening /var/lib/mysql/relay-log.info ... ok. 
  Relay log found at /var/lib/mysql, up to mysql-relay-bin.000002 
  Temporary relay log file is /var/lib/mysql/mysql-relay-bin.000002 
  Testing mysql connection and privileges.. done. 
  Testing mysqlbinlog output.. done. 
  Cleaning up test file(s).. done. 
Mon Jul  1 02:08:37 2013 - [info] Slaves settings check done. 
Mon Jul  1 02:08:37 2013 - [info] 
192.168.1.1 (current master) 
+--192.168.1.2 
+--192.168.1.3 
+--192.168.1.4
Mon Jul  1 02:08:37 2013 - [info] Checking replication health on 192.168.1.2.. 
Mon Jul  1 02:08:37 2013 - [info]  ok. 
Mon Jul  1 02:08:37 2013 - [info] Checking replication health on 192.168.1.3.. 
Mon Jul  1 02:08:37 2013 - [info]  ok. 
Mon Jul  1 02:08:37 2013 - [info] Checking replication health on 192.168.1.4.. 
Mon Jul  1 02:08:37 2013 - [info]  ok. 
Mon Jul  1 02:08:37 2013 - [warning] master_ip_failover_script is not defined. 
Mon Jul  1 02:08:37 2013 - [warning] shutdown_script is not defined. 
Mon Jul  1 02:08:37 2013 - [info] Got exit code 0 (Not master dead).
MySQL Replication Health is OK.

這時(shí)用虛擬機(jī)的話得要做個(gè)快照，因?yàn)橄旅嫖覀円M(jìn)行兩個(gè)小實(shí)驗(yàn) 這個(gè)實(shí)驗(yàn)是不可逆的

#p#

開啟MHA進(jìn)程

這時(shí)我們模擬主Mysql宕機(jī)，看看數(shù)據(jù)庫是否能夠切換到備份機(jī)上

service mysqld stop

在從屬機(jī)中

mysql>show slave status \G

mysql已經(jīng)成功的切換到備份機(jī)上，這時(shí)我還注意到一個(gè)問題 就是這個(gè)切換過程不會(huì)立即切換，需要花費(fèi)幾秒時(shí)間，也就是說數(shù)據(jù)在這個(gè)空檔是不能寫入的，這對(duì)于要求數(shù)據(jù)的查詢和寫入實(shí)時(shí)性要求較高的企業(yè)帶來了困難，如何解決這個(gè)問題，主要有兩個(gè)思路：

1 通過腳本實(shí)現(xiàn)failover（故障轉(zhuǎn)移）

2 通過keepalived實(shí)現(xiàn)虛擬IP 虛擬IP的地址隨著master的改變而漂移

先來第一種方式

如果仔細(xì)看上面的開啟進(jìn)程中會(huì)注意到一個(gè)warning Mon Jul  1 02:08:37 2013 - [warning] master_ip_failover_script is not defined. 在/etc/app1.cnf中我們注釋了這一行，現(xiàn)在在/etc/app1.cnf里開啟這一行代碼，然后在/tmp/master_ip_failover寫入如下代碼：

#!/usr/bin/env php  
<?php  
$longopts = array(  
    'command:',  
    'ssh_user:',  
    'orig_master_host:',  
    'orig_master_ip:',  
    'orig_master_port:',  
    'new_master_host::',  
    'new_master_ip::',  
    'new_master_port::',  );  
$options = getopt(null, $longopts);  
if ($options['command'] == 'start') {  
    $params = array(  
        'ip'   => $options['new_master_ip'],  
        'port' => $options['new_master_port'],  
    );  
    $string = '<?php return ' . var_export($params, true) . '; ?>';  
    file_put_contents('config.php', $string, LOCK_EX);  }  
exit(0);  
?> 

這是一段PHP代碼 如果機(jī)器中沒裝php模塊的話要執(zhí)行 yum –y install php

之后賦給這個(gè)文件可執(zhí)行權(quán)限 chmod +x /tmp/master_ip_failover，

• 再次檢查后的截圖 總之是檢查OK了，這次再去把主Mysql服務(wù)器停止看看
• 再次運(yùn)行MHA進(jìn)程masterha_manager --conf=/etc/app1.cnf

然后停止mysql服務(wù)：

service mysqld stop

可以看到master的host成了192.168.1.2 實(shí)現(xiàn)了最短時(shí)間的故障轉(zhuǎn)移：

2 keepalived實(shí)現(xiàn)方式

首先還原快照 實(shí)驗(yàn)原理已經(jīng)明白 就是通過虛擬IP來管理master的狀態(tài)

在mastersql和backupsql中都安裝keepalived軟件

tar -zvxf keepalived-1\[1\].1.17.tar.gz
yum -y install  kernel-devel
ln -s /usr/src/kernels/2.6.18-164.el5-i686/ /usr/src/linux
cd keepalived-1.1.17/
yum –y install openssl-* 
./configure --prefix=/usr/local/keepalived

編譯后看到三個(gè)yes才算成功 如果出現(xiàn)兩個(gè)yes或者一個(gè)應(yīng)該要檢查下內(nèi)核軟連接做對(duì)了沒有：

make
make install
cp /usr/local/keepalived/etc/rc.d/init.d/keepalived /etc/init.d/
cp /usr/local/keepalived/etc/sysconfig/keepalived /etc/sysconfig/
mkdir -pv /etc/keepalived
cp /usr/local/keepalived/etc/keepalived/keepalived.conf /etc/keepalived/
ln -s /usr/local/keepalived/sbin/keepalived /sbin/
service keepalived restart

注意 這里如果下載的keepalived軟件包不一樣和kernel版本不一樣 不要盲目復(fù)制粘貼該用tab命令補(bǔ)全就補(bǔ)全。

#p#

編輯mastersql的keepalived配置文件

vi /etc/keepalived/keepalived.conf 只編輯有效配置：

編輯backupsql的配置文件：

在mastersql上重啟keepalived服務(wù)后看ip addr

可以看到eth0上有了另外一個(gè)IP 即虛擬IP

編輯腳本文件 大體意思是只要檢測到mysql服務(wù)停止keepalived服務(wù)也停止 ，因?yàn)閗eepalived是通過組播方式告訴本網(wǎng)段自己還活著 當(dāng)mysql服務(wù)停止后keepalived還依然運(yùn)行 這時(shí)就需要停止keepalived讓另一個(gè)主機(jī)獲得虛擬IP，可以在后臺(tái)運(yùn)行這個(gè)腳本 也可以在keepalived配置文件加入這個(gè)腳本。

mastersql上keepalived配置如下：

interval 2 是每間隔兩秒執(zhí)行一次腳本 這個(gè)可以自己調(diào)節(jié)

腳本文件放置路徑在/tmp/下 注意 這個(gè)也要被賦可執(zhí)行權(quán)限！

開啟MHA進(jìn)程masterha_manager --conf=/etc/app1.cnf

一切都做好了只等停止mysql服務(wù)了 停止下試試

在backupsql上看ip addr：

在另一臺(tái)slavesql1上查看slave status：

成功切換到192.168.1.2 OK 實(shí)驗(yàn)完成。至此通過腳本和虛擬IP地址實(shí)現(xiàn)了高效率的故障轉(zhuǎn)移，實(shí)現(xiàn)了mysql的真正的高可用！