lvs負(fù)載均衡安裝配置、測(cè)試全攻略
前面我們介紹了相關(guān)的lvs負(fù)載均衡的概念,以及集群和負(fù)載均衡的含義。那么如何進(jìn)行l(wèi)vs負(fù)載均衡的實(shí)現(xiàn)呢?現(xiàn)在我們就將其中的具體操作步驟為大家呈現(xiàn)出來。希望廣大的讀者能從中總結(jié)經(jīng)驗(yàn),讓您的配置工作如魚得水。
以四臺(tái)服務(wù)器為例實(shí)現(xiàn)lvs負(fù)載均衡:
安裝配置lvs負(fù)載均衡
1. 安裝前準(zhǔn)備:
(1)首先說明,lvs并不要求集群中的服務(wù)器規(guī)格劃一,相反,可以根據(jù)服務(wù)器的不同配置和負(fù)載狀況,調(diào)整負(fù)載分配策略,充分利用集群環(huán)境中的每一臺(tái)服務(wù)器。如下表:
Srv Eth0 Eth0:0 Eth1 Eth1:0
vs1 10.0.0.1 10.0.0.2 192.168.10.1 192.168.10.254
vsbak 10.0.0.3 192.168.10.102
real1 192.168.10.100
real2 192.168.10.101
其中,10.0.0.2是允許用戶訪問的IP。
(2)這4臺(tái)服務(wù)器中,vs1作為虛擬服務(wù)器(即lvs負(fù)載均衡的服務(wù)器),負(fù)責(zé)將用戶的訪問請(qǐng)求轉(zhuǎn)發(fā)到集群內(nèi)部的real1,real2,然后由real1,real2分別處理。 Client為客戶端測(cè)試機(jī)器,可以為任意操作系統(tǒng)。
(3)所有OS為redhat6.2,其中vs1 和vsbak 的核心是2.2.19, 而且patch過ipvs的包, 所有real server的Subnet mask 都是24位, vs1和vsbak 的10.0.0. 網(wǎng)段是24 位。
2.理解lvs中的相關(guān)術(shù)語(yǔ)
(1) ipvsadm :ipvsadm是lvs的一個(gè)用戶界面。在lvs負(fù)載均衡器上編譯、安裝ipvsadm。
(2) 調(diào)度算法: lvs負(fù)載均衡器有以下幾種調(diào)度規(guī)則:Round-robin,簡(jiǎn)稱rr;weighted Round-robin,簡(jiǎn)稱wrr;每個(gè)新的連接被輪流指派到每個(gè)物理服務(wù)器。Least-connected,簡(jiǎn)稱lc;weighted Least-connected,簡(jiǎn)稱wlc,每個(gè)新的連接被分配到負(fù)擔(dān)最小的服務(wù)器。
(3) Persistent client connection,簡(jiǎn)稱pcc,(持續(xù)的客戶端連接,內(nèi)核2.2.10版以后才支持)。所有來自同一個(gè)IP的客戶端將一直連接到同一個(gè)物理服務(wù)器。超時(shí)時(shí)間被設(shè)置為360秒。Pcc是為https和cookie服務(wù)設(shè)置的。在這處調(diào)度規(guī)則下,第一次連接后,所有以后來自相同客戶端的連接(包括來自其它端口)將會(huì)發(fā)送到相同的物理服務(wù)器。但這也會(huì)帶來一個(gè)問題,因?yàn)榇蠹s有25%的Internet 可能具有相同的IP地址。
(4) Persistent port connection調(diào)度算法:在內(nèi)核2.2.12版以后,pcc功能已從一個(gè)調(diào)度算法(你可以選擇不同的調(diào)度算法:rr、wrr、lc、wlc、pcc)演變成為了一個(gè)開關(guān)選項(xiàng)(你可以讓rr、 wrr、lc、wlc具備pcc的屬性)。在設(shè)置時(shí),如果你沒有選擇調(diào)度算法時(shí),ipvsadm將默認(rèn)為wlc算法。 在Persistent port connection(ppc)算法下,連接的指派是基于端口的,例如,來自相同終端的80端口與443端口的請(qǐng)求,將被分配到不同的物理服務(wù)器上。不幸的是,如果你需要在的網(wǎng)站上采用cookies時(shí)將出問題,因?yàn)閔ttp是使用80端口,然而cookies需要使用443端口,這種方法下,很可能會(huì)出現(xiàn)cookies不正常的情況。
(5)Load Node Feature of Linux Director:讓Load balancer 也可以處理users 請(qǐng)求。
(6)IPVS connection synchronization。
(7)ARP Problem of lvs/TUN and lvs/DR:這個(gè)問題只在lvs/DR,lvs/TUN 時(shí)存在。#p#
3. lvs負(fù)載均衡配置實(shí)例
(1) 需要的軟件包和包的安裝:
I. piranha-gui-0.4.12-2*.rpm (GUI接口cluster設(shè)定工具);
II. piranha-0.4.12-2*.rpm;
III. ipchains-1.3.9-6lp*.rpm (架設(shè)NAT)。
取得套件或mount到光盤,進(jìn)入RPMS目錄進(jìn)行安裝:
# rpm -Uvh piranha*
# rpm -Uvh ipchains*
(2) real server群:
真正提供服務(wù)的server(如web server),在NAT形式下是以內(nèi)部虛擬網(wǎng)域的形式,設(shè)定如同一般虛擬網(wǎng)域中Client端使用網(wǎng)域:192.168.10.0/24 架設(shè)方式同一般使用虛擬IP之局域網(wǎng)絡(luò)。
a. 設(shè)網(wǎng)卡IP
real1 :192.168.10.100/24
real2 :192.168.10.101/24
b.每臺(tái)server均將default gateway指向192.168.10.254。 192.168.10.254為該網(wǎng)域唯一對(duì)外之信道,設(shè)定在virtual server上,使該網(wǎng)域進(jìn)出均需通過virtual server 。
c.每臺(tái)server均開啟httpd功能供web server服務(wù),可以在各real server上放置不同內(nèi)容之網(wǎng)頁(yè),可由瀏覽器觀察其對(duì)各real server讀取網(wǎng)頁(yè)的情形。
d.每臺(tái)server都開啟rstatd、sshd、rwalld、ruser、rsh、rsync,并且從Vserver上面拿到相同的lvs.conf文件。
(3) virtual server:
作用在導(dǎo)引封包的對(duì)外主機(jī),專職負(fù)責(zé)封包的轉(zhuǎn)送,不提供服務(wù),但因?yàn)樵贜AT型式下必須對(duì)進(jìn)出封包進(jìn)行改寫,所以負(fù)擔(dān)亦重。
a.IP設(shè)置:
對(duì)外eth0:IP:10.0.0.1 eth0:0 :10.0.0.2
對(duì)內(nèi)eth1:192.168.10.1 eth1:0 :192.168.10.254
NAT形式下僅virtual server有真實(shí)IP,real server群則為透過virtual server.
b.設(shè)定NAT功能
# echo 1 >; /proc/sys/net/ipv4/ip_forward
# echo 1 >; /proc/sys/net/ipv4/ip_always_defrag
# ipchains -P forward MASQ
c.設(shè)定piranha 進(jìn)入X-window中 (也可以直接編輯/etc/lvs.cf )
a).執(zhí)行面板系統(tǒng)piranha
b).設(shè)定“整體配置"(Global Settings) 主lvs服務(wù)器主機(jī)IP:10.0.0.2, 選定網(wǎng)絡(luò)地址翻譯(預(yù)設(shè)) NAT路徑名稱: 192.168.10.254, NAT 路徑裝置: eth1:0
c).設(shè)定虛擬服務(wù)器(Virtual Servers) 添加編輯虛擬服務(wù)器部分:(Virtual Server)名稱:(任意取名);應(yīng)用:http;協(xié)議: tcp;連接:80;地址:10.0..0.2;裝置:eth0:0; 重入時(shí)間:180 (預(yù)設(shè));服務(wù)延時(shí):10 (預(yù)設(shè));加載監(jiān)控工具:ruptime (預(yù)設(shè));調(diào)度策略:Weighted least-connections; 持續(xù)性:0 (預(yù)設(shè)); 持續(xù)性屏蔽: 255.255.255.255 (預(yù)設(shè)); 按下激活:實(shí)時(shí)服務(wù)器部分:(Real Servers); 添加編輯:名字:(任意取名); 地址: 192.168.10.100; 權(quán)重:1 (預(yù)設(shè)) 按下激活
另一架real server同上,地址:192.168.10.101。
d). 控制/監(jiān)控(Controls/Monitoring) 控制:piranha功能的激活與停止,上述內(nèi)容設(shè)定完成后即可按開始鍵激活piranha.監(jiān)控器:顯示ipvsadm設(shè)定之routing table內(nèi)容 可立即更新或定時(shí)更新。#p#
(4)備援主機(jī)的設(shè)定(HA)
單一virtual server的cluster架構(gòu)virtual server 負(fù)擔(dān)較大,提供另一主機(jī)擔(dān)任備援,可避免virtual server的故障而使對(duì)外服務(wù)工作終止;備份主機(jī)隨時(shí)處于預(yù)備狀態(tài)與virtual server相互偵測(cè)
a.備份主機(jī):
eth0: IP 10.0.0.3
eth1: IP 192.168.10.102 同樣需安裝piranha,ipvsadm,ipchains等套件
b.開啟NAT功能(同上面所述)。
c.在virtual server(10.0.0.2)主機(jī)上設(shè)定。
a).執(zhí)行piranha冗余度 ;
b).按下“激活冗余度";
冗余l(xiāng)vs服務(wù)器IP: 10.0.0.3;HEARTBEAT間隔(秒數(shù)): 2 (預(yù)設(shè))
假定在…秒后進(jìn)入DEAD狀態(tài): 5 (預(yù)設(shè)); HEARTBEAT連接埠: 539 (預(yù)設(shè))
c).按下“套用";
d).至“控制/監(jiān)控"頁(yè),按下“在當(dāng)前執(zhí)行層添加PULSE DEAMON" ,按下“開始";
e).在監(jiān)控器按下“自動(dòng)更新",這樣可由窗口中看到ipvsadm所設(shè)定的routing table,并且動(dòng)態(tài)顯示real server聯(lián)機(jī)情形,若real server故障,該主機(jī)亦會(huì)從監(jiān)視窗口中消失。
d.激活備份主機(jī)之pulse daemon (執(zhí)行# /etc/rc.d/init.d/pulse start)。
至此,HA功能已經(jīng)激活,備份主機(jī)及virtual server由pulse daemon定時(shí)相互探詢,一但virtual server故障,備份主機(jī)立刻激活代替;至virtual server 正常上線后隨即將工作交還virtual server。
lvs負(fù)載均衡測(cè)試
經(jīng)過了上面的lvs負(fù)載均衡配置步驟,現(xiàn)在可以測(cè)試lvs負(fù)載均衡了,步驟如下:
1. 分別在vs1,real1,real2上運(yùn)行/etc/lvs/rc.lvs_dr。注意,real1,real2上面的/etc/lvs 目錄是vs2輸出的。如果您的NFS配置沒有成功,也可以把vs1上/etc/lvs/rc.lvs_dr復(fù)制到real1,real2上,然后分別運(yùn)行。確保real1,real2上面的apache已經(jīng)啟動(dòng)并且允許telnet。
2. 測(cè)試Telnet:從client運(yùn)行telnet 10.0.0.2, 如果登錄后看到如下輸出就說明集群已經(jīng)開始工作了:(假設(shè)以guest用戶身份登錄)
[guest@real1 guest]$——說明已經(jīng)登錄到服務(wù)器real1上。
再開啟一個(gè)telnet窗口,登錄后會(huì)發(fā)現(xiàn)系統(tǒng)提示變?yōu)?
[guest@real2 guest]$——說明已經(jīng)登錄到服務(wù)器real2上。
3. 測(cè)試http:從client運(yùn)行iexplore http://10.0.0.2
因?yàn)樵趓eal1 和real2 上面的測(cè)試頁(yè)不同,所以登錄幾次之后,顯示出的頁(yè)面也會(huì)有所不同,這樣說明real server 已經(jīng)在正常工作了。