負(fù)載均衡常見算法,你知道幾個(gè)?
冷備與熱備
- 冷備份(cool standby),指配備平時(shí)不運(yùn)行的備用設(shè)備,當(dāng)運(yùn)行設(shè)備發(fā)生故障時(shí),使用備用設(shè)備替換。
- 熱備份(hot standby),指在設(shè)備運(yùn)行的同時(shí)運(yùn)行備用設(shè)備,當(dāng)運(yùn)行設(shè)備發(fā)生故障時(shí),能夠自動替換備用設(shè)備。
fail-over與fail-back
- fail-over,在空余結(jié)構(gòu)中,停止運(yùn)行設(shè)備,使用備用設(shè)備進(jìn)行工作的過程稱為替換,英文稱為fail-over或者switch-over。
- fail-back,替換后再次恢復(fù)到原來的運(yùn)行設(shè)備,也就是從運(yùn)行狀態(tài)的備用設(shè)備再切換到原來的運(yùn)行設(shè)備的過程,稱為回退,英文稱為fail-back或switch-back。
冗余類型
1.主備方式(Active-Standby)
準(zhǔn)備兩臺路由器,其中一臺作為正常運(yùn)行業(yè)務(wù)的活躍設(shè)備(active),也可以稱為主設(shè)備(master)或者首要設(shè)備(primary)。另一臺作為發(fā)生故障時(shí)替換的備用設(shè)備(standby),也可以稱為備機(jī)(backup)、從設(shè)備(slave)、必要設(shè)備(secondary)?;钴S設(shè)備和備用設(shè)備必須共享關(guān)于設(shè)備的設(shè)置信息。
2.雙活方式(Active-Active)
準(zhǔn)備兩臺路由器,其中一臺作為首要設(shè)備(primary),另一臺作為次要設(shè)備(secondary),二者同時(shí)運(yùn)行來組成冗余結(jié)構(gòu)。這種方式可以通過與負(fù)載均衡設(shè)備并用或者設(shè)置DNS、客戶端一側(cè)的路由信息來達(dá)到負(fù)載均衡的目的。
3.集群方式(Cluster)
在主備方式或雙活方式中,使用3臺以上的硬件協(xié)同組成冗余結(jié)構(gòu)的方式。
什么是負(fù)載均衡
負(fù)載均衡,英文名稱為Load Balance,指由多臺服務(wù)器以對稱的方式組成一個(gè)服務(wù)器集合,每臺服務(wù)器都具有等價(jià)的地位,都可以單獨(dú)對外提供服務(wù)而無須其他服務(wù)器的輔助。通過某種負(fù)載分擔(dān)技術(shù),將外部發(fā)送來的請求均勻分配到對稱結(jié)構(gòu)中的某一臺服務(wù)器上,而接收到請求的服務(wù)器獨(dú)立地回應(yīng)客戶的請求。負(fù)載均衡能夠平均分配客戶請求到服務(wù)器陣列,借此提供快速獲取重要數(shù)據(jù),解決大量并發(fā)訪問服務(wù)問題,這種集群技術(shù)可以用最少的投資獲得接近于大型主機(jī)的性能。
負(fù)載均衡算法在很多地方都有使用,無論是在服務(wù)治理中或者是在分布式緩存中都大量的使用,本文主要介紹幾種常見的負(fù)載均衡的算法.
1.輪詢法
輪詢法,很好理解,將請求按照順序輪流的分配到服務(wù)器上,他均衡的對待每一臺后端的服務(wù)器,不關(guān)心服務(wù)器的的連接數(shù)和負(fù)載情況.以下代碼演示了這種算法.
- public class BalanceServer {
- public static List<String> servers =
- Arrays.asList("192.168.0.1", "192.168.0.2", "192.168.0.3", "192.168.0.4",
- "192.168.0.5");
- public static int pos = 0;
- public static String getServer() {
- String server = null;
- if (pos >= servers.size()) {
- pos = 0;
- }
- server = servers.get(pos);
- pos++;
- return server;
- }
- public static void main(String[] args) {
- for(int i=0;i<10;i++){
- System.out.println(BalanceServer.getServer());
- }
- }
- }
輪詢的策略目的在于請求的絕對均衡,但是在實(shí)際的情況下,可能服務(wù)器并不是完全一樣,導(dǎo)致有些性能高的服務(wù)器不能完全發(fā)揮出來.
2.隨機(jī)法
通過系統(tǒng)的隨機(jī)函數(shù),根據(jù)后端服務(wù)器列表的大小來隨機(jī)獲取其中的一臺來訪問,隨著調(diào)用量的增大,實(shí)際效果越來越近似于平均分配到?jīng)]一臺服務(wù)器.和輪詢的效果類似, 代碼如下:
- public class BalanceServer {
- public static List<String> servers = Arrays.asList("192.168.0.1", "192.168.0.2", "192.168.0.3", "192.168.0.4",
- "192.168.0.5");
- public static int pos = 0;
- public static String getServer() {
- String server = null;
- Random random = new Random();
- int randomPos = random.nextInt(servers.size());
- server = servers.get(randomPos);
- return server;
- }
- }
和輪詢算法比較,在并發(fā)的場景下,輪詢需要加鎖,隨機(jī)法想比而言性能好點(diǎn).
3.源地址hash法
源地址hash法的思想是獲取客戶端訪問的ip地址,通過hash函數(shù)計(jì)算出一個(gè)hash值,用該hash值對服務(wù)器列表的大小進(jìn)行取模運(yùn)算,得到的值就是要訪問的服務(wù)器的序號,代碼如下:
- public class BalanceServer {
- public static List<String> servers = Arrays.asList("192.168.0.1", "192.168.0.2", "192.168.0.3", "192.168.0.4",
- "192.168.0.5");
- public static int pos = 0;
- public static String getServer(String ip) {
- String server = null;
- int hashCode = ip.hashCode();
- pos = hashCode % servers.size();
- server = servers.get(pos);
- return server;
- }
- }
hash法的好處是,在服務(wù)器列表不變的情況下,每次客戶端訪問的服務(wù)器都是同一個(gè)服務(wù)器.利用這個(gè)特性可以有狀態(tài)的session會話.無需額外的操作就可以實(shí)現(xiàn)粘性會話.
4.加權(quán)輪詢法
剛剛有說道過,不同的服務(wù)器性能不同,所以不能一概而論,需要給性能低的服務(wù)器給比較低的權(quán)重,性能高的給跟高的權(quán)重,代碼如下:
- public class BalanceServer {
- public static Map<String, Integer> serverMap = new HashMap<String, Integer>();
- public static int pos = 0;
- static {
- serverMap.put("192.168.0.1", 1);
- serverMap.put("192.168.0.2", 1);
- serverMap.put("192.168.0.3", 4);
- serverMap.put("192.168.0.4", 3);
- serverMap.put("192.168.0.5", 3);
- serverMap.put("192.168.0.6", 2);
- }
- public static String getServer() {
- Set<String> keySet = serverMap.keySet();
- Iterator<String> it = keySet.iterator();
- List<String> servers = new ArrayList<String>();
- while (it.hasNext()) {
- String server = it.next();
- Integer weight = serverMap.get(server);
- for (int i = 0; i < weight; i++) {
- servers.add(server);
- }
- }
- String server = null;
- if (pos >= servers.size()) {
- pos = 0;
- }
- server = servers.get(pos);
- pos++;
- return server;
- }
- public static void main(String[] args) {
- for(int i=0;i<14;i++){
- System.out.println(BalanceServer.getServer());
- }
- 35 }
- 36}
5.加權(quán)隨機(jī)法
與加權(quán)輪詢法類似,加權(quán)隨機(jī)法也是根據(jù)后端服務(wù)器不同的配置和負(fù)載情況來配置不同的權(quán)重。不同的是,它是按照權(quán)重來隨機(jī)選擇服務(wù)器的,而不是順序。加權(quán)隨機(jī)法的代碼實(shí)現(xiàn)如下:
- public class WeightRandom
- {
- public static String getServer()
- {
- // 重建一個(gè)Map,避免服務(wù)器的上下線導(dǎo)致的并發(fā)問題
- Map<String, Integer> serverMap =
- new HashMap<String, Integer>();
- serverMap.putAll(IpMap.serverWeightMap);
- // 取得Ip地址List
- Set<String> keySet = serverMap.keySet();
- Iterator<String> iterator = keySet.iterator();
- List<String> serverList = new ArrayList<String>();
- while (iterator.hasNext())
- {
- String server = iterator.next();
- int weight = serverMap.get(server);
- for (int i = 0; i < weight; i++)
- serverList.add(server);
- }
- java.util.Random random = new java.util.Random();
- int randomPos = random.nextInt(serverList.size());
- return serverList.get(randomPos);
- }
- }