Spring Cloud 中七種負載均衡策略!
負載均衡通器常有兩種實現(xiàn)手段,一種是服務端負載均衡器,另一種是客戶端負載均衡器,而我們今天的主角 Ribbon 就屬于后者——客戶端負載均衡器。
服務端負載均衡器的問題是,它提供了更強的流量控制權,但無法滿足不同的消費者希望使用不同負載均衡策略的需求,而使用不同負載均衡策略的場景確實是存在的,所以客戶端負載均衡就提供了這種靈活性。然而客戶端負載均衡也有其缺點,如果配置不當,可能會導致服務提供者出現(xiàn)熱點,或者壓根就拿不到任何服務的情況,所以我們本文就來了解一下這 7 種內置負載均衡策略的具體規(guī)則。
Ribbon 介紹
Ribbon 是 Spring Cloud 技術棧中非常重要的基礎框架,它為 Spring Cloud 提供了負載均衡的能力,比如 Fegin 和 OpenFegin 都是基于 Ribbon 實現(xiàn)的,就連 Nacos 中的負載均衡也使用了 Ribbon 框架。
Ribbon 框架的強大之處在于,它不僅內置了 7 種負載均衡策略,同時還支持用戶自定義負載均衡策略,所以其開放性和便利性也是它得以流行的主要原因。
服務端負載均衡器和客戶端負載均衡器的區(qū)別如下圖所示:
客戶端負載均衡器的實現(xiàn)原理是通過注冊中心,如 Nacos,將可用的服務列表拉取到本地(客戶端),再通過客戶端負載均衡器(設置的負載均衡策略)獲取到某個服務器的具體 ip 和端口,然后再通過 Http 框架請求服務并得到結果,其執(zhí)行流程如下圖所示:
負載均衡設置
以 Nacos 中的 Ribbon 負載均衡設置為例,在配置文件 application.yml 中設置如下配置即可:
因為 Nacos 中已經(jīng)內置了 Ribbon,所以在實際項目開發(fā)中無需再添加 Ribbon 依賴了,這一點我們在 Nacos 的依賴樹中就可以看到,如下圖所示:
Ribbon 默認的負載均衡策略是輪詢模式,我們配置 3 個服務提供者的執(zhí)行結果如下圖所示:
然后,我們再將 Ribbon 負載均衡策略設置為隨機模式,配置內容如下:
重啟客戶端,執(zhí)行結果如下圖所示:
7種負載均衡策略
1、輪詢策略
輪詢策略:RoundRobinRule,按照一定的順序依次調用服務實例。比如一共有 3 個服務,第一次調用服務 1,第二次調用服務 2,第三次調用服務3,依次類推。此策略的配置設置如下:
2、權重策略
權重策略:WeightedResponseTimeRule,根據(jù)每個服務提供者的響應時間分配一個權重,響應時間越長,權重越小,被選中的可能性也就越低。它的實現(xiàn)原理是,剛開始使用輪詢策略并開啟一個計時器,每一段時間收集一次所有服務提供者的平均響應時間,然后再給每個服務提供者附上一個權重,權重越高被選中的概率也越大。此策略的配置設置如下:
3、隨機策略
隨機策略:RandomRule,從服務提供者的列表中隨機選擇一個服務實例。此策略的配置設置如下:
4、最小連接數(shù)策略
最小連接數(shù)策略:BestAvailableRule,也叫最小并發(fā)數(shù)策略,它是遍歷服務提供者列表,選取連接數(shù)最小的?個服務實例。如果有相同的最小連接數(shù),那么會調用輪詢策略進行選取。此策略的配置設置如下:
5、重試策略
重試策略:RetryRule,按照輪詢策略來獲取服務,如果獲取的服務實例為 null 或已經(jīng)失效,則在指定的時間之內不斷地進行重試來獲取服務,如果超過指定時間依然沒獲取到服務實例則返回 null。此策略的配置設置如下:
6、可用性敏感策略
可用敏感性策略:AvailabilityFilteringRule,先過濾掉非健康的服務實例,然后再選擇連接數(shù)較小的服務實例。此策略的配置設置如下:
7、區(qū)域敏感策略
區(qū)域敏感策略:ZoneAvoidanceRule,根據(jù)服務所在區(qū)域(zone)的性能和服務的可用性來選擇服務實例,在沒有區(qū)域的環(huán)境下,該策略和輪詢策略類似。此策略的配置設置如下:
項目源碼
?https://gitee.com/mydb/spring-cloud-alibaba-example?。
總結
Ribbon 為客戶端負載均衡器,相比于服務端負載均衡器的統(tǒng)一負載均衡策略來說,它提供了更多的靈活性。Ribbon 內置了 7 種負載均衡策略:輪詢策略、權重策略、隨機策略、最小連接數(shù)策略、重試策略、可用性敏感策略、區(qū)域性敏感策略,并且用戶可以通過繼承 RoundRibbonRule 來實現(xiàn)自定義負載均衡策略。