今日目標(biāo)

• 了解雪崩產(chǎn)生的原因
• 理解常見(jiàn)解決方案

隨著微服務(wù)架構(gòu)的廣泛應(yīng)用，應(yīng)用程序的復(fù)雜性已經(jīng)得到了顯著提高，但與之同時(shí)，微服務(wù)雪崩問(wèn)題也開(kāi)始引起廣泛關(guān)注。微服務(wù)雪崩是指在微服務(wù)架構(gòu)中，一個(gè)或多個(gè)微服務(wù)出現(xiàn)故障或不可用時(shí)，導(dǎo)致整個(gè)系統(tǒng)的不穩(wěn)定甚至崩潰。本文將介紹微服務(wù)雪崩的產(chǎn)生原因以及一些常見(jiàn)的解決方案。

1. 雪崩介紹

微服務(wù)中，服務(wù)間調(diào)用關(guān)系錯(cuò)綜復(fù)雜，一個(gè)微服務(wù)往往依賴(lài)于多個(gè)其它微服務(wù)。

圖片

如圖，如果服務(wù)提供者I發(fā)生了故障，當(dāng)前的應(yīng)用的部分業(yè)務(wù)因?yàn)橐蕾?lài)于服務(wù)I，因此也會(huì)被阻塞。此時(shí)，其它不依賴(lài)于服務(wù)I的業(yè)務(wù)似乎不受影響。

圖片

但是，依賴(lài)服務(wù)I的業(yè)務(wù)請(qǐng)求被阻塞，用戶(hù)不會(huì)得到響應(yīng)，服務(wù)器的這個(gè)線(xiàn)程不會(huì)釋放，于是越來(lái)越多的用戶(hù)請(qǐng)求到來(lái)，越來(lái)越多的線(xiàn)程會(huì)阻塞：

圖片

服務(wù)器支持的線(xiàn)程和并發(fā)數(shù)有限，請(qǐng)求一直阻塞，會(huì)導(dǎo)致服務(wù)器資源耗盡，從而導(dǎo)致所有其它服務(wù)都不可用，那么當(dāng)前服務(wù)也就不可用了。

那么，依賴(lài)于當(dāng)前服務(wù)的其它服務(wù)隨著時(shí)間的推移，最終也都會(huì)變的不可用，形成級(jí)聯(lián)失敗，雪崩就發(fā)生了：

圖片

總結(jié)雪崩產(chǎn)生原因

• 依賴(lài)關(guān)系復(fù)雜性： 在微服務(wù)架構(gòu)中，各個(gè)服務(wù)之間存在復(fù)雜的依賴(lài)關(guān)系。如果一個(gè)服務(wù)出現(xiàn)故障，它可能會(huì)導(dǎo)致依賴(lài)于它的其他服務(wù)也無(wú)法正常工作。
• 大規(guī)模部署： 大規(guī)模部署意味著有大量的服務(wù)實(shí)例在運(yùn)行，當(dāng)其中一部分實(shí)例出現(xiàn)問(wèn)題時(shí)，整個(gè)系統(tǒng)可能受到影響。
• 同時(shí)故障： 有時(shí)，多個(gè)服務(wù)可能因相同的原因（如硬件故障、網(wǎng)絡(luò)問(wèn)題或配置錯(cuò)誤）而同時(shí)故障，導(dǎo)致雪崩效應(yīng)。
• 超時(shí)和重試： 如果某個(gè)服務(wù)在請(qǐng)求時(shí)長(zhǎng)時(shí)間未響應(yīng)，其他服務(wù)可能會(huì)發(fā)起重試請(qǐng)求，導(dǎo)致更多的負(fù)載，最終導(dǎo)致系統(tǒng)崩潰。
• 資源耗盡： 當(dāng)某個(gè)服務(wù)的資源（如數(shù)據(jù)庫(kù)連接、線(xiàn)程池）被過(guò)度消耗時(shí)，它可能會(huì)無(wú)法響應(yīng)請(qǐng)求，從而引發(fā)雪崩。

2. 雪崩解決方案

雪崩解決常見(jiàn)解決方案有以下幾種:

• 超時(shí)處理：對(duì)于每個(gè)微服務(wù)的請(qǐng)求，應(yīng)該設(shè)置合理的超時(shí)時(shí)間。超時(shí)時(shí)間應(yīng)該充分考慮服務(wù)的響應(yīng)時(shí)間和業(yè)務(wù)需求，以避免等待時(shí)間過(guò)長(zhǎng)導(dǎo)致的問(wèn)題
• 艙壁模式（Bulkhead Pattern for Avalanche）:系統(tǒng)遇到雪崩風(fēng)險(xiǎn)時(shí)，通過(guò)隔離不同服務(wù)或組件，以防止一個(gè)故障或高負(fù)載情況影響整個(gè)系統(tǒng)的穩(wěn)定性。是一種應(yīng)對(duì)潛在雪崩的設(shè)計(jì)模式
• 限流（Rate Limiting）: 限流可以控制對(duì)服務(wù)的請(qǐng)求速率，確保不會(huì)超出服務(wù)的處理能力。這可以防止流量過(guò)多而導(dǎo)致系統(tǒng)崩潰
• 熔斷器模式（Circuit Breaker Pattern）：熔斷器模式是一種容錯(cuò)模式，用于避免雪崩效應(yīng)。熔斷器會(huì)監(jiān)控服務(wù)的健康狀態(tài)，當(dāng)服務(wù)連續(xù)出現(xiàn)故障或響應(yīng)時(shí)間超過(guò)閾值時(shí)，熔斷器會(huì)打開(kāi)，阻止進(jìn)一步的請(qǐng)求流量流向該服務(wù)，從而保護(hù)系統(tǒng)的穩(wěn)定性
• 降級(jí)策略（Fallback）： 降級(jí)是一種處理服務(wù)不可用或性能下降的策略，它允許系統(tǒng)在出現(xiàn)問(wèn)題時(shí)提供有限但穩(wěn)定的功能，而不是完全失敗。當(dāng)服務(wù)出現(xiàn)問(wèn)題時(shí)，降級(jí)策略可以返回默認(rèn)值、緩存數(shù)據(jù)、執(zhí)行備用操作或者提供一個(gè)基本的響應(yīng)，以確保用戶(hù)仍然能夠訪問(wèn)系統(tǒng)的一部分功能

2.1. 超時(shí)處理

針對(duì)服務(wù)調(diào)用增加超時(shí)機(jī)制(一般dubbo默認(rèn)30s)，一旦超時(shí)自動(dòng)釋放資源，因釋放資源較快一定程度可抑制資源耗盡問(wèn)題。但如果在超時(shí)釋放的時(shí)間內(nèi)陡增大量請(qǐng)求，依然會(huì)導(dǎo)致服務(wù)宕機(jī)不可用。

圖片

2.2. 艙壁模式（Bulkhead Pattern for Avalanche）

倉(cāng)壁模式來(lái)源于船艙的設(shè)計(jì)：船艙都會(huì)被隔板分離為多個(gè)獨(dú)立空間，當(dāng)船體破損時(shí)，只會(huì)導(dǎo)致部分空間進(jìn)入，將故障控制在一定范圍內(nèi)，避免整個(gè)船體都被淹沒(méi)。于此類(lèi)似，我們可以限定每個(gè)業(yè)務(wù)能使用的線(xiàn)程數(shù)，避免耗盡整個(gè)服務(wù)器的資源，因此也叫線(xiàn)程隔離。

圖片

2.3. 熔斷器模式（Circuit Breaker Pattern）

熔斷器模式：由熔斷器統(tǒng)計(jì)業(yè)務(wù)執(zhí)行的異常比例，如果超出閾值則會(huì)熔斷該業(yè)務(wù)，攔截訪問(wèn)該業(yè)務(wù)的一切請(qǐng)求。

熔斷器會(huì)統(tǒng)計(jì)訪問(wèn)某個(gè)服務(wù)的請(qǐng)求數(shù)量，異常比例

圖片

當(dāng)發(fā)現(xiàn)訪問(wèn)服務(wù)D的請(qǐng)求異常比例過(guò)高時(shí)，認(rèn)為服務(wù)D有導(dǎo)致雪崩的風(fēng)險(xiǎn)，會(huì)攔截訪問(wèn)服務(wù)D的一切請(qǐng)求，形成熔斷：

圖片

2.4. 限流

限流：限制業(yè)務(wù)訪問(wèn)的QPS，避免服務(wù)因流量的突增而故障。

圖片

3.總結(jié)

雪崩問(wèn)題:

• 微服務(wù)之間相互調(diào)用，因?yàn)檎{(diào)用鏈中的一個(gè)服務(wù)故障，引起整個(gè)鏈路都無(wú)法訪問(wèn)的情況。

解決方案:

限流是對(duì)服務(wù)的保護(hù)，避免因瞬間高并發(fā)流量而導(dǎo)致服務(wù)故障，進(jìn)而避免雪崩。是一種預(yù)防措施。

超時(shí)處理、線(xiàn)程隔離、降級(jí)熔斷是在部分服務(wù)故障時(shí)，將故障控制在一定范圍，避免雪崩。是一種補(bǔ)救措施。