故障現(xiàn)場(chǎng) | 這個(gè)死鎖出奇的詭異
1. 問題&分析
線程池用多了總會(huì)出現(xiàn)些詭異問題,特別是當(dāng)任務(wù)間的關(guān)系比較復(fù)雜時(shí),經(jīng)常會(huì)出現(xiàn)讓你想象不到問題,比如這次出現(xiàn)的這個(gè)問題。
1.1. 案例
突然間,系統(tǒng)出現(xiàn)大量報(bào)警,具體信息如下:
圖片
從拋出的異??芍?,提交量較大導(dǎo)致線程池資源被耗盡,從而觸發(fā)了線程池的拒絕策略,直接拋出了 RejectedExecutionException。
開始的時(shí)候,小艾認(rèn)為等高峰流量過去后,系統(tǒng)便能恢復(fù)正常??沙龊跻饬系氖?,系統(tǒng)一直沒有恢復(fù),那么流量已經(jīng)將至個(gè)位數(shù),請(qǐng)求也是 100% 失敗,同時(shí)該節(jié)點(diǎn)的大量后臺(tái)任務(wù)都出現(xiàn)異常。沒有辦法,為了快速止損,不得已對(duì)異常節(jié)點(diǎn)進(jìn)行重啟,系統(tǒng)隨之恢復(fù)正常,日志輸入如下:
圖片
其他的后臺(tái)任務(wù)也恢復(fù)正常。
驚魂初定的小艾找到出問題的代碼如下:
@GetMapping("syncSubmit")
public RestResult<String> syncSubmit(String taskName){
this.executeService.submit(new ParentTask());
return RestResult.success("提交成功");
}
class ParentTask implements Callable<Boolean>{
@Override
public Boolean call() throws Exception {
Future<A> aFuture = executeService.submit(new FetchAChildTask());
doSomeThing(500);
Future<B> bFuture = executeService.submit(new FetchBChildTask());
doSomeThing(500);
C c = buildC(aFuture.get(), bFuture.get());
Future<Boolean> cFuture = executeService.submit(new SaveCChildTask(c));
return cFuture.get();
}
}
代碼的邏輯非常簡(jiǎn)單,核心流程如下圖所示:
圖片
核心流程為:
- 提交異步任務(wù),并行獲取 A 和 B
- 線程同步處理一下耗時(shí)操作
- 獲取 A 和 B 結(jié)果后,構(gòu)建新對(duì)象 C
- 將 C 保存到數(shù)據(jù)庫
邏輯非常簡(jiǎn)單,唯一的復(fù)雜點(diǎn)在于:==多處任務(wù)提交使用了統(tǒng)一線程池。==
【背景】考慮到線程池是系統(tǒng)中最寶貴的資源,公司“大牛”封裝了一個(gè)全局的 GlobalExecuteService 服務(wù),并制定規(guī)范要求所有異步任務(wù)統(tǒng)一使用 GlobalExecuteService 來完成。如果需要構(gòu)建自己的線程池,需要向他提交審批,只有在審批后才能創(chuàng)建新的線程池。
1.2. 問題分析
線程池處于什么狀態(tài)?為什么所有異步任務(wù)都無法提交?
這是一個(gè)比較燒腦的問題,單盤邏輯沒有什么頭緒,沒有辦法只能將現(xiàn)場(chǎng) dump 下來進(jìn)行分析。
第一個(gè)問題:線程池線程都處于什么狀態(tài),線程棧信息如下:
圖片
從日志中可知:
- 線程池中的線程全部處于 WAITING,也就是等待狀態(tài);
- 展開 Thread-1 棧信息,發(fā)現(xiàn)線程再調(diào)用 future.get 操作時(shí)出現(xiàn)阻塞
- 實(shí)際等待對(duì)象為 FutrueTask#10
接下來,需要進(jìn)一步確認(rèn) FutureTask#10 具體處于什么狀態(tài),從內(nèi)存堆中找到 FutureTask#10 對(duì)象,詳細(xì)信息如下:
圖片
從日志中可以看出:
- FutureTask#10 是 LinkedBlockingQueue 的 Node 節(jié)點(diǎn)持有,也就是 FutureTask#10 處于等待隊(duì)列中
- 該阻塞隊(duì)列屬于 GlobalExecuteService 所有
排查到這里,真相浮出水面:GlobalExecuteService 中的線程,正在等待 GlobalExecuteService 阻塞隊(duì)列的任務(wù)完成。
具體如下圖所示:
圖片
線程池中的所有工作線程都在等待阻塞隊(duì)列的任務(wù)完成,由于沒有可用的工作線程,阻塞隊(duì)列中的任務(wù)永遠(yuǎn)都不會(huì)被執(zhí)行。
這就是典型的死鎖?。。?/strong>
2. 解決方案
費(fèi)了老大勁終于定位問題,解決思路也就變的明了:不要向自己運(yùn)行的線程池提交任務(wù)。
圖解如下:
圖片
線程池不會(huì)向自己提交任務(wù),而是將任務(wù)提交到其他線程池。
2.1. 手工拆分線程池
問題修復(fù)變的簡(jiǎn)單,我們需要:
- 先建一個(gè)子線程池服務(wù)
- 父線程池向子線程池提交任務(wù)
具體代碼如下:
@Autowired
private GlobalExecuteService executeService;
// 創(chuàng)建新的線程池服務(wù)
@Autowired
private SubExecuteService subExecuteService;
@GetMapping("syncSubmit")
public RestResult<String> syncSubmit(String taskName){
this.executeService.submit(new ParentTask());
return RestResult.success("提交成功");
}
class ParentTask implements Callable<Boolean>{
@Override
public Boolean call() throws Exception {
log.info("Begin to Run Parent Task");
// 向新的線程池服務(wù)提交任務(wù)
Future<A> aFuture = subExecuteService.submit(new FetchAChildTask());
doSomeThing(500);
// 向新的線程池服務(wù)提交任務(wù)
Future<B> bFuture = subExecuteService.submit(new FetchBChildTask());
doSomeThing(500);
C c = buildC(aFuture.get(), bFuture.get());
// 向新的線程池服務(wù)提交任務(wù)
Future<Boolean> cFuture = subExecuteService.submit(new SaveCChildTask(c));
Boolean result = cFuture.get();
log.info("End to Run Parent Task");
return result;
}
}
2.2. 多級(jí)任務(wù)管理
手工拆分線程池確實(shí)能解決這個(gè)場(chǎng)景的問題,但由于 GlobalExecuteService 服務(wù)已經(jīng)使用很長(zhǎng)時(shí)間,任務(wù)間的關(guān)系錯(cuò)綜復(fù)雜,很難一次性排查并修復(fù)所有問題,同時(shí)隨著邏輯的變化未來仍舊會(huì)出現(xiàn)類似的問題。
那最佳方案是什么?
讓 GlobalExecuteService 具備多級(jí)管理能力。核心代碼如下:
@Service
public class GlobalExecuteServiceV2 {
// 記錄當(dāng)前線程運(yùn)行級(jí)別,默認(rèn) 0,表示當(dāng)前線程非該類管理的線程池線程
private static final ThreadLocal<Integer> LEVEL_HOLDER = ThreadLocal.withInitial(()->0);
// 一級(jí)線程池
private ExecutorService executorServiceLeve1;
// 二級(jí)線程池
private ExecutorService executorServiceLeve2;
// 默認(rèn)線程池
private ExecutorService defExecutorService;
@PostConstruct
public void init() {
// 省略線程池初始化邏輯
}
public <T> Future<T> submit(Callable<T> callable){
// 獲取當(dāng)前線程的運(yùn)行級(jí)別
Integer level = LEVEL_HOLDER.get();
// 根據(jù)當(dāng)前運(yùn)行級(jí)別,計(jì)算子任務(wù)所使用的線程池
ExecutorService executorService = getNextExecutorServiceByLevel(level);
// 為子任務(wù)分配運(yùn)行級(jí)別
CallableWrapper<T> callableWrapper = new CallableWrapper<>(level + 1, callable);
// 提交任務(wù)
return executorService.submit(callableWrapper);
}
private ExecutorService getNextExecutorServiceByLevel(Integer level) {
if (level == 0){
return executorServiceLeve1;
}
if (level == 1){
return executorServiceLeve2;
}
return defExecutorService;
}
class CallableWrapper<T> implements Callable<T>{
private final Integer level;
private final Callable<T> callable;
CallableWrapper(Integer level, Callable<T> callable) {
this.level = level;
this.callable = callable;
}
@Override
public T call() throws Exception {
try {
// 為線程池綁定運(yùn)行級(jí)別
LEVEL_HOLDER.set(level);
return callable.call();
}finally {
// 清理線程池運(yùn)行級(jí)別
LEVEL_HOLDER.remove();
}
}
}
}
核心設(shè)計(jì)如下:
- 使用 ThreadLocal<Integer> LEVEL_HOLDER 記錄當(dāng)前線程運(yùn)行的級(jí)別,默認(rèn)為 0 表示任務(wù)未在線程池中運(yùn)行
- 提交任務(wù)時(shí),通過當(dāng)前運(yùn)行級(jí)別計(jì)算下一級(jí)別的線程池
- 當(dāng)前級(jí)別為0,返回 Level1 線程池
- 當(dāng)前級(jí)別為1,返回 Level2 線程池
- 其他基本,返回 默認(rèn) 線程池
- 通過 CallableWrapper 自動(dòng)將任務(wù)運(yùn)行的 Level 綁定到當(dāng)前線程上下文
- 任務(wù)執(zhí)行前,使用 LEVEL_HOLDER.set(level) 完成運(yùn)行 level 的設(shè)置
- 任務(wù)執(zhí)行后,使用 LEVEL_HOLDER.remove() 完成運(yùn)行 level 的清理
為了演示方便,僅定義了 3 級(jí)線程池,通常情況下足夠業(yè)務(wù)使用,但需要注意:
- 超過三級(jí)提交,仍舊有可以出現(xiàn)死鎖的情況,可以通過日志方式及時(shí)暴露問題
- 如不放心,可以升級(jí)為 “無限極” 設(shè)計(jì),及使用 List<ExecutorService> 對(duì)線程池進(jìn)行統(tǒng)一管理,并根據(jù) Level 完成線程池的動(dòng)態(tài)創(chuàng)建
3. 示例&源碼
代碼倉庫:
https://gitee.com/litao851025/learnFromBug
代碼地址:
https://gitee.com/litao851025/learnFromBug/tree/master/src/main/java/com/geekhalo/demo/thread/deadlock