轉(zhuǎn)轉(zhuǎn)B2C一站式服務(wù)告警治理的背后
1 為什么寫這篇文章
轉(zhuǎn)轉(zhuǎn)B2C技術(shù)部主要負(fù)責(zé)商詳、商列等BFF層核心頁面業(yè)務(wù)，單接口甚至需要開線程池并行調(diào)用二十多個依賴服務(wù)，因此依賴的服務(wù)以及執(zhí)行線程池的穩(wěn)定性也就成為了B2C關(guān)注的重點(diǎn)。
那么站在技術(shù)視角看調(diào)用鏈路，會發(fā)現(xiàn)幾個特點(diǎn)：
- CPU使用率高，線程池大量使用
- RPC調(diào)用多，穩(wěn)定性指望依賴的服務(wù)方
- 業(yè)務(wù)調(diào)用鏈路較長，無法精細(xì)化控制
本文就針對如何快速定位常見問題，以及后續(xù)日志的進(jìn)一步治理計(jì)劃來進(jìn)行講解。
2 現(xiàn)狀與問題
目前轉(zhuǎn)轉(zhuǎn)各個排查問題的工具是統(tǒng)一開放給公司的所有業(yè)務(wù)使用的，因此每次告警，都需借助統(tǒng)一的平臺如服務(wù)治理平臺、Grafana、Log日志平臺等工具進(jìn)行排查，不完全貼合B2C常見問題排查場景，比如上游調(diào)用異常、超時等問題。
B2C技術(shù)部告警定位問題會遇到如下幾個問題：
- 線上常見告警問題無法快速識別
線上內(nèi)置告警無法一眼定位出問題，需要根據(jù)業(yè)務(wù)新增新的Promtheus PromQL展示調(diào)用服務(wù)超時、異常榜單。
- 公司統(tǒng)一平臺無法快捷跳轉(zhuǎn)
發(fā)生緊急問題時，只能從收藏夾中選中公司各個公用平臺，然后手動輸入服務(wù)名稱、時間范圍、粘貼查詢語句等，效率較低。
- 戶外環(huán)境下無法定位常見問題
辦公設(shè)備不在身邊時，一旦發(fā)生告警，無法像在公司一樣方便的打開各個平臺進(jìn)行問題定位。
3 解決方案
上面提出了幾個問題，那怎么進(jìn)行監(jiān)控治理呢。比如，怎么快速識別出問題的類型？怎么快捷跳轉(zhuǎn)對應(yīng)的平臺？以及在戶外如何進(jìn)行問題定位呢？針對這些問題提出了如下解決方案。
總架構(gòu)設(shè)計(jì)圖如下
如圖可拆分為四部分，執(zhí)行步驟為：規(guī)范梳理及調(diào)整 -> 日志收集 -> 日志告警及定位 -> 告警感知
3.1 規(guī)范梳理及調(diào)整
- 日志打印規(guī)范化：梳理項(xiàng)目不合理日志打印輸出。
- 日志打印級別優(yōu)化：如輸入密碼為空日志級別由error降為warn級別。
- 該打的日志沒打：領(lǐng)券、預(yù)約、秒殺成功等關(guān)鍵節(jié)點(diǎn)操作需要輸出日志。
- 不該的打日志別打：移除掉定位問題無關(guān)的大日志，如打印整個商詳返回值。
- 類型與閾值規(guī)范：規(guī)范異常拋出類型及調(diào)整業(yè)務(wù)系統(tǒng)告警閾值。
- 無效錯誤堆棧日志屏蔽：如timeoutException異常的堆棧日志打印無效，可直接省略。
- 告警閾值過于固定：根據(jù)各業(yè)務(wù)調(diào)整閾值，達(dá)到99.99%系統(tǒng)穩(wěn)定性告警閾值標(biāo)準(zhǔn)即可。
3.2 基于Apollo自定義日志Agent攔截(日志收集)
日志收集
- Apollo配置中心控制異常+日志打印維度配置。
- 根據(jù)配置屏蔽無用Exception，并上報(bào)到Promtheus，以Grafana報(bào)表展示。
- 通過JavaAgent根據(jù)配置的業(yè)務(wù)、類、方法級別攔截日志打印，偽代碼如下。
public MethodVisitor visitMethod(int access, String name, String descriptor, String signature, String[] exceptions) {
MethodVisitor methodVisitor = super.visitMethod(access, name, descriptor, signature, exceptions);
if (STR_V.equals(descriptor) && infoLevel.contains(name)) {
// 此處省略。。攔截日志處理邏輯----------
return new LogMethodInsnVisitor(methodVisitor, className, name);
} else {
return methodVisitor;
}
}3.3 自定義B2C業(yè)務(wù)告警服務(wù)(日志告警及定位)
日志告警及定位
- 通過在Promtheus編寫自定義PromQL，收集服務(wù)超時、異常錯誤。
- 公司的Promtheus收集告警日志，并回調(diào)B2C業(yè)務(wù)告警服務(wù)接口。
- 回調(diào)接口通過MQ上報(bào)告警消息，B2C告警服務(wù)消費(fèi)處理，組裝成業(yè)務(wù)需要看的數(shù)據(jù)后，通過企業(yè)微信機(jī)器人進(jìn)行通知。
- 點(diǎn)擊告警前往大盤，會跳轉(zhuǎn)到指定服務(wù)、時間范圍的監(jiān)控大盤，含：服務(wù)超時榜單、服務(wù)異常榜單、全局異常列表以及快捷跳轉(zhuǎn)的工具箱。
其中快捷跳轉(zhuǎn)工具箱設(shè)計(jì)原理如下
- 公司的Log日志平臺僅支持小時級別過濾，因此我們改在基于grep過濾，自定義正則表達(dá)式過濾出特定時間范圍日志。
- 舉例 16:44~17:14分 過濾正則例子: \(16:\(4[4-9]\|5[0-9]\):\)\|\(17:\(0[0-9]\|1[0-4]\):\)
- 針對常規(guī)連接則通過類似{serverName}、{startTimeStamp}、{endTimeStamp}、{ip}等占位符替換機(jī)制獲取快捷跳轉(zhuǎn)鏈接。
3.4 第一責(zé)任人機(jī)制(告警感知)
告警感知
- 為對應(yīng)服務(wù)綁定第一負(fù)責(zé)人及其關(guān)聯(lián)的leader聯(lián)系手機(jī)號。
- 配置化形式針對指定類型告警如調(diào)用依賴服務(wù)異常，如果超過一定時間閾值無人跟進(jìn)則給服務(wù)第一負(fù)責(zé)人IVR(電話語音呼叫)通知。
- 如果超時依舊無人處理則往對應(yīng)leader進(jìn)行IVR通知。
- 如果有人跟進(jìn)，則下次同類型告警標(biāo)記為處理人xxx跟進(jìn)中。
4 應(yīng)用與效果
4.1 基于自定義告警快速跳轉(zhuǎn)定位
企業(yè)微信機(jī)器人告警
4.2 快速定位超時、異常服務(wù)以及全局拋出異常列表
點(diǎn)擊告警后跳轉(zhuǎn)頁面
4.3 快捷跳轉(zhuǎn)指定服務(wù)、時間所在服務(wù)的公司問題定位平臺
5 總結(jié)
總的來說，這里是從怎么快速定位異常入手，通過自定義Promtheus的PromQL來聚焦當(dāng)前業(yè)務(wù)需關(guān)注的異常，另外實(shí)現(xiàn)了H5監(jiān)控大盤頁面，提升了在非工作日戶外無辦公設(shè)備問題定位的能力。
