[[187583]]

一、緣起

一切脫離業(yè)務(wù)的架構(gòu)設(shè)計(jì)與新技術(shù)引入都是耍流氓。

引入一個(gè)技術(shù)之前，首先應(yīng)該解答的問題是，這個(gè)技術(shù)解決什么問題。

就像微服務(wù)分層架構(gòu)之前，應(yīng)該首先回答，為什么要引入微服務(wù)，微服務(wù)究竟解決什么問題(詳見《互聯(lián)網(wǎng)架構(gòu)為什么要做微服務(wù)?》)。

最近分享了幾篇MQ相關(guān)的文章：

• 《MQ如何實(shí)現(xiàn)延時(shí)消息》
• 《MQ如何實(shí)現(xiàn)消息必達(dá)》
• 《MQ如何實(shí)現(xiàn)冪等性》

不少網(wǎng)友詢問，究竟什么時(shí)候使用MQ，MQ究竟適合什么場(chǎng)景，故有了此文。

二、MQ是干嘛的

消息總線(Message Queue)，后文稱MQ，是一種跨進(jìn)程的通信機(jī)制，用于上下游傳遞消息。

在互聯(lián)網(wǎng)架構(gòu)中，MQ是一種非常常見的上下游“邏輯解耦+物理解耦”的消息通信服務(wù)。

使用了MQ之后，消息發(fā)送上游只需要依賴MQ，邏輯上和物理上都不用依賴其他服務(wù)。

三、什么時(shí)候不使用消息總線

既然MQ是互聯(lián)網(wǎng)分層架構(gòu)中的解耦利器，那所有通訊都使用MQ豈不是很好?這是一個(gè)嚴(yán)重的誤區(qū)，調(diào)用與被調(diào)用的關(guān)系，是無法被MQ取代的。

MQ的不足是：

• 系統(tǒng)更復(fù)雜，多了一個(gè)MQ組件
• 消息傳遞路徑更長(zhǎng)，延時(shí)會(huì)增加
• 消息可靠性和重復(fù)性互為矛盾，消息不丟不重難以同時(shí)保證
• 上游無法知道下游的執(zhí)行結(jié)果，這一點(diǎn)是很致命的

舉個(gè)栗子：用戶登錄場(chǎng)景，登錄頁(yè)面調(diào)用passport服務(wù)，passport服務(wù)的執(zhí)行結(jié)果直接影響登錄結(jié)果，此處的“登錄頁(yè)面”與“passport服務(wù)”就必須使用調(diào)用關(guān)系，而不能使用MQ通信。

無論如何，記住這個(gè)結(jié)論：調(diào)用方實(shí)時(shí)依賴執(zhí)行結(jié)果的業(yè)務(wù)場(chǎng)景，請(qǐng)使用調(diào)用，而不是MQ。

四、什么時(shí)候使用MQ

【典型場(chǎng)景一：數(shù)據(jù)驅(qū)動(dòng)的任務(wù)依賴】

什么是任務(wù)依賴，舉個(gè)栗子，互聯(lián)網(wǎng)公司經(jīng)常在凌晨進(jìn)行一些數(shù)據(jù)統(tǒng)計(jì)任務(wù)，這些任務(wù)之間有一定的依賴關(guān)系，比如：

• task3需要使用task2的輸出作為輸入
• task2需要使用task1的輸出作為輸入

這樣的話，tast1, task2, task3之間就有任務(wù)依賴關(guān)系，必須task1先執(zhí)行，再task2執(zhí)行，載task3執(zhí)行。

對(duì)于這類需求，常見的實(shí)現(xiàn)方式是，使用cron人工排執(zhí)行時(shí)間表：

• task1，0:00執(zhí)行，經(jīng)驗(yàn)執(zhí)行時(shí)間為50分鐘
• task2，1:00執(zhí)行(為task1預(yù)留10分鐘buffer)，經(jīng)驗(yàn)執(zhí)行時(shí)間也是50分鐘
• task3，2:00執(zhí)行(為task2預(yù)留10分鐘buffer)

這種方法的壞處是：

• 如果有一個(gè)任務(wù)執(zhí)行時(shí)間超過了預(yù)留buffer的時(shí)間，將會(huì)得到錯(cuò)誤的結(jié)果，因?yàn)楹笾萌蝿?wù)不清楚前置任務(wù)是否執(zhí)行成功，此時(shí)要手動(dòng)重跑任務(wù)，還有可能要調(diào)整排班表
• 總?cè)蝿?wù)的執(zhí)行時(shí)間很長(zhǎng)，總是要預(yù)留很多buffer，如果前置任務(wù)提前完成，后置任務(wù)不會(huì)提前開始
• 如果一個(gè)任務(wù)被多個(gè)任務(wù)依賴，這個(gè)任務(wù)將會(huì)稱為關(guān)鍵路徑，排班表很難體現(xiàn)依賴關(guān)系，容易出錯(cuò)
• 如果有一個(gè)任務(wù)的執(zhí)行時(shí)間要調(diào)整，將會(huì)有多個(gè)任務(wù)的執(zhí)行時(shí)間要調(diào)整

無論如何，采用“cron排班表”的方法，各任務(wù)耦合，誰(shuí)用過誰(shuí)痛誰(shuí)知道(采用此法的請(qǐng)?jiān)u論留言)

優(yōu)化方案是，采用MQ解耦：

• task1準(zhǔn)時(shí)開始，結(jié)束后發(fā)一個(gè)“task1 done”的消息
• task2訂閱“task1 done”的消息，收到消息后第一時(shí)間啟動(dòng)執(zhí)行，結(jié)束后發(fā)一個(gè)“task2 done”的消息
• task3同理

采用MQ的優(yōu)點(diǎn)是：

• 不需要預(yù)留buffer，上游任務(wù)執(zhí)行完，下游任務(wù)總會(huì)在第一時(shí)間被執(zhí)行
• 依賴多個(gè)任務(wù)，被多個(gè)任務(wù)依賴都很好處理，只需要訂閱相關(guān)消息即可
• 有任務(wù)執(zhí)行時(shí)間變化，下游任務(wù)都不需要調(diào)整執(zhí)行時(shí)間

需要特別說明的是，MQ只用來傳遞上游任務(wù)執(zhí)行完成的消息，并不用于傳遞真正的輸入輸出數(shù)據(jù)。

【典型場(chǎng)景二：上游不關(guān)心執(zhí)行結(jié)果】

上游需要關(guān)注執(zhí)行結(jié)果時(shí)要用“調(diào)用”，上游不關(guān)注執(zhí)行結(jié)果時(shí)，就可以使用MQ了。

舉個(gè)栗子，58同城的很多下游需要關(guān)注“用戶發(fā)布帖子”這個(gè)事件，比如招聘用戶發(fā)布帖子后，招聘業(yè)務(wù)要獎(jiǎng)勵(lì)58豆，房產(chǎn)用戶發(fā)布帖子后，房產(chǎn)業(yè)務(wù)要送2個(gè)置頂，二手用戶發(fā)布帖子后，二手業(yè)務(wù)要修改用戶統(tǒng)計(jì)數(shù)據(jù)。

對(duì)于這類需求，常見的實(shí)現(xiàn)方式是，使用調(diào)用關(guān)系：

帖子發(fā)布服務(wù)執(zhí)行完成之后，調(diào)用下游招聘業(yè)務(wù)、房產(chǎn)業(yè)務(wù)、二手業(yè)務(wù)，來完成消息的通知，但事實(shí)上，這個(gè)通知是否正常正確的執(zhí)行，帖子發(fā)布服務(wù)根本不關(guān)注。

這種方法的壞處是：

• 帖子發(fā)布流程的執(zhí)行時(shí)間增加了
• 下游服務(wù)當(dāng)機(jī)，可能導(dǎo)致帖子發(fā)布服務(wù)受影響，上下游邏輯+物理依賴嚴(yán)重
• 每當(dāng)增加一個(gè)需要知道“帖子發(fā)布成功”信息的下游，修改代碼的是帖子發(fā)布服務(wù)，這一點(diǎn)是最惡心的，屬于架構(gòu)設(shè)計(jì)中典型的依賴倒轉(zhuǎn)，誰(shuí)用過誰(shuí)痛誰(shuí)知道(采用此法的請(qǐng)?jiān)u論留言)

優(yōu)化方案是，采用MQ解耦：

• 帖子發(fā)布成功后，向MQ發(fā)一個(gè)消息
• 哪個(gè)下游關(guān)注“帖子發(fā)布成功”的消息，主動(dòng)去MQ訂閱

采用MQ的優(yōu)點(diǎn)是：

• 上游執(zhí)行時(shí)間短
• 上下游邏輯+物理解耦，除了與MQ有物理連接，模塊之間都不相互依賴
• 新增一個(gè)下游消息關(guān)注方，上游不需要修改任何代碼

典型場(chǎng)景三：上游關(guān)注執(zhí)行結(jié)果，但執(zhí)行時(shí)間很長(zhǎng)

有時(shí)候上游需要關(guān)注執(zhí)行結(jié)果，但執(zhí)行結(jié)果時(shí)間很長(zhǎng)(典型的是調(diào)用離線處理，或者跨公網(wǎng)調(diào)用)，也經(jīng)常使用回調(diào)網(wǎng)關(guān)+MQ來解耦。

舉個(gè)栗子，微信支付，跨公網(wǎng)調(diào)用微信的接口，執(zhí)行時(shí)間會(huì)比較長(zhǎng)，但調(diào)用方又非常關(guān)注執(zhí)行結(jié)果，此時(shí)一般怎么玩呢?

一般采用“回調(diào)網(wǎng)關(guān)+MQ”方案來解耦：

• 調(diào)用方直接跨公網(wǎng)調(diào)用微信接口
• 微信返回調(diào)用成功，此時(shí)并不代表返回成功
• 微信執(zhí)行完成后，回調(diào)統(tǒng)一網(wǎng)關(guān)
• 網(wǎng)關(guān)將返回結(jié)果通知MQ
• 請(qǐng)求方收到結(jié)果通知

這里需要注意的是，不應(yīng)該由回調(diào)網(wǎng)關(guān)來調(diào)用上游來通知結(jié)果，如果是這樣的話，每次新增調(diào)用方，回調(diào)網(wǎng)關(guān)都需要修改代碼，仍然會(huì)反向依賴，使用回調(diào)網(wǎng)關(guān)+MQ的方案，新增任何對(duì)微信支付的調(diào)用，都不需要修改代碼啦。

五、總結(jié)

MQ是一個(gè)互聯(lián)網(wǎng)架構(gòu)中常見的解耦利器。

什么時(shí)候不使用MQ?

• 上游實(shí)時(shí)關(guān)注執(zhí)行結(jié)果

什么時(shí)候使用MQ?

• 數(shù)據(jù)驅(qū)動(dòng)的任務(wù)依賴
• 上游不關(guān)心多下游執(zhí)行結(jié)果
• 異步返回執(zhí)行時(shí)間長(zhǎng)

【本文為51CTO專欄作者“58沈劍”原創(chuàng)稿件，轉(zhuǎn)載請(qǐng)聯(lián)系原作者】

戳這里，看該作者更多好文