自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

聊聊分布式定時任務(wù)框架選型

開發(fā) 架構(gòu)
很多業(yè)務(wù)場景需要我們某一特定的時刻去做某件任務(wù),定時任務(wù)解決的就是這種業(yè)務(wù)場景。一般來說,系統(tǒng)可以使用消息傳遞代替部分定時任務(wù),兩者有很多相似之處,可以相互替換場景。

我們先思考下面幾個業(yè)務(wù)場景的解決方案:

  • 支付系統(tǒng)每天凌晨1點(diǎn)跑批,進(jìn)行一天清算,每月1號進(jìn)行上個月清算
  • 電商整點(diǎn)搶購,商品價格8點(diǎn)整開始優(yōu)惠
  • 12306購票系統(tǒng),超過30分鐘沒有成功支付訂單的,進(jìn)行回收處理
  • 商品成功發(fā)貨后,需要向客戶發(fā)送短信提醒

類似的業(yè)務(wù)場景非常多,我們怎么解決?

為什么我們需要定時任務(wù)

很多業(yè)務(wù)場景需要我們某一特定的時刻去做某件任務(wù),定時任務(wù)解決的就是這種業(yè)務(wù)場景。一般來說,系統(tǒng)可以使用消息傳遞代替部分定時任務(wù),兩者有很多相似之處,可以相互替換場景。如,上面發(fā)貨成功發(fā)短信通知客戶的業(yè)務(wù)場景,我們可以在發(fā)貨成功后發(fā)送MQ消息到隊列,然后去消費(fèi)mq消息,發(fā)送短信。但在某些場景下不能互換:

  • 時間驅(qū)動/事件驅(qū)動:內(nèi)部系統(tǒng)一般可以通過時間來驅(qū)動,但涉及到外部系統(tǒng),則只能使用時間驅(qū)動。如怕取外部網(wǎng)站價格,每小時爬一次
  • 批量處理/逐條處理:批量處理堆積的數(shù)據(jù)更加高效,在不需要實時性的情況下比消息中間件更有優(yōu)勢。而且有的業(yè)務(wù)邏輯只能批量處理。如移動每個月結(jié)算我們的話費(fèi)
  • 實時性/非實時性:消息中間件能夠做到實時處理數(shù)據(jù),但是有些情況下并不需要實時,比如:vip升級
  • 系統(tǒng)內(nèi)部/系統(tǒng)解耦:定時任務(wù)調(diào)度一般是在系統(tǒng)內(nèi)部,而消息中間件可用于兩個系統(tǒng)間

java有哪些定時任務(wù)的框架

單機(jī)

  • timer:是一個定時器類,通過該類可以為指定的定時任務(wù)進(jìn)行配置。TimerTask類是一個定時任務(wù)類,該類實現(xiàn)了Runnable接口,缺點(diǎn)異常未檢查會中止線程
  • ScheduledExecutorService:相對延遲或者周期作為定時任務(wù)調(diào)度,缺點(diǎn)沒有絕對的日期或者時間
  • spring定時框架:配置簡單功能較多,如果系統(tǒng)使用單機(jī)的話可以優(yōu)先考慮spring定時器

分布

  • Quartz:Java事實上的定時任務(wù)標(biāo)準(zhǔn)。但Quartz關(guān)注點(diǎn)在于定時任務(wù)而非數(shù)據(jù),并無一套根據(jù)數(shù)據(jù)處理而定制化的流程。雖然Quartz可以基于數(shù)據(jù)庫實現(xiàn)作業(yè)的高可用,但缺少分布式并行調(diào)度的功能
  • TBSchedule:阿里早期開源的分布式任務(wù)調(diào)度系統(tǒng)。代碼略陳舊,使用timer而非線程池執(zhí)行任務(wù)調(diào)度。眾所周知,timer在處理異常狀況時是有缺陷的。而且TBSchedule作業(yè)類型較為單一,只能是獲取/處理數(shù)據(jù)一種模式。還有就是文檔缺失比較嚴(yán)重
  • elastic-job:當(dāng)當(dāng)開發(fā)的彈性分布式任務(wù)調(diào)度系統(tǒng),功能豐富強(qiáng)大,采用zookeeper實現(xiàn)分布式協(xié)調(diào),實現(xiàn)任務(wù)高可用以及分片,目前是版本2.15,并且可以支持云開發(fā)
  • Saturn:是唯品會自主研發(fā)的分布式的定時任務(wù)的調(diào)度平臺,基于當(dāng)當(dāng)?shù)膃lastic-job 版本1開發(fā),并且可以很好的部署到docker容器上。
  • xxl-job: 是大眾點(diǎn)評員工徐雪里于2015年發(fā)布的分布式任務(wù)調(diào)度平臺,是一個輕量級分布式任務(wù)調(diào)度框架,其核心設(shè)計目標(biāo)是開發(fā)迅速、學(xué)習(xí)簡單、輕量級、易擴(kuò)展。

分布式任務(wù)調(diào)度系統(tǒng)對比

參與對比的可選系統(tǒng)方案:elastic——job (以下簡稱E-Job)與 xxx-job(以下簡稱X-Job)

項目背景及社區(qū)力量

X-Job?。骸〈蟊婞c(diǎn)評公司下員工許雪里、貢獻(xiàn)者 3人; github有2470star、1015fork | QQ討論群6個 | 有登記在使用的超過40家公司 | 文檔齊全

E-Job : 當(dāng)當(dāng)網(wǎng)開源,貢獻(xiàn)者17人; github有2524star、1015fork | QQ討論群1個、源碼討論群1個 | 有登記在使用的超過50家公司 | 文檔齊全 | 有明確的發(fā)展計劃

支持集群部署

X-Job

執(zhí)行器支持集群部署,提升調(diào)度系統(tǒng)可用性,同時提升任務(wù)處理能力。集群部署唯一要求為:保證集群中每個執(zhí)行器的配置項 “xxl.job.admin.addresses/調(diào)度中心地址” 保持一致,執(zhí)行器根據(jù)該配置進(jìn)行執(zhí)行器自動注冊等操作。

E-Job

作業(yè)注冊中心:基于Zookeeper和其客戶端Curator實現(xiàn)的全局作業(yè)注冊控制中心。用于注冊,控制和協(xié)調(diào)分布式作業(yè)執(zhí)行。

多節(jié)點(diǎn)部署時任務(wù)不能重復(fù)執(zhí)行

X-Job

E-Job

日志可追溯

X-Job

E-Job

監(jiān)控告警

X-Job?。骸≌{(diào)度失敗時,將會觸發(fā)失敗報警,如發(fā)送報警郵件。

任務(wù)調(diào)度失敗時郵件通知的郵箱地址,支持配置多郵箱地址,配置多個郵箱地址時用逗號分隔

E-Job?。骸⊥ㄟ^事件訂閱方式可自行實現(xiàn)

作業(yè)運(yùn)行狀態(tài)監(jiān)控、監(jiān)聽作業(yè)服務(wù)器存活、監(jiān)聽近期數(shù)據(jù)處理成功、數(shù)據(jù)流類型作業(yè)(可通過監(jiān)聽近期數(shù)據(jù)處理成功數(shù)判斷作業(yè)流量是否正常,如果小于作業(yè)正常處理的閥值,可選擇報警。)、監(jiān)聽近期數(shù)據(jù)處理失敗(可通過監(jiān)聽近期數(shù)據(jù)處理失敗數(shù)判斷作業(yè)處理結(jié)果,如果大于0,可選擇報警。)

彈性擴(kuò)容縮容

X-Job : 使用Quartz基于數(shù)據(jù)庫的分布式功能,服務(wù)器超出一定數(shù)量會給數(shù)據(jù)庫造成一定的壓力

E-Job?。骸⊥ㄟ^zk實現(xiàn)各服務(wù)的注冊、控制及協(xié)調(diào)

支持并行調(diào)度

X-Job?。骸≌{(diào)度系統(tǒng)多線程(默認(rèn)10個線程)觸發(fā)調(diào)度運(yùn)行,確保調(diào)度精確執(zhí)行,不被堵塞。

E-Job?。骸〔捎萌蝿?wù)分片方式實現(xiàn)。將一個任務(wù)拆分為n個獨(dú)立的任務(wù)項,由分布式的服務(wù)器并行執(zhí)行各自分配到的分片項。

高可用策略

X-Job?。骸 罢{(diào)度中心”通過DB鎖保證集群分布式調(diào)度的一致性, 一次任務(wù)調(diào)度只會觸發(fā)一次執(zhí)行;

E-Job?。骸≌{(diào)度器的高可用是通過運(yùn)行幾個指向同一個ZooKeeper集群的Elastic-Job-Cloud-Scheduler實例來實現(xiàn)的。ZooKeeper用于在當(dāng)前主Elastic-Job-Cloud-Scheduler實例失敗的情況下執(zhí)行領(lǐng)導(dǎo)者選舉。通過至少兩個調(diào)度器實例來構(gòu)成集群,集群中只有一個調(diào)度器實例提供服務(wù),其他實例處于”待命”狀態(tài)。當(dāng)該實例失敗時,集群會選舉剩余實例中的一個來繼續(xù)提供服務(wù)。

失敗處理策略

X-Job?。骸≌{(diào)度失敗時的處理策略,策略包括:失敗告警(默認(rèn))、失敗重試;

E-Job?。骸椥詳U(kuò)容縮容在下次作業(yè)運(yùn)行前重分片,但本次作業(yè)執(zhí)行的過程中,下線的服務(wù)器所分配的作業(yè)將不會重新被分配。失效轉(zhuǎn)移功能可以在本次作業(yè)運(yùn)行中用空閑服務(wù)器抓取孤兒作業(yè)分片執(zhí)行。同樣失效轉(zhuǎn)移功能也會犧牲部分性能。

動態(tài)分片策略

X-Job?。骸》制瑥V播任務(wù)以執(zhí)行器為維度進(jìn)行分片,支持動態(tài)擴(kuò)容執(zhí)行器集群從而動態(tài)增加分片數(shù)量,協(xié)同進(jìn)行業(yè)務(wù)處理;在進(jìn)行大數(shù)據(jù)量業(yè)務(wù)操作時可顯著提升任務(wù)處理能力和速度。

執(zhí)行器集群部署時,任務(wù)路由策略選擇”分片廣播”情況下,一次任務(wù)調(diào)度將會廣播觸發(fā)對應(yīng)集群中所有執(zhí)行器執(zhí)行一次任務(wù),同時傳遞分片參數(shù);可根據(jù)分片參數(shù)開發(fā)分片任務(wù);

E-Job?。骸≈С侄喾N分片策略,可自定義分片策略

默認(rèn)包含三種分片策略:基于平均分配算法的分片策略、 作業(yè)名的哈希值奇偶數(shù)決定IP升降序算法的分片策略、根據(jù)作業(yè)名的哈希值對Job實例列表進(jìn)行輪轉(zhuǎn)的分片策略,支持自定義分片策略

elastic-job的分片是通過zookeeper來實現(xiàn)的。分片的分片由主節(jié)點(diǎn)分配,如下三種情況都會觸發(fā)主節(jié)點(diǎn)上的分片算法執(zhí)行:a、新的Job實例加入集群 b、現(xiàn)有的Job實例下線(如果下線的是leader節(jié)點(diǎn),那么先選舉然后觸發(fā)分片算法的執(zhí)行) c、主節(jié)點(diǎn)選舉”

和quartz框架對比

  • 調(diào)用API的的方式操作任務(wù),不人性化;
  • 需要持久化業(yè)務(wù)QuartzJobBean到底層數(shù)據(jù)表中,系統(tǒng)侵入性相當(dāng)嚴(yán)重。
  • 調(diào)度邏輯和QuartzJobBean耦合在同一個項目中,這將導(dǎo)致一個問題,在調(diào)度任務(wù)數(shù)量逐漸增多,同時調(diào)度任務(wù)邏輯逐漸加重的情況加,此時調(diào)度系統(tǒng)的性能將大大受限于業(yè)務(wù);
  • Quartz關(guān)注點(diǎn)在于定時任務(wù)而非數(shù)據(jù),并無一套根據(jù)數(shù)據(jù)處理而定制化的流程。雖然Quartz可以基于數(shù)據(jù)庫實現(xiàn)作業(yè)的高可用,但缺少分布式并行調(diào)度的功能。

綜合對比

圖片圖片

總結(jié)和結(jié)論

共同點(diǎn):E-Job和X-job都有廣泛的用戶基礎(chǔ)和完整的技術(shù)文檔,都能滿足定時任務(wù)的基本功能需求。

不同點(diǎn):

  • X-Job 側(cè)重的業(yè)務(wù)實現(xiàn)的簡單和管理的方便,學(xué)習(xí)成本簡單,失敗策略和路由策略豐富。推薦使用在“用戶基數(shù)相對少,服務(wù)器數(shù)量在一定范圍內(nèi)”的情景下使
  • E-Job 關(guān)注的是數(shù)據(jù),增加了彈性擴(kuò)容和數(shù)據(jù)分片的思路,以便于更大限度的利用分布式服務(wù)器的資源。但是學(xué)習(xí)成本相對高些,推薦在“數(shù)據(jù)量龐大,且部署服務(wù)器數(shù)量較多”時使用
責(zé)任編輯:武曉燕 來源: 碼猿技術(shù)專欄
相關(guān)推薦

2022-08-09 08:40:37

框架分布式定時任務(wù)

2022-03-17 09:55:05

架構(gòu)分布式選型

2019-11-12 09:32:39

分布式elastic-job分片

2022-03-28 07:51:25

分布式定時任務(wù)

2023-01-04 09:23:58

2019-07-19 15:51:11

框架選型分布式

2022-03-07 11:20:01

分布式代碼微服務(wù)

2022-03-23 11:45:39

Quartz數(shù)據(jù)庫節(jié)點(diǎn)

2023-06-26 00:14:28

Openjob分布式任務(wù)

2019-11-15 10:16:27

分布式任務(wù)框架

2022-06-13 10:01:36

Apollo攜程框架

2025-03-06 11:30:15

2023-02-10 00:04:53

2024-09-18 13:57:15

2017-12-20 16:15:30

分布式系統(tǒng)架構(gòu)

2022-01-17 09:18:28

JMeter分布式壓測

2023-05-12 11:52:21

緩存場景性能

2022-04-08 08:27:08

分布式鎖系統(tǒng)

2021-02-01 09:35:53

關(guān)系型數(shù)據(jù)庫模型

2022-03-07 08:14:27

并發(fā)分布式
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號