一口氣說(shuō)出 6種 延時(shí)隊(duì)列的實(shí)現(xiàn)方法，面試官也得服
五一期間原計(jì)劃是寫兩篇文章，看一本技術(shù)類書(shū)籍，結(jié)果這五天由于自律性過(guò)于差，禁不住各種誘惑，我連電腦都沒(méi)打開(kāi)過(guò)，計(jì)劃完美宣告失敗。所以在這能看出和大佬之間的差距，人家沒(méi)白沒(méi)夜的更文，比你優(yōu)秀的人比你更努力，難以望其項(xiàng)背，真是讓我自愧不如。
知恥而后勇，這不逼著自己又學(xué)起來(lái)了，個(gè)人比較喜歡一些實(shí)踐類的東西，既學(xué)習(xí)到知識(shí)又能讓技術(shù)落地，能搞出個(gè)demo最好，本來(lái)不知道該分享什么主題，好在最近項(xiàng)目緊急招人中，而我有幸做了回面試官，就給大家整理分享一道面試題：“如何實(shí)現(xiàn)延時(shí)隊(duì)列?”。
下邊會(huì)介紹多種實(shí)現(xiàn)延時(shí)隊(duì)列的思路，文末提供有幾種實(shí)現(xiàn)方式的 github地址。其實(shí)哪種方式都沒(méi)有絕對(duì)的好與壞，只是看把它用在什么業(yè)務(wù)場(chǎng)景中，技術(shù)這東西沒(méi)有最好的只有最合適的。
一、延時(shí)隊(duì)列的應(yīng)用
什么是延時(shí)隊(duì)列?顧名思義：首先它要具有隊(duì)列的特性，再給它附加一個(gè)延遲消費(fèi)隊(duì)列消息的功能，也就是說(shuō)可以指定隊(duì)列中的消息在哪個(gè)時(shí)間點(diǎn)被消費(fèi)。
延時(shí)隊(duì)列在項(xiàng)目中的應(yīng)用還是比較多的，尤其像電商類平臺(tái)：
1、訂單成功后，在30分鐘內(nèi)沒(méi)有支付，自動(dòng)取消訂單
2、外賣平臺(tái)發(fā)送訂餐通知，下單成功后60s給用戶推送短信。
3、如果訂單一直處于某一個(gè)未完結(jié)狀態(tài)時(shí)，及時(shí)處理關(guān)單，并退還庫(kù)存
4、淘寶新建商戶一個(gè)月內(nèi)還沒(méi)上傳商品信息，將凍結(jié)商鋪等
。。。。
上邊的這些場(chǎng)景都可以應(yīng)用延時(shí)隊(duì)列解決。
二、延時(shí)隊(duì)列的實(shí)現(xiàn)
我個(gè)人一直秉承的觀點(diǎn)：工作上能用JDK自帶API實(shí)現(xiàn)的功能，就不要輕易自己重復(fù)造輪子，或者引入三方中間件。一方面自己封裝很容易出問(wèn)題(大佬除外)，再加上調(diào)試驗(yàn)證產(chǎn)生許多不必要的工作量;另一方面一旦接入三方的中間件就會(huì)讓系統(tǒng)復(fù)雜度成倍的增加，維護(hù)成本也大大的增加。
1、DelayQueue 延時(shí)隊(duì)列
JDK 中提供了一組實(shí)現(xiàn)延遲隊(duì)列的API，位于Java.util.concurrent包下DelayQueue。
DelayQueue是一個(gè)BlockingQueue(無(wú)界阻塞)隊(duì)列，它本質(zhì)就是封裝了一個(gè)PriorityQueue(優(yōu)先隊(duì)列)，PriorityQueue內(nèi)部使用完全二叉堆(不知道的自行了解哈)來(lái)實(shí)現(xiàn)隊(duì)列元素排序，我們?cè)谙駾elayQueue隊(duì)列中添加元素時(shí)，會(huì)給元素一個(gè)Delay(延遲時(shí)間)作為排序條件，隊(duì)列中最小的元素會(huì)優(yōu)先放在隊(duì)首。隊(duì)列中的元素只有到了Delay時(shí)間才允許從隊(duì)列中取出。隊(duì)列中可以放基本數(shù)據(jù)類型或自定義實(shí)體類，在存放基本數(shù)據(jù)類型時(shí)，優(yōu)先隊(duì)列中元素默認(rèn)升序排列，自定義實(shí)體類就需要我們根據(jù)類屬性值比較計(jì)算了。
先簡(jiǎn)單實(shí)現(xiàn)一下看看效果，添加三個(gè)order入隊(duì)DelayQueue，分別設(shè)置訂單在當(dāng)前時(shí)間的5秒、10秒、15秒后取消。
要實(shí)現(xiàn)DelayQueue延時(shí)隊(duì)列，隊(duì)中元素要implements Delayed 接口，這哥接口里只有一個(gè)getDelay方法，用于設(shè)置延期時(shí)間。Order類中compareTo方法負(fù)責(zé)對(duì)隊(duì)列中的元素進(jìn)行排序。
- public class Order implements Delayed {
- /**
- * 延遲時(shí)間
- */
- @JsonFormat(locale = "zh", timezone = "GMT+8", pattern = "yyyy-MM-dd HH:mm:ss")
- private long time;
- String name;
- public Order(String name, long time, TimeUnit unit) {
- this.name = name;
- this.time = System.currentTimeMillis() + (time > 0 ? unit.toMillis(time) : 0);
- }
- @Override
- public long getDelay(TimeUnit unit) {
- return time - System.currentTimeMillis();
- }
- @Override
- public int compareTo(Delayed o) {
- Order Order = (Order) o;
- long diff = this.time - Order.time;
- if (diff <= 0) {
- return -1;
- } else {
- return 1;
- }
- }
- }
DelayQueue的put方法是線程安全的，因?yàn)閜ut方法內(nèi)部使用了ReentrantLock鎖進(jìn)行線程同步。DelayQueue還提供了兩種出隊(duì)的方法 poll() 和 take() ， poll() 為非阻塞獲取，沒(méi)有到期的元素直接返回null;take() 阻塞方式獲取，沒(méi)有到期的元素線程將會(huì)等待。
- public class DelayQueueDemo {
- public static void main(String[] args) throws InterruptedException {
- Order Order1 = new Order("Order1", 5, TimeUnit.SECONDS);
- Order Order2 = new Order("Order2", 10, TimeUnit.SECONDS);
- Order Order3 = new Order("Order3", 15, TimeUnit.SECONDS);
- DelayQueue<Order> delayQueue = new DelayQueue<>();
- delayQueue.put(Order1);
- delayQueue.put(Order2);
- delayQueue.put(Order3);
- System.out.println("訂單延遲隊(duì)列開(kāi)始時(shí)間:" + LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss")));
- while (delayQueue.size() != 0) {
- /**
- * 取隊(duì)列頭部元素是否過(guò)期
- */
- Order task = delayQueue.poll();
- if (task != null) {
- System.out.format("訂單:{%s}被取消, 取消時(shí)間:{%s}\n", task.name, LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss")));
- }
- Thread.sleep(1000);
- }
- }
- }
上邊只是簡(jiǎn)單的實(shí)現(xiàn)入隊(duì)與出隊(duì)的操作，實(shí)際開(kāi)發(fā)中會(huì)有專門的線程，負(fù)責(zé)消息的入隊(duì)與消費(fèi)。
執(zhí)行后看到結(jié)果如下，Order1、Order2、Order3 分別在 5秒、10秒、15秒后被執(zhí)行，至此就用DelayQueue實(shí)現(xiàn)了延時(shí)隊(duì)列。
- 訂單延遲隊(duì)列開(kāi)始時(shí)間:2020-05-06 14:59:09
- 訂單:{Order1}被取消, 取消時(shí)間:{2020-05-06 14:59:14}
- 訂單:{Order2}被取消, 取消時(shí)間:{2020-05-06 14:59:19}
- 訂單:{Order3}被取消, 取消時(shí)間:{2020-05-06 14:59:24}
2、Quartz 定時(shí)任務(wù)
Quartz一款非常經(jīng)典任務(wù)調(diào)度框架，在Redis、RabbitMQ還未廣泛應(yīng)用時(shí)，超時(shí)未支付取消訂單功能都是由定時(shí)任務(wù)實(shí)現(xiàn)的。定時(shí)任務(wù)它有一定的周期性，可能很多單子已經(jīng)超時(shí)，但還沒(méi)到達(dá)觸發(fā)執(zhí)行的時(shí)間點(diǎn)，那么就會(huì)造成訂單處理的不夠及時(shí)。
引入quartz框架依賴包
- <dependency>
- <groupId>org.springframework.boot</groupId>
- <artifactId>spring-boot-starter-quartz</artifactId>
- </dependency>
在啟動(dòng)類中使用@EnableScheduling注解開(kāi)啟定時(shí)任務(wù)功能。
- @EnableScheduling
- @SpringBootApplication
- public class DelayqueueApplication {
- public static void main(String[] args) {
- SpringApplication.run(DelayqueueApplication.class, args);
- }
- }
編寫一個(gè)定時(shí)任務(wù)，每個(gè)5秒執(zhí)行一次。
- @Component
- public class QuartzDemo {
- //每隔五秒
- @Scheduled(cron = "0/5 * * * * ? ")
- public void process(){
- System.out.println("我是定時(shí)任務(wù)！");
- }
- }
Redis的數(shù)據(jù)結(jié)構(gòu)Zset，同樣可以實(shí)現(xiàn)延遲隊(duì)列的效果，主要利用它的score屬性，redis通過(guò)score來(lái)為集合中的成員進(jìn)行從小到大的排序。
通過(guò)zadd命令向隊(duì)列delayqueue 中添加元素，并設(shè)置score值表示元素過(guò)期的時(shí)間;向delayqueue 添加三個(gè)order1、order2、order3，分別是10秒、20秒、30秒后過(guò)期。
- zadd delayqueue 3 order3
消費(fèi)端輪詢隊(duì)列delayqueue， 將元素排序后取最小時(shí)間與當(dāng)前時(shí)間比對(duì)，如小于當(dāng)前時(shí)間代表已經(jīng)過(guò)期移除key。
- /**
- * 消費(fèi)消息
- */
- public void pollOrderQueue() {
- while (true) {
- Set<Tuple> set = jedis.zrangeWithScores(DELAY_QUEUE, 0, 0);
- String value = ((Tuple) set.toArray()[0]).getElement();
- int score = (int) ((Tuple) set.toArray()[0]).getScore();
- Calendar cal = Calendar.getInstance();
- int nowSecond = (int) (cal.getTimeInMillis() / 1000);
- if (nowSecond >= score) {
- jedis.zrem(DELAY_QUEUE, value);
- System.out.println(sdf.format(new Date()) + " removed key:" + value);
- }
- if (jedis.zcard(DELAY_QUEUE) <= 0) {
- System.out.println(sdf.format(new Date()) + " zset empty ");
- return;
- }
- Thread.sleep(1000);
- }
- }
我們看到執(zhí)行結(jié)果符合預(yù)期
- 2020-05-07 13:24:09 add finished.
- 2020-05-07 13:24:19 removed key:order1
- 2020-05-07 13:24:29 removed key:order2
- 2020-05-07 13:24:39 removed key:order3
- 2020-05-07 13:24:39 zset empty
4、Redis 過(guò)期回調(diào)
Redis 的key過(guò)期回調(diào)事件，也能達(dá)到延遲隊(duì)列的效果，簡(jiǎn)單來(lái)說(shuō)我們開(kāi)啟監(jiān)聽(tīng)key是否過(guò)期的事件，一旦key過(guò)期會(huì)觸發(fā)一個(gè)callback事件。
修改redis.conf文件開(kāi)啟notify-keyspace-events Ex
- notify-keyspace-events Ex
Redis監(jiān)聽(tīng)配置，注入Bean RedisMessageListenerContainer
- @Configuration
- public class RedisListenerConfig {
- @Bean
- RedisMessageListenerContainer container(RedisConnectionFactory connectionFactory) {
- RedisMessageListenerContainer container = new RedisMessageListenerContainer();
- container.setConnectionFactory(connectionFactory);
- return container;
- }
- }
編寫Redis過(guò)期回調(diào)監(jiān)聽(tīng)方法，必須繼承KeyExpirationEventMessageListener ，有點(diǎn)類似于MQ的消息監(jiān)聽(tīng)。
- @Component
- public class RedisKeyExpirationListener extends KeyExpirationEventMessageListener {
- public RedisKeyExpirationListener(RedisMessageListenerContainer listenerContainer) {
- super(listenerContainer);
- }
- @Override
- public void onMessage(Message message, byte[] pattern) {
- String expiredKey = message.toString();
- System.out.println("監(jiān)聽(tīng)到key：" + expiredKey + "已過(guò)期");
- }
- }
到這代碼就編寫完成，非常的簡(jiǎn)單，接下來(lái)測(cè)試一下效果，在redis-cli客戶端添加一個(gè)key 并給定3s的過(guò)期時(shí)間。
- set xiaofu 123 ex 3
在控制臺(tái)成功監(jiān)聽(tīng)到了這個(gè)過(guò)期的key。
- 監(jiān)聽(tīng)到過(guò)期的key為：xiaofu
5、RabbitMQ 延時(shí)隊(duì)列
利用 RabbitMQ 做延時(shí)隊(duì)列是比較常見(jiàn)的一種方式，而實(shí)際上RabbitMQ 自身并沒(méi)有直接支持提供延遲隊(duì)列功能，而是通過(guò) RabbitMQ 消息隊(duì)列的 TTL和 DXL這兩個(gè)屬性間接實(shí)現(xiàn)的。
先來(lái)認(rèn)識(shí)一下 TTL和 DXL兩個(gè)概念：
Time To Live(TTL) ：
TTL 顧名思義：指的是消息的存活時(shí)間，RabbitMQ可以通過(guò)x-message-tt參數(shù)來(lái)設(shè)置指定Queue(隊(duì)列)和 Message(消息)上消息的存活時(shí)間，它的值是一個(gè)非負(fù)整數(shù)，單位為微秒。
RabbitMQ 可以從兩種維度設(shè)置消息過(guò)期時(shí)間，分別是隊(duì)列和消息本身
- 設(shè)置隊(duì)列過(guò)期時(shí)間，那么隊(duì)列中所有消息都具有相同的過(guò)期時(shí)間。
- 設(shè)置消息過(guò)期時(shí)間，對(duì)隊(duì)列中的某一條消息設(shè)置過(guò)期時(shí)間，每條消息TTL都可以不同。
如果同時(shí)設(shè)置隊(duì)列和隊(duì)列中消息的TTL，則TTL值以兩者中較小的值為準(zhǔn)。而隊(duì)列中的消息存在隊(duì)列中的時(shí)間，一旦超過(guò)TTL過(guò)期時(shí)間則成為Dead Letter(死信)。
Dead Letter Exchanges(DLX)
DLX即死信交換機(jī)，綁定在死信交換機(jī)上的即死信隊(duì)列。RabbitMQ的 Queue(隊(duì)列)可以配置兩個(gè)參數(shù)x-dead-letter-exchange 和 x-dead-letter-routing-key(可選)，一旦隊(duì)列內(nèi)出現(xiàn)了Dead Letter(死信)，則按照這兩個(gè)參數(shù)可以將消息重新路由到另一個(gè)Exchange(交換機(jī))，讓消息重新被消費(fèi)。
x-dead-letter-exchange：隊(duì)列中出現(xiàn)Dead Letter后將Dead Letter重新路由轉(zhuǎn)發(fā)到指定 exchange(交換機(jī))。
x-dead-letter-routing-key：指定routing-key發(fā)送，一般為要指定轉(zhuǎn)發(fā)的隊(duì)列。
隊(duì)列出現(xiàn)Dead Letter的情況有：
- 消息或者隊(duì)列的TTL過(guò)期
- 隊(duì)列達(dá)到最大長(zhǎng)度
- 消息被消費(fèi)端拒絕(basic.reject or basic.nack)
下邊結(jié)合一張圖看看如何實(shí)現(xiàn)超30分鐘未支付關(guān)單功能，我們將訂單消息A0001發(fā)送到延遲隊(duì)列order.delay.queue，并設(shè)置x-message-tt消息存活時(shí)間為30分鐘，當(dāng)?shù)竭_(dá)30分鐘后訂單消息A0001成為了Dead Letter(死信)，延遲隊(duì)列檢測(cè)到有死信，通過(guò)配置x-dead-letter-exchange，將死信重新轉(zhuǎn)發(fā)到能正常消費(fèi)的關(guān)單隊(duì)列，直接監(jiān)聽(tīng)關(guān)單隊(duì)列處理關(guān)單邏輯即可。
發(fā)送消息時(shí)指定消息延遲的時(shí)間
- public void send(String delayTimes) {
- amqpTemplate.convertAndSend("order.pay.exchange", "order.pay.queue","大家好我是延遲數(shù)據(jù)", message -> {
- // 設(shè)置延遲毫秒值
- message.getMessageProperties().setExpiration(String.valueOf(delayTimes));
- return message;
- });
- }
- }
設(shè)置延遲隊(duì)列出現(xiàn)死信后的轉(zhuǎn)發(fā)規(guī)則
- /**
- * 延時(shí)隊(duì)列
- */
- @Bean(name = "order.delay.queue")
- public Queue getMessageQueue() {
- return QueueBuilder
- .durable(RabbitConstant.DEAD_LETTER_QUEUE)
- // 配置到期后轉(zhuǎn)發(fā)的交換
- .withArgument("x-dead-letter-exchange", "order.close.exchange")
- // 配置到期后轉(zhuǎn)發(fā)的路由鍵
- .withArgument("x-dead-letter-routing-key", "order.close.queue")
- .build();
- }
6、時(shí)間輪
前邊幾種延時(shí)隊(duì)列的實(shí)現(xiàn)方法相對(duì)簡(jiǎn)單，比較容易理解，時(shí)間輪算法就稍微有點(diǎn)抽象了。kafka、netty都有基于時(shí)間輪算法實(shí)現(xiàn)延時(shí)隊(duì)列，下邊主要實(shí)踐Netty的延時(shí)隊(duì)列講一下時(shí)間輪是什么原理。
先來(lái)看一張時(shí)間輪的原理圖，解讀一下時(shí)間輪的幾個(gè)基本概念
wheel ：時(shí)間輪，圖中的圓盤可以看作是鐘表的刻度。比如一圈round 長(zhǎng)度為24秒，刻度數(shù)為 8，那么每一個(gè)刻度表示 3秒。那么時(shí)間精度就是 3秒。時(shí)間長(zhǎng)度 / 刻度數(shù)值越大，精度越大。
當(dāng)添加一個(gè)定時(shí)、延時(shí)任務(wù)A，假如會(huì)延遲25秒后才會(huì)執(zhí)行，可時(shí)間輪一圈round 的長(zhǎng)度才24秒，那么此時(shí)會(huì)根據(jù)時(shí)間輪長(zhǎng)度和刻度得到一個(gè)圈數(shù) round和對(duì)應(yīng)的指針位置 index，也是就任務(wù)A會(huì)繞一圈指向0格子上，此時(shí)時(shí)間輪會(huì)記錄該任務(wù)的round和index信息。當(dāng)round=0，index=0 ，指針指向0格子 任務(wù)A并不會(huì)執(zhí)行，因?yàn)?round=0不滿足要求。
所以每一個(gè)格子代表的是一些時(shí)間，比如1秒和25秒 都會(huì)指向0格子上，而任務(wù)則放在每個(gè)格子對(duì)應(yīng)的鏈表中，這點(diǎn)和HashMap的數(shù)據(jù)有些類似。
Netty構(gòu)建延時(shí)隊(duì)列主要用HashedWheelTimer，HashedWheelTimer底層數(shù)據(jù)結(jié)構(gòu)依然是使用DelayedQueue，只是采用時(shí)間輪的算法來(lái)實(shí)現(xiàn)。
下面我們用Netty 簡(jiǎn)單實(shí)現(xiàn)延時(shí)隊(duì)列，HashedWheelTimer構(gòu)造函數(shù)比較多，解釋一下各參數(shù)的含義。
ThreadFactory ：表示用于生成工作線程，一般采用線程池;
tickDuration和unit：每格的時(shí)間間隔，默認(rèn)100ms;
ticksPerWheel：一圈下來(lái)有幾格，默認(rèn)512，而如果傳入數(shù)值的不是2的N次方，則會(huì)調(diào)整為大于等于該參數(shù)的一個(gè)2的N次方數(shù)值，有利于優(yōu)化hash值的計(jì)算。
- public HashedWheelTimer(ThreadFactory threadFactory, long tickDuration, TimeUnit unit, int ticksPerWheel) {
- this(threadFactory, tickDuration, unit, ticksPerWheel, true);
- }
- TimerTask：一個(gè)定時(shí)任務(wù)的實(shí)現(xiàn)接口，其中run方法包裝了定時(shí)任務(wù)的邏輯。
- Timeout：一個(gè)定時(shí)任務(wù)提交到Timer之后返回的句柄，通過(guò)這個(gè)句柄外部可以取消這個(gè)定時(shí)任務(wù)，并對(duì)定時(shí)任務(wù)的狀態(tài)進(jìn)行一些基本的判斷。
- Timer：是HashedWheelTimer實(shí)現(xiàn)的父接口，僅定義了如何提交定時(shí)任務(wù)和如何停止整個(gè)定時(shí)機(jī)制。
- public class NettyDelayQueue {
- public static void main(String[] args) {
- final Timer timer = new HashedWheelTimer(Executors.defaultThreadFactory(), 5, TimeUnit.SECONDS, 2);
- //定時(shí)任務(wù)
- TimerTask task1 = new TimerTask() {
- public void run(Timeout timeout) throws Exception {
- System.out.println("order1 5s 后執(zhí)行 ");
- timer.newTimeout(this, 5, TimeUnit.SECONDS);//結(jié)束時(shí)候再次注冊(cè)
- }
- };
- timer.newTimeout(task1, 5, TimeUnit.SECONDS);
- TimerTask task2 = new TimerTask() {
- public void run(Timeout timeout) throws Exception {
- System.out.println("order2 10s 后執(zhí)行");
- timer.newTimeout(this, 10, TimeUnit.SECONDS);//結(jié)束時(shí)候再注冊(cè)
- }
- };
- timer.newTimeout(task2, 10, TimeUnit.SECONDS);
- //延遲任務(wù)
- timer.newTimeout(new TimerTask() {
- public void run(Timeout timeout) throws Exception {
- System.out.println("order3 15s 后執(zhí)行一次");
- }
- }, 15, TimeUnit.SECONDS);
- }
- }
從執(zhí)行的結(jié)果看，order3、order3延時(shí)任務(wù)只執(zhí)行了一次，而order2、order1為定時(shí)任務(wù)，按照不同的周期重復(fù)執(zhí)行。
- order1 5s 后執(zhí)行
- order2 10s 后執(zhí)行
- order3 15s 后執(zhí)行一次
- order1 5s 后執(zhí)行
- order2 10s 后執(zhí)行
總結(jié)
為了讓大家更容易理解，上邊的代碼寫的都比較簡(jiǎn)單粗糙，幾種實(shí)現(xiàn)方式的demo已經(jīng)都提交到github 地址：https://github.com/chengxy-nds/delayqueue，感興趣的小伙伴可以下載跑一跑。
這篇文章肝了挺長(zhǎng)時(shí)間，寫作一點(diǎn)也不比上班干活輕松，查證資料反復(fù)驗(yàn)證demo的可行性，搭建各種RabbitMQ、Redis環(huán)境，只想說(shuō)我太難了!
可能寫的有不夠完善的地方，如哪里有錯(cuò)誤或者不明了的，歡迎大家踴躍指正!!!
