如何在Spring Boot中实现基于RabbitMQ的延迟队列

阳光穿透心脏的1/2处 2022-04-16 04:17 133阅读 0赞

顾名思义，延迟队列就是进入该队列的消息会被延迟消费的队列。而一般的队列，消息一旦入队了之后就会被消费者马上消费。

**延迟队列能做什么？**

延迟队列多用于需要延迟工作的场景。最常见的是以下两种场景：

延迟消费。比如：

用户生成订单之后，需要过一段时间校验订单的支付状态，如果订单仍未支付则需要及时地关闭订单。

用户注册成功之后，需要过一段时间比如一周后校验用户的使用情况，如果发现用户活跃度较低，则发送邮件或者短信来提醒用户使用。

延迟重试。比如消费者从队列里消费消息时失败了，但是想要延迟一段时间后自动重试。

如果不使用延迟队列，那么我们只能通过一个轮询扫描程序去完成。这种方案既不优雅，也不方便做成统一的服务便于开发人员使用。但是使用延迟队列的话，我们就可以轻而易举地完成。

**如何实现？**

别急，在下文中，我们将详细介绍如何利用**Spring Boot**加**RabbitMQ**来实现延迟队列。

**实现思路**

在介绍具体的实现思路之前，我们先来介绍一下RabbitMQ的两个特性，一个是Time-To-Live Extensions，另一个是Dead Letter Exchanges。

**Time-To-Live Extensions**

RabbitMQ允许我们为消息或者队列设置TTL（time to live），也就是过期时间。TTL表明了一条消息可在队列中存活的最大时间，单位为毫秒。也就是说，当某条消息被设置了TTL或者当某条消息进入了设置了TTL的队列时，这条消息会在经过TTL秒后“死亡”，成为Dead Letter。如果既配置了消息的TTL，又配置了队列的TTL，那么较小的那个值会被取用。更多资料请查阅 官方文档 。

**Dead Letter Exchange**

刚才提到了，被设置了TTL的消息在过期后会成为Dead Letter。其实在RabbitMQ中，一共有三种消息的“死亡”形式：

消息被拒绝。通过调用basic.reject或者basic.nack并且设置的requeue参数为false。

消息因为设置了TTL而过期。

消息进入了一条已经达到最大长度的队列。

如果队列设置了Dead Letter Exchange（DLX），那么这些Dead Letter就会被重新publish到Dead Letter Exchange，通过Dead Letter Exchange路由到其他队列。更多资料请查阅 官方文档 。

**流程图**

聪明的你肯定已经想到了，如何将RabbitMQ的TTL和DLX特性结合在一起，实现一个延迟队列。

针对于上述的延迟队列的两个场景，我们分别有以下两种流程图：

**延迟消费**

延迟消费是延迟队列最为常用的使用模式。如下图所示，生产者产生的消息首先会进入缓冲队列（图中红色队列）。通过RabbitMQ提供的TTL扩展，这些消息会被设置过期时间，也就是延迟消费的时间。等消息过期之后，这些消息会通过配置好的DLX转发到实际消费队列（图中蓝色队列），以此达到延迟消费的效果。

![Image 1][]

**延迟重试**

延迟重试本质上也是延迟消费的一种，但是这种模式的结构与普通的延迟消费的流程图较为不同，所以单独拎出来介绍。

如下图所示，消费者发现该消息处理出现了异常，比如是因为网络波动引起的异常。那么如果不等待一段时间，直接就重试的话，很可能会导致在这期间内一直无法成功，造成一定的资源浪费。那么我们可以将其先放在缓冲队列中（图中红色队列），等消息经过一段的延迟时间后再次进入实际消费队列中（图中蓝色队列），此时由于已经过了“较长”的时间了，异常的一些波动通常已经恢复，这些消息可以被正常地消费。

![Image 1][]

如果你想学习Java工程化、高性能及分布式、高性能、深入浅出。性能调优、Spring，MyBatis，Netty源码分析和大数据等知识点可以来找我。

而现在我就有一个平台可以提供给你们学习，让你在实践中积累经验掌握原理。主要方向是JAVA架构师。如果你想拿高薪，想突破瓶颈，想跟别人竞争能取得优势的，想进BAT但是有担心面试不过的，可以加我的Java后端社区：586446657。

**代码实现**

接下来我们将介绍如何在Spring Boot中实现基于RabbitMQ的延迟队列。我们假设读者已经拥有了Spring Boot与RabbitMQ的基本知识。如果想快速了解Spring Boot的相关基础知识，可以参考我之前写的一篇文章。

**初始化工程**

首先我们在Intellij中创建一个Spring Boot工程，并且添加spring-boot-starter-amqp扩展。

**配置队列**

从上述的流程图中我们可以看到，一个延迟队列的实现，需要一个缓冲队列以及一个实际的消费队列。又由于在RabbitMQ中，我们拥有两种消息过期的配置方式，所以在代码中，我们一共配置了三条队列：

delay\_queue\_per\_message\_ttl：TTL配置在消息上的缓冲队列。

delay\_queue\_per\_queue\_ttl：TTL配置在队列上的缓冲队列。

delay\_process\_queue：实际消费队列。

我们通过Java Config的方式将上述的队列配置为Bean。由于我们添加了spring-boot-starter-amqp扩展，Spring Boot在启动时会根据我们的配置自动创建这些队列。为了方便接下来的测试，我们将delay\_queue\_per\_message\_ttl以及delay\_queue\_per\_queue\_ttl的DLX配置为同一个，且过期的消息都会通过DLX转发到delay\_process\_queue。

**delay\_queue\_per\_message\_ttl**

首先介绍delay\_queue\_per\_message\_ttl的配置代码：

\`\`\`

@BeanQueuedelayQueuePerMessageTTL()\{ return QueueBuilder.durable(DELAY\_QUEUE\_PER\_MESSAGE\_TTL\_NAME) .withArgument("x-dead-letter-exchange", DELAY\_EXCHANGE\_NAME) // DLX，dead letter发送到的exchange.withArgument("x-dead-letter-routing-key", DELAY\_PROCESS\_QUEUE\_NAME) // dead letter携带的routing key.build();\}

\`\`\`

其中，x-dead-letter-exchange声明了队列里的死信转发到的DLX名称，x-dead-letter-routing-key声明了这些死信在转发时携带的routing-key名称。

delay\_queue\_per\_queue\_ttl

类似地，delay\_queue\_per\_queue\_ttl的配置代码：

\`\`\`

@BeanQueuedelayQueuePerQueueTTL()\{ return QueueBuilder.durable(DELAY\_QUEUE\_PER\_QUEUE\_TTL\_NAME) .withArgument("x-dead-letter-exchange", DELAY\_EXCHANGE\_NAME) // DLX.withArgument("x-dead-letter-routing-key", DELAY\_PROCESS\_QUEUE\_NAME) // dead letter携带的routing key.withArgument("x-message-ttl", QUEUE\_EXPIRATION) // 设置队列的过期时间.build();\}

\`\`\`

delay\_queue\_per\_queue\_ttl队列的配置比delay\_queue\_per\_message\_ttl队列的配置多了一个x-message-ttl，该配置用来设置队列的过期时间。

**delay\_process\_queue**

delay\_process\_queue的配置最为简单：

\`\`\`

@BeanQueuedelayProcessQueue()\{ return QueueBuilder.durable(DELAY\_PROCESS\_QUEUE\_NAME) .build();\}

\`\`\`

配置Exchange

配置DLX

首先，我们需要配置DLX，代码如下：

\`\`\`

@BeanDirectExchangedelayExchange()\{ return new DirectExchange(DELAY\_EXCHANGE\_NAME);\}

\`\`\`

然后再将该DLX绑定到实际消费队列即delay\_process\_queue上。这样所有的死信都会通过DLX被转发到delay\_process\_queue：

\`\`\`

@BeanBindingdlxBinding(Queue delayProcessQueue, DirectExchange delayExchange)\{ return BindingBuilder.bind(delayProcessQueue) .to(delayExchange) .with(DELAY\_PROCESS\_QUEUE\_NAME);\}

\`\`\`

配置延迟重试所需的Exchange

从延迟重试的流程图中我们可以看到，消息处理失败之后，我们需要将消息转发到缓冲队列，所以缓冲队列也需要绑定一个Exchange。 在本例中，我们将delay\_process\_per\_queue\_ttl作为延迟重试里的缓冲队列 。具体代码是如何配置的，这里就不赘述了，大家可以查阅我 Github 中的代码。

定义消费者

我们创建一个最简单的消费者ProcessReceiver，这个消费者监听delay\_process\_queue队列，对于接受到的消息，他会：

如果消息里的消息体不等于FAIL\_MESSAGE，那么他会输出消息体。

如果消息里的消息体恰好是FAIL\_MESSAGE，那么他会模拟抛出异常，然后将该消息重定向到缓冲队列（对应延迟重试场景）。

另外，我们还需要新建一个监听容器用于存放消费者，代码如下：

\`\`\`

@BeanSimpleMessageListenerContainerprocessContainer(ConnectionFactory connectionFactory, ProcessReceiver processReceiver)\{ SimpleMessageListenerContainer container = new SimpleMessageListenerContainer();container.setConnectionFactory(connectionFactory);container.setQueueNames(DELAY\_PROCESS\_QUEUE\_NAME); // 监听delay\_process\_queuecontainer.setMessageListener(new MessageListenerAdapter(processReceiver)); return container;\}

\`\`\`

至此，我们前置的配置代码已经全部编写完成，接下来我们需要编写测试用例来测试我们的延迟队列。

编写测试用例

延迟消费场景

首先我们编写用于测试TTL设置在消息上的测试代码。

我们借助spring-rabbit包下提供的RabbitTemplate类来发送消息。由于我们添加了spring-boot-starter-amqp扩展，Spring Boot会在初始化时自动地将RabbitTemplate当成bean加载到容器中。

解决了消息的发送问题，那么又该如何为每个消息设置TTL呢？这里我们需要借助MessagePostProcessor。MessagePostProcessor通常用来设置消息的Header以及消息的属性。我们新建一个ExpirationMessagePostProcessor类来负责设置消息的TTL属性：

\`\`\`

/\*\*\* 设置消息的失效时间\*/public class ExpirationMessagePostProcessorimplements MessagePostProcessor\{ private final Long ttl; // 毫秒public ExpirationMessagePostProcessor(Long ttl)\{ this.ttl = ttl;\} @Overridepublic Message postProcessMessage(Message message)throws AmqpException \{message.getMessageProperties().setExpiration(ttl.toString()); // 设置per-message的失效时间return message;\}\}

\`\`\`

然后在调用RabbitTemplate的convertAndSend方法时，传入ExpirationMessagePostPorcessor即可。我们向缓冲队列中发送3条消息，过期时间依次为1秒，2秒和3秒。具体的代码如下所示：

\`\`\`

@Testpublic void testDelayQueuePerMessageTTL()throws InterruptedException \{ProcessReceiver.latch = new CountDownLatch(3); for (int i = 1; i <= 3; i++) \{ long expiration = i \* 1000;rabbitTemplate.convertAndSend(QueueConfig.DELAY\_QUEUE\_PER\_MESSAGE\_TTL\_NAME,(Object) ("Message From delay\_queue\_per\_message\_ttl with expiration " + expiration), new ExpirationMessagePostProcessor(expiration));\}ProcessReceiver.latch.await();\}

\`\`\`

细心的朋友一定会问，为什么要在代码中加一个CountDownLatch呢？这是因为如果没有latch阻塞住测试方法的话，测试用例会直接结束，程序退出，我们就看不到消息被延迟消费的表现了。

那么类似地，测试TTL设置在队列上的代码如下：

\`\`\`

@Testpublic void testDelayQueuePerQueueTTL()throws InterruptedException \{ProcessReceiver.latch = new CountDownLatch(3); for (int i = 1; i <= 3; i++) \{rabbitTemplate.convertAndSend(QueueConfig.DELAY\_QUEUE\_PER\_QUEUE\_TTL\_NAME, "Message From delay\_queue\_per\_queue\_ttl with expiration " + QueueConfig.QUEUE\_EXPIRATION);\}ProcessReceiver.latch.await();\}

\`\`\`

我们向缓冲队列中发送3条消息。理论上这3条消息会在4秒后同时过期。

延迟重试场景

我们同样还需测试延迟重试场景。

\`\`\`

@Testpublic void testFailMessage()throws InterruptedException \{ProcessReceiver.latch = new CountDownLatch(6); for (int i = 1; i <= 3; i++) \{rabbitTemplate.convertAndSend(QueueConfig.DELAY\_PROCESS\_QUEUE\_NAME, ProcessReceiver.FAIL\_MESSAGE);\}ProcessReceiver.latch.await();\}

\`\`\`

我们向delay\_process\_queue发送3条会触发FAIL的消息，理论上这3条消息会在4秒后自动重试。

查看测试结果

延迟消费场景

延迟消费的场景测试我们分为了TTL设置在消息上和TTL设置在队列上两种。首先，我们先看一下TTL设置在消息上的测试结果：

![Image 1][]

从上图中我们可以看到，ProcessReceiver分别经过1秒、2秒、3秒收到消息。测试结果表明消息不仅被延迟消费了，而且每条消息的延迟时间是可以被个性化设置的。TTL设置在消息上的延迟消费场景测试成功。

然后，TTL设置在队列上的测试结果如下图：

![Image 1][]

从上图中我们可以看到，ProcessReceiver经过了4秒的延迟之后，同时收到了3条消息。测试结果表明消息不仅被延迟消费了，同时也证明了当TTL设置在队列上的时候，消息的过期时间是固定的。TTL设置在队列上的延迟消费场景测试成功。

延迟重试场景

接下来，我们再来看一下延迟重试的测试结果：