消息队列的三种方式

傷城~ 2023-10-10 14:47 135阅读 0赞

消息队列(Message Queue)，字面意思就是存放消息的队列。最简单的消息队列模型包括3个角色：

消息队列：存储消息。

生产者：发送消息到消息队列，在秒杀任务中负责判断秒杀时间和库存，校验消费者权限是否是一人一单，发送优惠券id和用户id到消息队列中。

消费者：从消息队列获取消息并处理消息，接受到订单消息之后，完成下单。

Redis提供了三种不同的方式来实现消息队列：

list结构：基于List结构模拟消息队列。

PubSub：基本的点对点消息模型。

Stream：比较完善的消息队列模型。

![3ddbff7ad3047630dd37ad349593ca7c.png][]

### **基于List结构模拟消息队列** ###

消息队列(Message Queue)，字面意思就是存放消息的队列。而Redis的list数据结构是一个双向链表，很容易模拟出队列效果。

队列是入口和出口不在一边，因此我们可以利用：LPUSH 结合 RPOP、或者 RPUSH 结合 LPOP来实现。

不过要注意的是，当队列中没有消息时RPOP或LPOP操作会返回null，并不像JVM的阻塞队列那样会阻塞并等待消息。因此这里应该使用BRPOP或者BLOPO来实现阻塞效果。

![947e777d5ec1607a5d2d29bde5d8d40e.png][]

List的消息队列可利用Redis存储，不受限于JVM内存上限，是基于基于Redis的持久化机制，数据安全性有保证，同时也可以满足消息队列的有序性。但只支持但消费者，无法避免消息丢失是它最大的问题。

### **基于PubSub的消息队列** ###

PubSub(发布订阅)是Redis2.0版本引入的消息传递模型。顾名思义，消费者可以订阅一个或多个channel，生产者向对应channel发送消息后，所有订阅者都能收到相关消息。对应channel发送消息后，所有订阅者都能收到相关消息。

SUBSCRIBE channel \[channel\] ：订阅一个或多个频道。

PUBLISH channel msg ：向一个频道发送消息。

PSUBSCRIBE pattern\[pattern\] ：订阅与pattern格式匹配的所有频道。

![2671ead75459f2081ff5ffba4045a6b2.png][]

基于PubSub的消息队列采用发布订阅模型，支持多生产、多消费，但也有不支持数据持久化、无法避免消息丢失，消息堆积有上限的缺点，超出时数据会丢失。

![73cecfa94ef3218254d5264618daaca9.png][]

例如：

![58672cd7caa1d27d86df73a9e43cd154.png][]

### **基于Stream的消息队列-XREAD** ###

Stream读取消息的方式之一：XREAD

![ff1126b40bcc52d85508bcd4063815b1.png][]

例如：

![28a9c5639919cfd1551c1747dc85d4fd.png][]

XREAD阻塞方式，读取最新的消息：

![a6e27bf228eb59536bf93a2484e3bac4.png][]

在业务开发中，我们可以循环的调用XREAD阻塞方式来查询最新消息，从而实现持续监听队列的效果，伪代码如下：

![0be1cbd953b4acb7b75cb63b79191f9e.png][]

注意：当我们指定起始ID为$时，代表读取最新的消息，如果我们处理一条消息的过程中，又有超过1条以上的消息到达队列，则下次获取时也只能获取到最新的一条，会出现漏读消息的问题。  
STREAM类型消息队列的XREAD命令，消息可回溯，一个消息可以被多个消费者读取，同时可能阻塞读取，有消息漏读的风险。

**基于Stream的消息队列-消费者组**

消费者组(Consumer Group)：将多个消费者划分到一个组中，监听同一个队列。具备下列特点：

1.消息分流：队列中的消息会分流给组内的不同消费者，而不是重复消费，从而加快消息处理的速度。

2.消息标示：消费者组会维护一个标示，记录最后一个被处理的消息，哪怕消费者宕机重启，还会从标示之后读取消息。确保每一个消息都会被消费。

3.消息确认：消费者获取消息后，消息处于pending状态，并存入一个pending-list。当处理完成后需要通过XACK来确认消息，标记消息为已处理，才会从pending-list移除。

创建消费者组：

XGROUP CREATE  key groupName ID [MKSTREAM]

key：队列名称

groupName：消费者组名称

ID：起始ID标示，$代表队列中最后一个消息，0则代表队列中第一个消息

MKSTREAM：队列不存在时自动创建队列。

其它常见命令：

# 删除指定的消费者组
    XGROUP DESTORY key groupName
    
    # 给指定的消费者组添加消费者
    XGROUP CREATECONSUMER key groupname consumername
    
    # 删除消费者组中的指定消费者
    XGROUP DELCONSUMER key groupname consumername

从消费者组读取消息：

XREADGROUP GROUP group consumer [COUNT count] [BLOCK milliseconds] [NOACK] STREAMS key [key ...] ID [ID ...]

group：消费组名称

consumer：消费者名称，如果消费者不存在，会自动创建一个消费者

count：本次查询的最大数量

BLOCK milliseconds：当没有消息时最长等待时间

NOACK：无需手动ACK，获取到消息后自动确认

STREAMS key：指定队列名称

ID：获取消息的起始ID：">"：从下一个未消费的消息开始

其它：根据指定id从pending-list中获取已消费但未确认的消息，例如0，是从pending-list中的第一个消息开始。

消费者监听消息的基本思路：

![351431b48637df0188dbd8283c5ea552.png][]

STREAM类型消息队列的XREADGROUP命令特点：消息可回溯，一个消息可以只能被一个消费者读取。可以阻塞读取.没有消息漏读的风险，有消息确认机制，保证消息至少被消费一次。

[3ddbff7ad3047630dd37ad349593ca7c.png]: https://img-blog.csdnimg.cn/img_convert/3ddbff7ad3047630dd37ad349593ca7c.png
[947e777d5ec1607a5d2d29bde5d8d40e.png]: https://img-blog.csdnimg.cn/img_convert/947e777d5ec1607a5d2d29bde5d8d40e.png
[2671ead75459f2081ff5ffba4045a6b2.png]: https://img-blog.csdnimg.cn/img_convert/2671ead75459f2081ff5ffba4045a6b2.png
[73cecfa94ef3218254d5264618daaca9.png]: https://img-blog.csdnimg.cn/img_convert/73cecfa94ef3218254d5264618daaca9.png
[58672cd7caa1d27d86df73a9e43cd154.png]: https://img-blog.csdnimg.cn/img_convert/58672cd7caa1d27d86df73a9e43cd154.png
[ff1126b40bcc52d85508bcd4063815b1.png]: https://img-blog.csdnimg.cn/img_convert/ff1126b40bcc52d85508bcd4063815b1.png
[28a9c5639919cfd1551c1747dc85d4fd.png]: https://img-blog.csdnimg.cn/img_convert/28a9c5639919cfd1551c1747dc85d4fd.png
[a6e27bf228eb59536bf93a2484e3bac4.png]: https://img-blog.csdnimg.cn/img_convert/a6e27bf228eb59536bf93a2484e3bac4.png
[0be1cbd953b4acb7b75cb63b79191f9e.png]: https://img-blog.csdnimg.cn/img_convert/0be1cbd953b4acb7b75cb63b79191f9e.png
[351431b48637df0188dbd8283c5ea552.png]: https://img-blog.csdnimg.cn/img_convert/351431b48637df0188dbd8283c5ea552.png