分析MQ系列：消息中间件执行原理

曾经终败给现在 2023-10-01 22:02 64阅读 0赞

## 1 关于消息中间件 ##

## 1.1 什么是消息中间件？ ##

消息中间件是指在分布式系统中完成消息的发送和接收的基础软件。  
消息中间件也可以称消息队列（Message Queue / MQ），用高效可靠的消息传递机制进行与平台无关的数据交流，并基于数据通信来进行分布式系统的集成。通过提供消息传递和消息队列模型，可以在分布式环境下扩展进程的通信。  
简而言之，互联网场景中经常使用消息中间件进行消息路由、订阅发布、异步处理等操作，来缓解系统的压力。

## 1.2 它解决了我们哪些痛点？ ##

1、**解耦：** 比如说系统A会交给系统B去处理一些事情，但是A不想直接跟B有关联，避免耦合太强，就可以通过在A，B中间加入消息队列，A将要任务的事情交给消息队列 ,B订阅消息队列来执行任务。

> 这种场景很常见，比如A是订单系统，B是库存系统，可以通过消息队列把削减库存的工作交予B系统去处理。如果A系统同时想让B、C、D...多个系统处理问题的时候，这种优势就更加明显了。

![8ba3afcc1a144f113bc53f0136498cac.png][]

2、**有序性：** 先进先出原理，先来处理，比如一个系统处理某件事需要很长一段时间，但是在处理这件事情时候，有其他人也发出了请求，可以把请求放在消息队里，一个一个来处理。

> 对数据的顺序性和一致性有强需求的业务，比如同一张银行卡同时被多个入口使用，需要保证入账出账的顺序性，避免出现数据不一致。

![190f06cff08e423ce7e08b6e57133739.png][]

3、**消息路由：** 按照不同的规则，将队列中的消息发送到不同的其他队列中

> 通过消息队列将不同染色的请求发送到不同的服务去操作。这样达成了流量按照业务拆分的目的。

4、**异步处理：** 处理一项任务的时候，有3个步骤A、B、C，需要先完成A操作, 然后做B、C 操作。任务执行成功与否强依赖A的结果，但不依赖B、C 的结果。  
如果我们使用串行的执行方式，那处理任务的周期就会变长，系统的整体吞吐能力也会降低（在同一个系统中做异步其实也是比较大的开销），所以使用消息队列是比较好的办法。

> 登录操作就是典型的场景：A：执行登录并得到结果、B：记录登录日志、C：将用户信息和Token写入缓存。 执行完A就可以从登录页跳到首页了，B、C让服务慢慢去消化，不阻塞当前操作。

![4dd0d4487adf7c9d7209ca2d0259a4b8.png][]

5、**削峰：** 将峰值期间的操作削减，比如A同学的整个操作流程包含12个步骤，后续的11个步骤是不需要强关注结果的数据，可以放在消息队列中。

## 2 消息中间件的执行原理 ##

## 2.1 消息中间件的组成 ##

**Broker：** 消息服务器，作为Server提供消息核心服务。  
**Producer：** 消息生产者，业务的发起方，负责生产消息传输给broker，  
**Consumer：** 消息消费者，业务的处理方，负责从broker获取消息并进行业务逻辑处理。  
**Topic：** 主题，发布/订阅模式下的消息统一汇集地，不同生产者向topic发送消息，由MQ服务器分发到不同的订阅者，实现消息的广播。  
**Queue：** 队列，PTP模式下，特定生产者向特定queue发送消息，消费者订阅特定的queue完成指定消息的接收。  
**Message：** 消息体，根据不同通信协议定义的固定格式进行编码的数据包，来封装业务数据，实现消息的传输。

![fda286c16480cc0e702eafe22576adfc.png][]

这边以kafka为例子，这是典型的集群模式，Kafka通过Zookeeper管理集群配置，选举leader，以及在Consumer Group发生变化时进行rebalance。Producer使用push模式将消息发布到broker，Consumer使用pull模式从broker订阅并消费消息。

*  **producer** 负责生产消息
 *  **consumer** 负责消费消息
 *  **broker** 消息服务器，提供消息核心的处理工作
 *  **zookeeper** 用于生产者和消费者的注册与发现

## 2.2 消息中间件的模式分类 ##

## 2.2.1 PTP点对点 ##

使用queue作为通信载体，消息生产者生产消息发送到queue中，然后消息消费者从queue中取出并且消费消息。  
消息被消费以后，queue中不再存储，所以消息消费者不可能消费到已经被消费的消息。 Queue支持存在多个消费者，但是对一个消息而言，只会有一个消费者可以消费。

![b5a71a3d586f9964cf2c6eeacff9b3db.png][]

**点对点模式包含三个角色：**

*  消息队列（Queue）
 *  发送者(Sender)
 *  接收者(Receiver)

每个消息都被发送到一个特定的队列，接收者从队列中获取消息。队列保留着消息，可以放在内存 也可以持久化，直到他们被消费或超时。

**特点：**

*  每个消息只有一个消费者（Consumer）(即一旦被消费，消息就不再在消息队列中)
 *  发送者和接收者之间在时间上没有依赖性
 *  接收者在成功接收消息之后需向队列应答成功
 *  利用FIFO先进先出的特性，可以保证消息的顺序性。

## 2.2.2 Pub/Sub发布订阅（广播） ##

使用topic作为通信载体，消息生产者（发布）将消息发布到topic中，同时有多个消息消费者（订阅）消费该消息。和点对点方式不同，发布到topic的消息会被所有订阅者消费。  
queue实现了负载均衡，将producer生产的消息发送到消息队列中，由多个消费者消费。但一个消息只能被一个消费者接受，当没有消费者可用时，这个消息会被保存直到有一个可用的消费者。

![8563395cf4d57c7ea39508809ebe6285.png][]

**发布订阅模型包含三个角色：**

*  主题（Topic）
 *  发布者（Publisher）
 *  订阅者（Subscriber）

多个发布者将消息发送到Topic，系统将这些消息传递给多个订阅者。

**特点：**

*  每个消息可以有多个消费者：和点对点的方式不同，发布消息可以被所有订阅者消费
 *  发布者和订阅者之间有时间上的依赖性。
 *  针对某个主题（Topic）的订阅者，它必须创建一个订阅者之后，才能消费发布者的消息。
 *  为了消费消息，订阅者必须保持运行的状态。

## 2.3 消息中间件的优势 ##

系统解耦：交互系统之间没有直接的调用关系，只是通过消息传输，故系统侵入性不强，耦合度低。  
提高系统响应时间：例如原来的一套逻辑，可将紧急重要（需要立刻响应）的业务放到该调用方法中，响应要求不高的使用消息队列，放到MQ队列中，供消费者处理。  
为大数据处理架构提供服务：通过消息作为整合，在大数据的背景下，消息队列还与实时处理架构整合，为数据处理提供性能支持。

## 2.4 消息中间件常用协议 ##

AMQP协议、MQTT协议、STOMP协议、XMPP协议、其他基于TCP/IP自定义的协议消息中间件的组成

## 2.4.1 AMQP ##

AMQP即Advanced Message Queuing Protocol，是应用层协议的一个开放标准，为面向消息的中间件设计。消息中间件主要用于组件之间的解耦，消息的发送者无需知道消息使用者的存在，反之亦然。AMQP 的主要特征是面向消息、队列、路由（包括点对点和发布/订阅）、可靠性、安全。  
优点：可靠、通用。

## 2.4.2 MQTT ##

MQTT（Message Queuing Telemetry Transport，消息队列遥测传输）是IBM开发的一个即时通讯协议，有可能成为物联网的重要组成部分。该协议支持所有平台，几乎可以把所有联网物品和外部连接起来，被用来当做传感器和致动器（比如通过Twitter让房屋联网）的通信协议。  
优点：格式简洁、占用带宽小、移动端通信、PUSH、嵌入式系统

## 2.4.3 STOMP ##

STOMP（Streaming Text Orientated Message Protocol）是流文本定向消息协议，是一种为MOM(Message Oriented Middleware，面向消息的中间件)设计的简单文本协议。STOMP提供一个可互操作的连接格式，允许客户端与任意STOMP消息代理（Broker）进行交互。  
优点：命令模式（非topic\\queue模式）

## 2.4.4 XMPP ##

XMPP（可扩展消息处理现场协议，Extensible Messaging and Presence Protocol）是基于可扩展标记语言（XML）的协议，多用于即时消息（IM）以及在线现场探测。适用于服务器之间的即时操作。核心是基于XML流传输，这个协议可能最终允许因特网用户向因特网上的其他任何人发送即时消息，  
即使其操作系统和浏览器不同。  
优点：通用公开、兼容性强、可扩展、安全性高，但XML编码格式占用带宽大

## 2.5 主流的消息中间件 ##

常见的消息中间件包括：RabbitMQ、RocketMQ、kafka 等，后面我们会有一篇专门对这几种中间件的能力和技术参数做一项完整的对比，并给出不同业务场景下的技术选型建议。

> 原文链接：  
> https://www.cnblogs.com/wzh2010/p/15888498.html

[8ba3afcc1a144f113bc53f0136498cac.png]: https://img-blog.csdnimg.cn/img_convert/8ba3afcc1a144f113bc53f0136498cac.png
[190f06cff08e423ce7e08b6e57133739.png]: https://img-blog.csdnimg.cn/img_convert/190f06cff08e423ce7e08b6e57133739.png
[4dd0d4487adf7c9d7209ca2d0259a4b8.png]: https://img-blog.csdnimg.cn/img_convert/4dd0d4487adf7c9d7209ca2d0259a4b8.png
[fda286c16480cc0e702eafe22576adfc.png]: https://img-blog.csdnimg.cn/img_convert/fda286c16480cc0e702eafe22576adfc.png
[b5a71a3d586f9964cf2c6eeacff9b3db.png]: https://img-blog.csdnimg.cn/img_convert/b5a71a3d586f9964cf2c6eeacff9b3db.png
[8563395cf4d57c7ea39508809ebe6285.png]: https://img-blog.csdnimg.cn/img_convert/8563395cf4d57c7ea39508809ebe6285.png