架构师之路

如何保证消息必达？

原文链接
任务、延迟消息都放在内存里，万一重启了怎么办？能否保证消息必达？
MQ要想尽量消息必达，架构上有两个核心设计点：
（1）消息落地（即保存到数据库中）
（2）消息超时、重传、确认

MQ的核心架构如下图：

上图是一个MQ的核心架构图，基本可以分为三大块：
（1）发送方 -> 左侧粉色部分
（2）MQ核心集群 -> 中间蓝色部分
（3）接收方 -> 右侧黄色部分
它由发送端、服务端、固化存储、接收端四大部分组成。

粉色发送方又由两部分构成：业务调用方与MQ-client-sender
其中后者向前者提供了两个核心API：
SendMsg(bytes[] msg)
SendCallback()

蓝色MQ核心集群又分为四个部分：MQ-server，zk，db，管理后台web

黄色接收方也由两部分构成：业务接收方与MQ-client-receiver
其中后者向前者提供了两个核心API：
RecvCallback(bytes[] msg)
SendAck()

MQ是一个系统间解耦的利器，它能够很好的解除发布订阅者之间的耦合，它将上下游的消息投递解耦成两个部分，如上述架构图中的1箭头和2箭头：
（1）发送方将消息投递给MQ，上半场
（2）MQ将消息投递给接收方，下半场

MQ消息可靠投递核心流程MQ既然将消息投递拆成了上下半场，为了保证消息的可靠投递，上下半场都必须尽量保证消息必达。

MQ消息投递上半场，MQ-client-sender到MQ-server流程见上图1-3：
（1）MQ-client将消息发送给MQ-server（此时业务方调用的是API：SendMsg）
（2）MQ-server将消息落地，落地后即为发送成功
（3）MQ-server将应答发送给MQ-client（此时回调业务方是API：SendCallback）

MQ消息投递下半场，MQ-server到MQ-client-receiver流程见上图4-6：
（4）MQ-server将消息发送给MQ-client（此时回调业务方是API：RecvCallback）
（5）MQ-client回复应答给MQ-server（此时业务方主动调用API：SendAck）
（6）MQ-server收到ack，将之前已经落地的消息删除，完成消息的可靠投递 如果消息丢了怎么办？

MQ消息投递的上下半场，都可以出现消息丢失，为了降低消息丢失的概率，MQ需要进行超时和重传。
上半场的超时与重传
MQ上半场的1或者2或者3如果丢失或者超时，MQ-client-sender内的timer会重发消息，直到期望收到3，如果重传N次后还未收到，则SendCallback回调发送失败，需要注意的是，这个过程中MQ-server可能会收到同一条消息的多次重发（这就是下一章去重要做的事情）。

下半场的超时与重传
MQ下半场的4或者5或者6如果丢失或者超时，MQ-server内的timer会重发消息，直到收到5并且成功执行6，这个过程可能会重发很多次消息，一般采用指数退避的策略，先隔x秒重发，2x秒重发，4x秒重发，以此类推，需要注意的是，这个过程中MQ-client-receiver也可能会收到同一条消息的多次重发（需要去重）。

如何保证消息幂等？

首先，无论是RabbitMQ、RocketMQ还是kafka，都有可能出现消息的重复发送，这个是MQ无法保障的，而幂等性是开发或者运维人员需要保证的

原文链接
上一章已经讲过，为保证消息的可达性，超时、重传、确认机制可能导致消息总线、或者业务方收到重复的消息，从而对业务产生影响。
举个栗子： 购买会员卡，上游支付系统负责给用户扣款，下游系统负责给用户发卡，通过MQ异步通知。不管是上半场的ACK丢失，导致MQ收到重复的消息，还是下半场ACK丢失，导致购卡系统收到重复的购卡通知，都可能出现，上游扣了一次钱，下游发了多张卡。

上半场的幂等设计

如果3——服务端MQ-server回ACK给发送端MQ-client——丢失，发送端MQ-client超时后会重发消息，可能导致服务端MQ-server收到重复消息。
此时重发是MQ-client发起的，消息的处理是MQ-server，为了避免步骤2落地重复的消息，对每条消息，MQ系统内部必须生成一个inner-msg-id，作为去重和幂等的依据，这个内部消息ID的特性是：
（1）全局唯一
（2）MQ生成（应该是在发送端生成的），具备业务无关性，对消息发送方和消息接收方屏蔽
有了这个inner-msg-id，就能保证上半场重发，也只有1条消息落到MQ-server的DB中，实现上半场幂等。

下半场的幂等性设计

如果5——接收端MQ-client回ACK给服务端——丢失，服务端MQ-server超时后会重发消息，可能导致MQ-client收到重复的消息。
此时重发是MQ-server发起的，消息的处理是消息消费业务方，消息重发势必导致业务方重复消费（上例中的一次付款，重复发卡），为了保证业务幂等性，业务消息体中，必须有一个biz-id，作为去重和幂等的依据，这个业务ID的特性是：
（1）对于同一个业务场景，全局唯一
（2）由业务消息发送方生成，业务相关，对MQ透明
（3）由业务消息消费方负责判重，以保证幂等
最常见的业务ID有：支付ID，订单ID，帖子ID等。
具体到支付购卡场景，发送方必须将支付ID放到消息体中，消费方必须对同一个支付ID进行判重，保证购卡的幂等。
有了这个业务ID，才能够保证下半场消息消费业务方即使收到重复消息，也只有1条消息被消费，保证了幂等。

总结
MQ为了保证消息必达，消息上下半场均可能发送重复消息，如何保证消息的幂等性呢？
上半场 MQ-client生成inner-msg-id，保证上半场幂等。 这个ID全局唯一，业务无关，由MQ保证。

下半场 业务发送方带入biz-id，业务接收方去重保证幂等。 这个ID对单业务唯一，业务相关，对MQ透明。

结论：幂等性，不仅对MQ有要求，对业务上下游也有要求。