在生产环境中由于一些不明原因,导致 RabbitMQ 重启,在 RabbitMQ 重启期间生产者消息投递失败, 导致消息丢失,需要手动处理和恢复。于是,我们开始思考,如何才能进行 RabbitMQ 的消息可靠投递呢?

9.1 发布确认 springboot 版本

确认机制方案:
image.png
代码架构图:
image.png
在配置文件当中需要添加
spring.rabbitmq.publisher-confirm-type=correlated
1

  • NONE 值是禁用发布确认模式,是默认值
  • CORRELATED 值是发布消息成功到交换器后会触发回调方法
  • SIMPLE 值经测试有两种效果,其一效果和 CORRELATED 值一样会触发回调方法,其二在发布消息成功后使用 rabbitTemplate 调用 waitForConfirms 或 waitForConfirmsOrDie 方法等待 broker 节点返回发送结果,根据返回结果来判定下一步的逻辑,要注意的点是 waitForConfirmsOrDie 方法如果返回 false 则会关闭 channel,则接下来无法发送消息到 broker;

代码

1、添加配置类:

  1. @Configuration
  2. public class ConfirmConfig {
  3. public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";
  4. public static final String CONFIRM_QUEUE_NAME = "confirm.queue";
  5. //声明业务 Exchange
  6. @Bean("confirmExchange")
  7. public DirectExchange confirmExchange() {
  8. return new DirectExchange(CONFIRM_EXCHANGE_NAME);
  9. }
  10. // 声明确认队列
  11. @Bean("confirmQueue")
  12. public Queue confirmQueue() {
  13. return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build();
  14. }
  15. // 声明确认队列绑定关系
  16. @Bean
  17. public Binding queueBinding(@Qualifier("confirmQueue") Queue queue,
  18. @Qualifier("confirmExchange") DirectExchange exchange) {
  19. return BindingBuilder.bind(queue).to(exchange).with("key1");
  20. }
  21. }

2、消息生产者的回调接口

  1. @Component
  2. @Slf4j
  3. public class MyCallBack implements RabbitTemplate.ConfirmCallback {
  4. /**
  5. * 交换机不管是否收到消息的一个回调方法
  6. *
  7. * @param correlationData 消息相关数据
  8. * @param ack 交换机是否收到消息
  9. * @param cause 为收到消息的原因
  10. */
  11. @Override
  12. public void confirm(CorrelationData correlationData, boolean ack, String cause) {
  13. String id = correlationData != null ? correlationData.getId() : "";
  14. if (ack) {
  15. log.info("交换机已经收到 id 为:{}的消息", id);
  16. } else {
  17. log.info("交换机还未收到 id 为:{}消息,原因:{}", id, cause);
  18. }
  19. }
  20. }

3、消息生产者

  1. @RestController
  2. @RequestMapping("/confirm")
  3. @Slf4j
  4. public class ProducerController {
  5. public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";
  6. @Autowired
  7. private RabbitTemplate rabbitTemplate;
  8. @Autowired
  9. private MyCallBack myCallBack;
  10. //依赖注入 rabbitTemplate 之后再设置它的回调对象
  11. @PostConstruct
  12. public void init() {
  13. rabbitTemplate.setConfirmCallback(myCallBack);
  14. }
  15. /**
  16. * 消息回调和退回
  17. *
  18. * @param message
  19. */
  20. @GetMapping("sendMessage/{message}")
  21. public void sendMessage(@PathVariable String message) {
  22. //指定消息 id 为 1
  23. CorrelationData correlationData1 = new CorrelationData("1");
  24. String routingKey = "key1";
  25. rabbitTemplate.convertAndSend(CONFIRM_EXCHANGE_NAME, routingKey, message + routingKey, correlationData1);
  26. log.info(routingKey + "发送消息内容:{}", message + routingKey);
  27. CorrelationData correlationData2 = new CorrelationData("2");
  28. routingKey = "key2";
  29. rabbitTemplate.convertAndSend(CONFIRM_EXCHANGE_NAME, routingKey, message + routingKey, correlationData2);
  30. log.info(routingKey + "发送消息内容:{}", message + routingKey);
  31. }
  32. }

4、消息消费者

  1. @Component
  2. @Slf4j
  3. public class ConfirmConsumer {
  4. public static final String CONFIRM_QUEUE_NAME = "confirm.queue";
  5. @RabbitListener(queues = CONFIRM_QUEUE_NAME)
  6. public void receiveMsg(Message message) {
  7. String msg = new String(message.getBody());
  8. log.info("接受到队列 confirm.queue 消息:{}", msg);
  9. }
  10. }

访问: http://localhost:8080/confirm/sendMessage/你好(opens new window)
结果分析:
image.png
可以看到,发送了两条消息,第一条消息的 RoutingKey 为 “key1”,第二条消息的 RoutingKey 为 “key2”,两条消息都成功被交换机接收,也收到了交换机的确认回调,但消费者只收到了一条消息,因为第二条消息的 RoutingKey 与队列的 BindingKey 不一致,也没有其它队列能接收这个消息,所有第二条消息被直接丢弃了。

丢弃的消息交换机是不知道的,需要解决告诉生产者消息传送失败

9.2 回退消息

Mandatory 参数

  1. rabbitTemplate.setReturnsCallback(myCallBack);

在仅开启了生产者确认机制的情况下,交换机接收到消息后,会直接给消息生产者发送确认消息,如果发现该消息不可路由,那么消息会被直接丢弃,此时生产者是不知道消息被丢弃这个事件的。
那么如何让无法被路由的消息帮我想办法处理一下?最起码通知我一声,我好自己处理啊。通过设置 mandatory 参数可以在当消息传递过程中不可达目的地时将消息返回给生产者。

1、修改配置

  1. #消息退回
  2. spring.rabbitmq.publisher-returns=true

2、修改回调接口

  1. @Component
  2. @Slf4j
  3. public class MyCallBack implements RabbitTemplate.ConfirmCallback, RabbitTemplate.ReturnsCallback {
  4. /**
  5. * 交换机不管是否收到消息的一个回调方法
  6. *
  7. * @param correlationData 消息相关数据
  8. * @param ack 交换机是否收到消息
  9. * @param cause 为收到消息的原因
  10. */
  11. @Override
  12. public void confirm(CorrelationData correlationData, boolean ack, String cause) {
  13. String id = correlationData != null ? correlationData.getId() : "";
  14. if (ack) {
  15. log.info("交换机已经收到 id 为:{}的消息", id);
  16. } else {
  17. log.info("交换机还未收到 id 为:{}消息,原因:{}", id, cause);
  18. }
  19. }
  20. //当消息无法路由的时候的回调方法
  21. @Override
  22. public void returnedMessage(ReturnedMessage returned) {
  23. log.error("消息:{},被交换机 {} 退回,原因:{},路由key:{},code:{}",
  24. new String(returned.getMessage().getBody()), returned.getExchange(),
  25. returned.getReplyText(), returned.getRoutingKey(),
  26. returned.getReplyCode());
  27. }
  28. }

低版本可能没有 RabbitTemplate.ReturnsCallback 请用 RabbitTemplate.ReturnCallback

  1. @Override
  2. public void returnedMessage(Message message, int replyCode, String replyText, String
  3. exchange, String routingKey) {
  4. log.info("消息:{}被服务器退回,退回原因:{}, 交换机是:{}, 路由 key:{}",new String(message.getBody()),replyText, exchange, routingKey);
  5. }

3、修改发送者 ProducerController

  1. //依赖注入 rabbitTemplate 之后再设置它的回调对象
  2. @PostConstruct
  3. public void init() {
  4. //消息回调
  5. rabbitTemplate.setConfirmCallback(myCallBack);
  6. /**
  7. * true:交换机无法将消息进行路由时,会将该消息返回给生产者
  8. * false:如果发现消息无法进行路由,则直接丢弃
  9. */
  10. rabbitTemplate.setMandatory(true);
  11. //设置回退消息交给谁处理
  12. rabbitTemplate.setReturnsCallback(myCallBack);
  13. }

访问: http://localhost:8080/confirm/sendMessage/你好(opens new window)
结果分析:
image.png

9.3 备份交换机

有了 mandatory 参数和回退消息,我们获得了对无法投递消息的感知能力,在生产者的消息无法被投递时发现并处理。但有时候,我们并不知道该如何处理这些无法路由的消息,最多打个日志,然后触发报警,再来手动处理。而通过日志来处理这些无法路由的消息是很不优雅的做法,特别是当生产者所在的服务有多台机器的时候,手动复制日志会更加麻烦而且容易出错。而且设置 mandatory 参数会增加生产者的复杂性,需要添加处理这些被退回的消息的逻辑。如果既不想丢失消息,又不想增加生产者的复杂性,该怎么做呢?

前面在设置死信队列的文章中,我们提到,可以为队列设置死信交换机来存储那些处理失败的消息,可是这些不可路由消息根本没有机会进入到队列,因此无法使用死信队列来保存消息。 在 RabbitMQ 中,有一种备份交换机的机制存在,可以很好的应对这个问题。

什么是备份交换机呢?备份交换机可以理解为 RabbitMQ 中交换机的“备胎”,当我们为某一个交换机声明一个对应的备份交换机时,就是为它创建一个备胎,当交换机接收到一条不可路由消息时,将会把这条消息转发到备份交换机中,由备份交换机来进行转发和处理,通常备份交换机的类型为 Fanout ,这样就能把所有消息都投递到与其绑定的队列中,然后我们在备份交换机下绑定一个队列,这样所有那些原交换机无法被路由的消息,就会都进 入这个队列了。当然,我们还可以建立一个报警队列,用独立的消费者来进行监测和报警。

  • 代码架构图

image.png
1、修改配置类

@Configuration
public class ConfirmConfig {
    public static final String CONFIRM_EXCHANGE_NAME = "confirm.exchange";
    public static final String CONFIRM_QUEUE_NAME = "confirm.queue";
    //关于备份的
    public static final String BACKUP_EXCHANGE_NAME = "backup.exchange";
    public static final String BACKUP_QUEUE_NAME = "backup.queue";
    public static final String WARNING_QUEUE_NAME = "warning.queue";


    /*
    //声明业务 Exchange
    @Bean("confirmExchange")
    public DirectExchange confirmExchange() {
        return new DirectExchange(CONFIRM_EXCHANGE_NAME);
    }
    */

    // 声明确认队列
    @Bean("confirmQueue")
    public Queue confirmQueue() {
        return QueueBuilder.durable(CONFIRM_QUEUE_NAME).build();
    }

    // 声明确认队列绑定关系
    @Bean
    public Binding queueBinding(@Qualifier("confirmQueue") Queue queue,
                                @Qualifier("confirmExchange") DirectExchange exchange) {
        return BindingBuilder.bind(queue).to(exchange).with("key1");
    }

    //************************以下是关于备份的******************************

    //声明备份 Exchange
    @Bean("backupExchange")
    public FanoutExchange backupExchange() {
        return new FanoutExchange(BACKUP_EXCHANGE_NAME);
    }

    //声明确认 Exchange 交换机的备份交换机
    @Bean("confirmExchange")
    public DirectExchange confirmExchange() {
        ExchangeBuilder exchangeBuilder = ExchangeBuilder.directExchange(CONFIRM_EXCHANGE_NAME)
                .durable(true)
                //设置该交换机的备份交换机
                .withArgument("alternate-exchange", BACKUP_EXCHANGE_NAME);
        return exchangeBuilder.build();
    }


    // 声明警告队列
    @Bean("warningQueue")
    public Queue warningQueue() {
        return QueueBuilder.durable(WARNING_QUEUE_NAME).build();
    }

    // 声明报警队列绑定关系
    @Bean
    public Binding warningBinding(@Qualifier("warningQueue") Queue queue,
                                  @Qualifier("backupExchange") FanoutExchange backupExchange) {
        return BindingBuilder.bind(queue).to(backupExchange);
    }

    // 声明备份队列
    @Bean("backQueue")
    public Queue backQueue() {
        return QueueBuilder.durable(BACKUP_QUEUE_NAME).build();
    }

    // 声明备份队列绑定关系
    @Bean
    public Binding backupBinding(@Qualifier("backQueue") Queue queue,
                                 @Qualifier("backupExchange") FanoutExchange backupExchange) {
        return BindingBuilder.bind(queue).to(backupExchange);
    }
}

2、报警消费者

@Component
@Slf4j
public class WarningConsumer {
    public static final String WARNING_QUEUE_NAME = "warning.queue";

    @RabbitListener(queues = WARNING_QUEUE_NAME)
    public void receiveWarningMsg(Message message) {
        String msg = new String(message.getBody());
        log.error("报警发现不可路由消息:{}", msg);
    }
}

之前已写过 confirm.exchange 交换机,由于更改配置,需要删掉,不然会报错
image.png

image.png
mandatory 参数与备份交换机可以一起使用的时候,如果两者同时开启,消息究竟何去何从?谁优先级高,经过上面结果显示答案是备份交换机优先级高