RabbitMQ 是目前非常热门的一款 消息中间件,不管是互联网行业还是传统行业都在大量使用。它具有高可靠、易扩展、高可用及丰富的功能特性。

什么是消息中间件

消息(Message):在应用层传送的数据。比如文本字符串、JSON 等。
消息队列中间件(Message Queue Middleware,MQ):利用 可靠的消息传递机制 进行 与平台无关的数据交流,并基于数据通信来进行分布式系统的集成。通过消息排队模型,它可以在 分布式环境下扩展进程间的通信
消息队列中间件一般有两种传递模式:

  • 点对点(P2P,Point-to-Point)模式基于 队列,消息生产者发送消息到队列,消息消费者从队列中接收消息。队列的存在使得消息的 异步传输成 为可能。
  • 发布/订阅(Pub/Sub)模式定义了如何向一个内容节点发布和订阅消息,内容节点称为 主题(topic),消息发布者将消息 发布到某个主题,而消息订阅者则 从主题中订阅消息。该模式在 消息的一对多广播时采用

消息中间件适用于需要可靠的数据传送的分布式环境。发送者将消息发送给消息服务器,消息服务器将 消息存放在若干队列中,在合适的时候再将消息 转发给接收者。实现应用程序之间的协同,优点在于能够在客户和服务器之间提供同步和异步的链接,并且在任何时刻都可以将消息进行传送或存储转发。
image.png
例如上图:A、B程序使用消息中间件进行通信。程序 A、B 可以不在同一台服务器上,A 发送消息给 B,消息中间件负责处理网络通信,如果网络连接不可用,会存储消息,直到连接变得可用,再将消息转发给 B。
灵活的体现在于:程序 B 可以不在线,A 也能投递消息,防止 A 等待 B 处理出现的阻塞。

消息中间件的作用

在不同的应用场景下有不同的作用,总的来说,可以概括如下:

  • 解耦对于项目的变化,很难预测到未来的变动。消息中间件在处理过程中间插入了一个隐含、基于数据的接口层,两边的处理过程都要实现这一接口,但是两边都可以独立的扩展或则修改自己的处理过程,只要 确保他们遵守同样的接口约束 即可。
  • 冗余(存储)某些情况下,处理数据的过程可能失败。消息中间件可以把数据持久化直到他们已经被完全处理,通过这一方式 规避了数据丢失的风险。在把一个消息从中间件删除时,需要你明确的指出该消息已经被处理完成。
  • 扩展性因为 解耦了应用程序的处理过程,所以 提高消息入队处理效率 就变得很容易了,只要增加额外的处理过程即可,不需要改变代码和参数
  • 削峰在访问量剧增的场景下,应用需要继续发挥作用,但是这样的突然流量并不常见。如果以能处理这类峰值为标准而投入资源(比如硬件),无疑是巨大的浪费。使用消息中间件能够使关键组件支持突发访问压力,不会因为突发的超负荷请求而完全崩溃。
  • 可恢复性当系统一部分组件失效时,不会影响到整个系统。当这部分组件被修复后,再连接上消息中间件,可以继续处理未处理完的消息。
  • 顺序保证大多数场景下,数据处理的顺序很重要,大部分消息中间件支持一定程度上的顺序性。
  • 异步通信在很多时候,应用不想也不需要立即处理消息。将消息放入消息中间件中,但并不立即处理它,在之后需要的时候再慢慢处理。

    RabbitMQ 的起源

    RabbitMQ 是采用 Erlang 语言实现 AMQP(Advanced Message Queuing Protocol)高级消息队列协议 的消息中间件,最初起源于金融系统,用于在 分布式系统中存储转发消息
    商业 MQ 供应商想要解决 应用互通 的问题,而不是去创建标准来实现不同的 MQ 产品间的互通,或则运行应用程序更改 MQ 平台。价格高昂、还不通用。
    为了解决这种困境,JMS(Java Message Service) 就应运而生。JMS 试图通过提供 公共 Java API 的方式,隐藏单独 MQ 产品供应商提供的时实际接口,解决了互通问题。从技术上讲:只要针对 JMS API 编程,选择合适的 MQ 驱动,JMS 会打理好其他的部分。ActiveMQ 就是 JMS 的一种实现。由于 JMS 使用单独标准化接口来胶合众多不同的接口,最终会暴露出问题,使得程序变得脆弱。急需一种新的消息通信标准化方案。
    2006 年 6 月,由 Cisco、Redhat、iMatix 等联合制定了 AMQP 的公开标准,它是 应用层协议的一个开放标准,以解决众多消息中间件的需求和拓扑结构问题。它为 面向消息的中间件 设计,基于此协议的客户端与消息中间件可传递消息,并 不受产品、开放语言等条件的限制
    RabbitMQ 最初版本实现了 AMQP 的一个关键特性:使用协议本身就可以对队列和交换器(Exchange)这样的资源进行配置。而商业 MQ 则需要特定的管理终端。RabbitMQ 的资源配置能力使其成为构建分布式应用的最完美的通信总线。
    Rabbit 英译为兔子,含义为:兔子行动非常迅速且繁殖起来非常疯狂。因此使用 RabbitMQ 来命名这个分布式软件。
    RabbitMQ 发展到今天,被越来越多人认可,这和它在易用性、扩展性、可靠性和高可用性等方面的卓越表现是分不开的。具体特点可以概括为以下几点:

  • 可靠性:使用一些机制来保证可靠性如:持久化、传输确认发布确认等。

  • 灵活的路由:在消息进入队列之前,通过 交换器路由 消息对于典型的路由功能,提供了 内置的交换器 来实现。针对复杂的路由功能,可以 将多个交换器绑定在一起,也可以通过 插件机制 来实现自己的交换器
  • 扩展性:多个 RabbitMQ 节点可以组成一个集群,也可以动态扩展集群节点。
  • 高可用性:队列 可以在集群中的机器上设置 镜像,使得在部分节点出现问题的情况下,队列仍然可用。
  • 多种协议:原生支持 AMQP 协议还支持 STOMP、MQTT 等多种消息中间件协议
  • 多语言客户端:支持常用语言客户端如:Java、Python、Ruby、PHP、C#、JavaScript
  • 管理界面提供了一个易用的用户界面,使得用户可以 监控和管理消息、集群中的节点
  • 插件机制:提供了许多插件,以实现从多方面进行扩展,也可以自己编写插件。

    RabbitMQ 的安装及简单使用

    先介绍 RabbitMQ 的安装过程,然后演示发送和消费消息的具体实现。
    本书如无特指,所有程序都在 Linux 下运行。

    安装 Erlang

    前面说到过,RabbitMQ 是由 Erlang 语言编写的, 需要先下载;本书采用 19.x 版本下载链接
  1. # 安装依赖模块
  2. [root@study opt]# yum -y install make gcc gcc-c++ kernel-devel m4 ncurses-devel openssl-devel
  3. [root@study opt]# yum install ncurses-devel
  4. # 解压缩与配置
  5. [root@study opt]# cd /opt
  6. [root@study opt]# tar zxvf otp_src_19.3.tar.gz
  7. [root@study opt]# cd otp_src_19.3
  8. [root@study otp_src_19.3]# ./configure --prefix=/opt/erlang --with-ssl --enable-threads --enable-smp-support --enable-kernel-poll --enable-hipe --without-javac
  9. # 安装 erlang
  10. [root@study otp_src_19.3]# marke && make install
  11. # 配置环境变量
  12. [root@study ~]# vim /etc/profile
  13. ERLANG_HOME=/opt/erlang
  14. export PATH=$PATH:$ERLANG_HOME/bin
  15. export ERLANG_HOME
  16. [root@study ~]# source /etc/profile
  17. # 验证是否安装成功
  18. [root@study otp_src_19.3]# erl
  19. Erlang/OTP 19 [erts-8.3] [source] [64-bit] [async-threads:10] [hipe] [kernel-poll:false]
  20. Copied!

#安装 RabbitMQ

使用 3.6.15 版本下载链接

  1. [root@study opt]# cd /opt
  2. [root@study opt]# tar -xvJf rabbitmq-server-generic-unix-3.6.15.tar.xz
  3. [root@study opt]# mv rabbitmq_server-3.6.15/ rabbitmq
  4. # 配置环境变量
  5. [root@study opt]# vim /etc/profile
  6. export PATH=$PATH:/root/server/rabbitmq/sbin
  7. export RABBITMQ_HOME=/root/server/rabbitmq
  8. [root@study ~]# source /etc/profile
  9. Copied!

运行 RabbitMQ

  1. # 使用 -detached 参数是为了让 RabbitMQ 以守护进程方式在后台运行
  2. [root@study ~]# rabbitmq-server -detached
  3. Warning: PID file not written; -detached was passed.
  4. # 查看 RabbitMQ 状态
  5. [root@study ~]# rabbitmqctl status
  6. Status of node rabbit@study
  7. [{pid,25358},
  8. {running_applications,
  9. [{rabbit,"RabbitMQ","3.6.15"},
  10. {mnesia,"MNESIA CXC 138 12","4.14.3"},
  11. {os_mon,"CPO CXC 138 46","2.4.2"},
  12. {rabbit_common,
  13. "Modules shared by rabbitmq-server and rabbitmq-erlang-client",
  14. "3.6.15"},
  15. {syntax_tools,"Syntax tools","2.1.1"},
  16. {ranch,"Socket acceptor pool for TCP protocols.","1.3.2"},
  17. {ssl,"Erlang/OTP SSL application","8.1.1"},
  18. {public_key,"Public key infrastructure","1.4"},
  19. {crypto,"CRYPTO","3.7.3"},
  20. {asn1,"The Erlang ASN1 compiler version 4.0.4","4.0.4"},
  21. {compiler,"ERTS CXC 138 10","7.0.4"},
  22. {xmerl,"XML parser","1.3.13"},
  23. {recon,"Diagnostic tools for production use","2.3.2"},
  24. {sasl,"SASL CXC 138 11","3.0.3"},
  25. {stdlib,"ERTS CXC 138 10","3.3"},
  26. {kernel,"ERTS CXC 138 10","5.2"}]},
  27. {os,{unix,linux}},
  28. ...
  29. # 可以看到启动成功了
  30. # 还可以查看集群信息,现在只有一个节点
  31. [root@study ~]# rabbitmqctl cluster_status
  32. Cluster status of node rabbit@study
  33. [{nodes,[{disc,[rabbit@study]}]},
  34. {running_nodes,[rabbit@study]},
  35. {cluster_name,<<"rabbit@study">>},
  36. {partitions,[]},
  37. {alarms,[{rabbit@study,[]}]}]
  38. Copied!

#新增账户

默认情况下 RabbitMQ 有一个 guest 账户,只允许通过 localhost 访问,远程网络访问受限。所以需要新添加一个账户

  1. # 创建 admin 用户,密码为 root
  2. [root@study ~]# rabbitmqctl add_user admin root
  3. Creating user "admin"
  4. # 设置用户拥有所有权限
  5. [root@study ~]# rabbitmqctl set_permissions -p / admin ".*" ".*" ".*"
  6. Setting permissions for user "admin" in vhost "/"
  7. # 设置 admin 用户为 管理员角色
  8. [root@study ~]# rabbitmqctl set_user_tags admin administrator
  9. Setting tags for user "admin" to [administrator]
  10. Copied!

#生产和消费

本章演示如何使用 RabbitMQ Java 客户端生产和消费消息。
添加依赖包,笔者使用 gradle 管理项目依赖

  1. compile 'com.rabbitmq:amqp-client:4.2.1'
  2. Copied!

#生产者

  1. /**
  2. * 生产者; 一个完整的建立连接、创建信道、创建交换器、创建队列、通过路由键绑定、发送消息、关闭资源
  3. */
  4. public class RabbitProducer {
  5. private static final String EXCHANGE_NAME = "exchange_demo";
  6. private static final String ROUTING_KEY = "routingky_demo";
  7. private static final String QUEUE_NAME = "queue_demo";
  8. private static final String IP_ADDRESS = "192.168.4.250";
  9. // rabbitMq 服务端默认端口为 5672
  10. private static final int PORT = 5672;
  11. public static void main(String[] args) throws IOException, TimeoutException {
  12. final ConnectionFactory factory = new ConnectionFactory();
  13. factory.setHost(IP_ADDRESS);
  14. factory.setPort(PORT);
  15. factory.setUsername("admin");
  16. factory.setPassword("root");
  17. final Connection connection = factory.newConnection();
  18. final Channel channel = connection.createChannel();
  19. // 创建一个 type=direct 持久化、非自动删除的交换器
  20. channel.exchangeDeclare(EXCHANGE_NAME, "direct", true, false, null);
  21. // 创建一个:持久化、非排他的、非自动删除的队列
  22. channel.queueDeclare(QUEUE_NAME, true, false, false, null);
  23. // 将交换器与队列通过 路由键 绑定
  24. channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, ROUTING_KEY);
  25. String message = "Hello World!";
  26. channel.basicPublish(EXCHANGE_NAME,
  27. ROUTING_KEY,
  28. MessageProperties.PERSISTENT_TEXT_PLAIN,
  29. message.getBytes());
  30. // 关闭资源
  31. channel.close();
  32. connection.close();
  33. }
  34. }
  35. Copied!

这里一个完整模板代码流程:

  1. 建立连接
  2. 创建信道
  3. 创建交换器
  4. 创建队列
  5. 通过路由键绑定
  6. 发送消息
  7. 关闭资源

    #消费者

  1. package cn.mrcode.rabbitmq;
  2. import com.rabbitmq.client.AMQP;
  3. import com.rabbitmq.client.Address;
  4. import com.rabbitmq.client.Channel;
  5. import com.rabbitmq.client.Connection;
  6. import com.rabbitmq.client.ConnectionFactory;
  7. import com.rabbitmq.client.DefaultConsumer;
  8. import com.rabbitmq.client.Envelope;
  9. import java.io.IOException;
  10. import java.util.concurrent.TimeUnit;
  11. import java.util.concurrent.TimeoutException;
  12. /**
  13. * 消费者
  14. */
  15. public class RabbitConsumer {
  16. private static final String QUEUE_NAME = "queue_demo";
  17. private static final String IP_ADDRESS = "192.168.4.250";
  18. private static final int PORT = 5672;
  19. public static void main(String[] args) throws IOException, TimeoutException, InterruptedException {
  20. final Address[] addresses = {
  21. new Address(IP_ADDRESS, PORT)
  22. };
  23. final ConnectionFactory factory = new ConnectionFactory();
  24. factory.setUsername("admin");
  25. factory.setPassword("root");
  26. // 这里的联机方式与生产者的 demo 略有不同
  27. final Connection connection = factory.newConnection(addresses);
  28. final Channel channel = connection.createChannel();
  29. // 设置客户端最多接收未被 ack 的消息个数
  30. channel.basicQos(64);
  31. channel.basicConsume(QUEUE_NAME, new DefaultConsumer(channel) {
  32. @Override
  33. public void handleDelivery(String consumerTag,
  34. Envelope envelope,
  35. AMQP.BasicProperties properties,
  36. byte[] body) throws IOException {
  37. System.out.println("recv message: " + new String(body));
  38. try {
  39. TimeUnit.SECONDS.sleep(1);
  40. } catch (InterruptedException e) {
  41. e.printStackTrace();
  42. }
  43. channel.basicAck(envelope.getDeliveryTag(), false);
  44. }
  45. });
  46. // 等待消费者回调后,关闭资源
  47. TimeUnit.SECONDS.sleep(10);
  48. channel.close();
  49. connection.close();
  50. }
  51. }
  52. Copied!

运行生产者和消费者后,消费者会打印出 recv message: Hello World!