1. MQ介绍

1.1 为什么要用MQ

消息队列是一种“先进先出”的数据结构
RocketMQ入门 - 图1
其应用场景主要包含以下3个方面

  • 应用解耦

系统的耦合性越高,容错性就越低。以电商应用为例,用户创建订单后,如果耦合调用库存系统、物流系统、支付系统,任何一个子系统出了故障或者因为升级等原因暂时不可用,都会造成下单操作异常,影响用户使用体验。
image.png
使用消息队列解耦合,系统的耦合性就会提高了。比如物流系统发生故障,需要几分钟才能来修复,在这段时间内,物流系统要处理的数据被缓存到消息队列中,用户的下单操作正常完成。当物流系统回复后,补充处理存在消息队列中的订单消息即可,终端系统感知不到物流系统发生过几分钟故障。
image.png

  • 流量削峰

RocketMQ入门 - 图4
应用系统如果遇到系统请求流量的瞬间猛增,有可能会将系统压垮。有了消息队列可以将大量请求缓存起来,分散到很长一段时间处理,这样可以大大提到系统的稳定性和用户体验。
RocketMQ入门 - 图5
一般情况,为了保证系统的稳定性,如果系统负载超过阈值,就会阻止用户请求,这会影响用户体验,而如果使用消息队列将请求缓存起来,等待系统处理完毕后通知用户下单完毕,这样总不能下单体验要好。
处于经济考量目的,业务系统正常时段的QPS如果是1000,流量最高峰是10000,为了应对流量高峰配置高性能的服务器显然不划算,这时可以使用消息队列对峰值流量削峰

  • 数据分发

RocketMQ入门 - 图6
通过消息队列可以让数据在多个系统更加之间进行流通。数据的产生方不需要关心谁来使用数据,只需要将数据发送到消息队列,数据使用方直接在消息队列中直接获取数据即可
RocketMQ入门 - 图7

1.2 MQ的优点和缺点

优点:解耦、削峰、数据分发
缺点包含以下几点:

  • 系统可用性降低
    系统引入的外部依赖越多,系统稳定性越差。一旦MQ宕机,就会对业务造成影响。
    如何保证MQ的高可用?
  • 系统复杂度提高
    MQ的加入大大增加了系统的复杂度,以前系统间是同步的远程调用,现在是通过MQ进行异步调用。
    如何保证消息没有被重复消费?怎么处理消息丢失情况?那么保证消息传递的顺序性
  • 一致性问题
    A系统处理完业务,通过MQ给B、C、D三个系统发消息数据,如果B系统、C系统处理成功,D系统处理失败。
    如何保证消息数据处理的一致性

    1.3 各种MQ产品的比较

    常见的MQ产品包括Kafka、ActiveMQ、RabbitMQ、RocketMQ。
    image.png

    2. RocketMQ快速入门

    RocketMQ是阿里巴巴2016年MQ中间件,使用Java语言开发,在阿里内部,RocketMQ承接了例如“双11”等高并发场景的消息流转,能够处理万亿级别的消息。

    2.1 准备工作

    2.1.1 下载RocketMQ

    下载地址

    2.2.2 环境要求

  • Linux64位系统

  • JDK1.8(64位)
  • 源码安装需要安装Maven 3.2.x

    2.2 安装RocketMQ

    2.2.1 安装步骤

    本教程以二进制包方式安装
  1. 解压安装包
  2. 进入安装目录

    2.2.2 目录介绍

  • bin:启动脚本,包括shell脚本和CMD脚本
  • conf:实例配置文件 ,包括broker配置文件、logback配置文件等
  • lib:依赖jar包,包括Netty、commons-lang、FastJSON等

    2.3 启动RocketMQ

  1. 启动NameServer

    1. # 1.启动NameServer
    2. nohup sh bin/mqnamesrv &
    3. # 2.查看启动日志
    4. tail -f ~/logs/rocketmqlogs/namesrv.log
  2. 启动Broker

    1. # 1.启动Broker
    2. nohup sh bin/mqbroker -n localhost:9876 &
    3. # 2.查看启动日志
    4. tail -f ~/logs/rocketmqlogs/broker.log
  • 问题描述:
    RocketMQ默认的虚拟机内存较大,启动Broker如果因为内存不足失败,需要编辑如下两个配置文件,修改JVM内存大小

    1. # 编辑runbroker.sh和runserver.sh修改默认JVM大小
    2. vi runbroker.sh
    3. vi runserver.sh
  • 参考设置:

JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"

2.4 测试RocketMQ

2.4.1 发送消息

  1. # 1.设置临时的环境变量
  2. export NAMESRV_ADDR=localhost:9876
  3. # 2.使用安装包的Demo发送消息
  4. sh bin/tools.sh org.apache.rocketmq.example.quickstart.Producer

2.4.2 接收消息

  1. # 1.设置临时的环境变量
  2. export NAMESRV_ADDR=localhost:9876
  3. # 2.接收消息
  4. sh bin/tools.sh org.apache.rocketmq.example.quickstart.Consumer

2.5 关闭RocketMQ

  1. # 1.关闭NameServer
  2. sh bin/mqshutdown namesrv
  3. # 2.关闭Broker
  4. sh bin/mqshutdown broker

3. RocketMQ集群搭建

3.1 各角色介绍

  • Producer:消息的发送者;举例:发信者
  • Consumer:消息接收者;举例:收信者
  • Broker:暂存和传输消息;举例:邮局
  • NameServer:管理Broker;举例:各个邮局的管理机构
  • Topic:区分消息的种类;一个发送者可以发送消息给一个或者多个Topic;一个消息的接收者可以订阅一个或者多个Topic消息
  • Message Queue:相当于是Topic的分区;用于并行发送和接收消息

image.png

3.2 集群搭建方式

3.2.1 集群特点

  • NameServer是一个几乎无状态节点,可集群部署,节点之间无任何信息同步,因为Broker启动后会给每个NameServer注册信息。
  • Broker部署相对复杂,Broker分为Master与Slave,一个Master可以对应多个Slave,但是一个Slave只能对应一个Master,Master与Slave的对应关系通过指定相同的BrokerName,不同的BrokerId来定义,BrokerId为0表示Master,非0表示Slave。Master也可以部署多个。每个Broker与NameServer集群中的所有节点建立长连接,定时注册Topic信息到所有NameServer。
  • Producer与NameServer集群中的其中一个节点(随机选择)建立长连接,定期从NameServer取Topic路由信息,并向提供Topic服务的Master建立长连接,且定时向Master发送心跳。Producer完全无状态,可集群部署。
  • Consumer与NameServer集群中的其中一个节点(随机选择)建立长连接,定期从NameServer取Topic路由信息,并向提供Topic服务的Master、Slave建立长连接,且定时向Master、Slave发送心跳。Consumer既可以从Master订阅消息,也可以从Slave订阅消息,订阅规则由Broker配置决定。

    3.2.3 集群模式

    1)单Master模式

    这种方式风险较大,一旦Broker重启或者宕机时,会导致整个服务不可用。不建议线上环境使用,可以用于本地测试。

    2)多Master模式

    一个集群无Slave,全是Master,例如2个Master或者3个Master,这种模式的优缺点如下:

  • 优点:配置简单,单个Master宕机或重启维护对应用无影响,在磁盘配置为RAID10时,即使机器宕机不可恢复情况下,由于RAID10磁盘非常可靠,消息也不会丢(异步刷盘丢失少量消息,同步刷盘一条不丢),性能最高;

  • 缺点:单台机器宕机期间,这台机器上未被消费的消息在机器恢复之前不可订阅,消息实时性会受到影响。

    3)多Master多Slave模式(异步)

    每个Master配置一个Slave,有多对Master-Slave,HA采用异步复制方式,主备有短暂消息延迟(毫秒级),这种模式的优缺点如下:

  • 优点:即使磁盘损坏,消息丢失的非常少,且消息实时性不会受影响,同时Master宕机后,消费者仍然可以从Slave消费,而且此过程对应用透明,不需要人工干预,性能同多Master模式几乎一样;

  • 缺点:Master宕机,磁盘损坏情况下会丢失少量消息。

    4)多Master多Slave模式(同步)

    每个Master配置一个Slave,有多对Master-Slave,HA采用同步双写方式,即只有主备都写成功,才向应用返回成功,这种模式的优缺点如下:

  • 优点:数据与服务都无单点故障,Master宕机情况下,消息无延迟,服务可用性与数据可用性都非常高;

  • 缺点:性能比异步复制模式略低(大约低10%左右),发送单个消息的RT会略高,且目前版本在主节点宕机后,备机不能自动切换为主机。

    3.3 双主双从集群搭建

    3.3.1 总体架构

    消息高可用采用2m-2s(同步双写)方式
    image.png

    3.3.2 集群工作流程

  1. 启动NameServer,NameServer起来后监听端口,等待Broker、Producer、Consumer连上来,相当于一个路由控制中心。
  2. Broker启动,跟所有的NameServer保持长连接,定时发送心跳包。心跳包中包含当前Broker信息(IP+端口等)以及存储所有Topic信息。注册成功后,NameServer集群中就有Topic跟Broker的映射关系。
  3. 收发消息前,先创建Topic,创建Topic时需要指定该Topic要存储在哪些Broker上,也可以在发送消息时自动创建Topic。
  4. Producer发送消息,启动时先跟NameServer集群中的其中一台建立长连接,并从NameServer中获取当前发送的Topic存在哪些Broker上,轮询从队列列表中选择一个队列,然后与队列所在的Broker建立长连接从而向Broker发消息。
  5. Consumer跟Producer类似,跟其中一台NameServer建立长连接,获取当前订阅Topic存在哪些Broker上,然后直接跟Broker建立连接通道,开始消费消息。

    3.3.3 服务器环境

    | 序号 | IP | 角色 | 架构模式 | | —- | —- | —- | —- | | 1 | 192.168.25.135 | nameserver、brokerserver | Master1、Slave2 | | 2 | 192.168.25.138 | nameserver、brokerserver | Master2、Slave1 |

3.3.4 Host添加信息

  1. vim /etc/hosts

配置如下:

  1. # nameserver
  2. 192.168.25.135 rocketmq-nameserver1
  3. 192.168.25.138 rocketmq-nameserver2
  4. # broker
  5. 192.168.25.135 rocketmq-master1
  6. 192.168.25.135 rocketmq-slave2
  7. 192.168.25.138 rocketmq-master2
  8. 192.168.25.138 rocketmq-slave1

配置完成后, 重启网卡

  1. systemctl restart network

3.3.5 防火墙配置

宿主机需要远程访问虚拟机的rocketmq服务和web服务,需要开放相关的端口号,简单粗暴的方式是直接关闭防火墙

  1. # 关闭防火墙
  2. systemctl stop firewalld.service
  3. # 查看防火墙的状态
  4. firewall-cmd --state
  5. # 禁止firewall开机启动
  6. systemctl disable firewalld.service

或者为了安全,只开放特定的端口号,RocketMQ默认使用3个端口:9876 、10911 、11011 。如果防火墙没有关闭的话,那么防火墙就必须开放这些端口:

  • nameserver 默认使用 9876 端口
  • master 默认使用 10911 端口
  • slave 默认使用11011 端口

执行以下命令:

  1. # 开放name server默认端口
  2. firewall-cmd --remove-port=9876/tcp --permanent
  3. # 开放master默认端口
  4. firewall-cmd --remove-port=10911/tcp --permanent
  5. # 开放slave默认端口 (当前集群模式可不开启)
  6. firewall-cmd --remove-port=11011/tcp --permanent
  7. # 重启防火墙
  8. firewall-cmd --reload

3.3.6 环境变量配置

  1. vim /etc/profile

在profile文件的末尾加入如下命令

  1. #set rocketmq
  2. ROCKETMQ_HOME=/usr/local/rocketmq/rocketmq-all-4.4.0-bin-release
  3. PATH=$PATH:$ROCKETMQ_HOME/bin
  4. export ROCKETMQ_HOME PATH

输入:wq! 保存并退出, 并使得配置立刻生效:

  1. source /etc/profile

3.3.7 创建消息存储路径

  1. mkdir /usr/local/rocketmq/store
  2. mkdir /usr/local/rocketmq/store/commitlog
  3. mkdir /usr/local/rocketmq/store/consumequeue
  4. mkdir /usr/local/rocketmq/store/index

3.3.8 broker配置文件

1)master1

服务器:192.168.25.135

  1. vi /usr/soft/rocketmq/conf/2m-2s-sync/broker-a.properties

修改配置如下:

  1. #所属集群名字
  2. brokerClusterName=rocketmq-cluster
  3. #broker名字,注意此处不同的配置文件填写的不一样
  4. brokerName=broker-a
  5. #0 表示 Master,>0 表示 Slave
  6. brokerId=0
  7. #nameServer地址,分号分割
  8. namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
  9. #在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
  10. defaultTopicQueueNums=4
  11. #是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
  12. autoCreateTopicEnable=true
  13. #是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
  14. autoCreateSubscriptionGroup=true
  15. #Broker 对外服务的监听端口
  16. listenPort=10911
  17. #删除文件时间点,默认凌晨 4点
  18. deleteWhen=04
  19. #文件保留时间,默认 48 小时
  20. fileReservedTime=120
  21. #commitLog每个文件的大小默认1G
  22. mapedFileSizeCommitLog=1073741824
  23. #ConsumeQueue每个文件默认存30W条,根据业务情况调整
  24. mapedFileSizeConsumeQueue=300000
  25. #destroyMapedFileIntervalForcibly=120000
  26. #redeleteHangedFileInterval=120000
  27. #检测物理文件磁盘空间
  28. diskMaxUsedSpaceRatio=88
  29. #存储路径
  30. storePathRootDir=/usr/local/rocketmq/store
  31. #commitLog 存储路径
  32. storePathCommitLog=/usr/local/rocketmq/store/commitlog
  33. #消费队列存储路径存储路径
  34. storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
  35. #消息索引存储路径
  36. storePathIndex=/usr/local/rocketmq/store/index
  37. #checkpoint 文件存储路径
  38. storeCheckpoint=/usr/local/rocketmq/store/checkpoint
  39. #abort 文件存储路径
  40. abortFile=/usr/local/rocketmq/store/abort
  41. #限制的消息大小
  42. maxMessageSize=65536
  43. #flushCommitLogLeastPages=4
  44. #flushConsumeQueueLeastPages=2
  45. #flushCommitLogThoroughInterval=10000
  46. #flushConsumeQueueThoroughInterval=60000
  47. #Broker 的角色
  48. #- ASYNC_MASTER 异步复制Master
  49. #- SYNC_MASTER 同步双写Master
  50. #- SLAVE
  51. brokerRole=SYNC_MASTER
  52. #刷盘方式
  53. #- ASYNC_FLUSH 异步刷盘
  54. #- SYNC_FLUSH 同步刷盘
  55. flushDiskType=SYNC_FLUSH
  56. #checkTransactionMessageEnable=false
  57. #发消息线程池数量
  58. #sendMessageThreadPoolNums=128
  59. #拉消息线程池数量
  60. #pullMessageThreadPoolNums=128

2)slave2

服务器:192.168.25.135

  1. vi /usr/soft/rocketmq/conf/2m-2s-sync/broker-b-s.properties

修改配置如下:

  1. #所属集群名字
  2. brokerClusterName=rocketmq-cluster
  3. #broker名字,注意此处不同的配置文件填写的不一样
  4. brokerName=broker-b
  5. #0 表示 Master,>0 表示 Slave
  6. brokerId=1
  7. #nameServer地址,分号分割
  8. namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
  9. #在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
  10. defaultTopicQueueNums=4
  11. #是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
  12. autoCreateTopicEnable=true
  13. #是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
  14. autoCreateSubscriptionGroup=true
  15. #Broker 对外服务的监听端口
  16. listenPort=11011
  17. #删除文件时间点,默认凌晨 4点
  18. deleteWhen=04
  19. #文件保留时间,默认 48 小时
  20. fileReservedTime=120
  21. #commitLog每个文件的大小默认1G
  22. mapedFileSizeCommitLog=1073741824
  23. #ConsumeQueue每个文件默认存30W条,根据业务情况调整
  24. mapedFileSizeConsumeQueue=300000
  25. #destroyMapedFileIntervalForcibly=120000
  26. #redeleteHangedFileInterval=120000
  27. #检测物理文件磁盘空间
  28. diskMaxUsedSpaceRatio=88
  29. #存储路径
  30. storePathRootDir=/usr/local/rocketmq/store
  31. #commitLog 存储路径
  32. storePathCommitLog=/usr/local/rocketmq/store/commitlog
  33. #消费队列存储路径存储路径
  34. storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
  35. #消息索引存储路径
  36. storePathIndex=/usr/local/rocketmq/store/index
  37. #checkpoint 文件存储路径
  38. storeCheckpoint=/usr/local/rocketmq/store/checkpoint
  39. #abort 文件存储路径
  40. abortFile=/usr/local/rocketmq/store/abort
  41. #限制的消息大小
  42. maxMessageSize=65536
  43. #flushCommitLogLeastPages=4
  44. #flushConsumeQueueLeastPages=2
  45. #flushCommitLogThoroughInterval=10000
  46. #flushConsumeQueueThoroughInterval=60000
  47. #Broker 的角色
  48. #- ASYNC_MASTER 异步复制Master
  49. #- SYNC_MASTER 同步双写Master
  50. #- SLAVE
  51. brokerRole=SLAVE
  52. #刷盘方式
  53. #- ASYNC_FLUSH 异步刷盘
  54. #- SYNC_FLUSH 同步刷盘
  55. flushDiskType=ASYNC_FLUSH
  56. #checkTransactionMessageEnable=false
  57. #发消息线程池数量
  58. #sendMessageThreadPoolNums=128
  59. #拉消息线程池数量
  60. #pullMessageThreadPoolNums=128

3)master2

服务器:192.168.25.138

  1. vi /usr/soft/rocketmq/conf/2m-2s-sync/broker-b.properties

修改配置如下:

  1. #所属集群名字
  2. brokerClusterName=rocketmq-cluster
  3. #broker名字,注意此处不同的配置文件填写的不一样
  4. brokerName=broker-b
  5. #0 表示 Master,>0 表示 Slave
  6. brokerId=0
  7. #nameServer地址,分号分割
  8. namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
  9. #在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
  10. defaultTopicQueueNums=4
  11. #是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
  12. autoCreateTopicEnable=true
  13. #是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
  14. autoCreateSubscriptionGroup=true
  15. #Broker 对外服务的监听端口
  16. listenPort=10911
  17. #删除文件时间点,默认凌晨 4点
  18. deleteWhen=04
  19. #文件保留时间,默认 48 小时
  20. fileReservedTime=120
  21. #commitLog每个文件的大小默认1G
  22. mapedFileSizeCommitLog=1073741824
  23. #ConsumeQueue每个文件默认存30W条,根据业务情况调整
  24. mapedFileSizeConsumeQueue=300000
  25. #destroyMapedFileIntervalForcibly=120000
  26. #redeleteHangedFileInterval=120000
  27. #检测物理文件磁盘空间
  28. diskMaxUsedSpaceRatio=88
  29. #存储路径
  30. storePathRootDir=/usr/local/rocketmq/store
  31. #commitLog 存储路径
  32. storePathCommitLog=/usr/local/rocketmq/store/commitlog
  33. #消费队列存储路径存储路径
  34. storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
  35. #消息索引存储路径
  36. storePathIndex=/usr/local/rocketmq/store/index
  37. #checkpoint 文件存储路径
  38. storeCheckpoint=/usr/local/rocketmq/store/checkpoint
  39. #abort 文件存储路径
  40. abortFile=/usr/local/rocketmq/store/abort
  41. #限制的消息大小
  42. maxMessageSize=65536
  43. #flushCommitLogLeastPages=4
  44. #flushConsumeQueueLeastPages=2
  45. #flushCommitLogThoroughInterval=10000
  46. #flushConsumeQueueThoroughInterval=60000
  47. #Broker 的角色
  48. #- ASYNC_MASTER 异步复制Master
  49. #- SYNC_MASTER 同步双写Master
  50. #- SLAVE
  51. brokerRole=SYNC_MASTER
  52. #刷盘方式
  53. #- ASYNC_FLUSH 异步刷盘
  54. #- SYNC_FLUSH 同步刷盘
  55. flushDiskType=SYNC_FLUSH
  56. #checkTransactionMessageEnable=false
  57. #发消息线程池数量
  58. #sendMessageThreadPoolNums=128
  59. #拉消息线程池数量
  60. #pullMessageThreadPoolNums=128

4)slave1

服务器:192.168.25.138

  1. vi /usr/soft/rocketmq/conf/2m-2s-sync/broker-a-s.properties

修改配置如下:

  1. #所属集群名字
  2. brokerClusterName=rocketmq-cluster
  3. #broker名字,注意此处不同的配置文件填写的不一样
  4. brokerName=broker-a
  5. #0 表示 Master,>0 表示 Slave
  6. brokerId=1
  7. #nameServer地址,分号分割
  8. namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
  9. #在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
  10. defaultTopicQueueNums=4
  11. #是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
  12. autoCreateTopicEnable=true
  13. #是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
  14. autoCreateSubscriptionGroup=true
  15. #Broker 对外服务的监听端口
  16. listenPort=11011
  17. #删除文件时间点,默认凌晨 4点
  18. deleteWhen=04
  19. #文件保留时间,默认 48 小时
  20. fileReservedTime=120
  21. #commitLog每个文件的大小默认1G
  22. mapedFileSizeCommitLog=1073741824
  23. #ConsumeQueue每个文件默认存30W条,根据业务情况调整
  24. mapedFileSizeConsumeQueue=300000
  25. #destroyMapedFileIntervalForcibly=120000
  26. #redeleteHangedFileInterval=120000
  27. #检测物理文件磁盘空间
  28. diskMaxUsedSpaceRatio=88
  29. #存储路径
  30. storePathRootDir=/usr/local/rocketmq/store
  31. #commitLog 存储路径
  32. storePathCommitLog=/usr/local/rocketmq/store/commitlog
  33. #消费队列存储路径存储路径
  34. storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
  35. #消息索引存储路径
  36. storePathIndex=/usr/local/rocketmq/store/index
  37. #checkpoint 文件存储路径
  38. storeCheckpoint=/usr/local/rocketmq/store/checkpoint
  39. #abort 文件存储路径
  40. abortFile=/usr/local/rocketmq/store/abort
  41. #限制的消息大小
  42. maxMessageSize=65536
  43. #flushCommitLogLeastPages=4
  44. #flushConsumeQueueLeastPages=2
  45. #flushCommitLogThoroughInterval=10000
  46. #flushConsumeQueueThoroughInterval=60000
  47. #Broker 的角色
  48. #- ASYNC_MASTER 异步复制Master
  49. #- SYNC_MASTER 同步双写Master
  50. #- SLAVE
  51. brokerRole=SLAVE
  52. #刷盘方式
  53. #- ASYNC_FLUSH 异步刷盘
  54. #- SYNC_FLUSH 同步刷盘
  55. flushDiskType=ASYNC_FLUSH
  56. #checkTransactionMessageEnable=false
  57. #发消息线程池数量
  58. #sendMessageThreadPoolNums=128
  59. #拉消息线程池数量
  60. #pullMessageThreadPoolNums=128

3.3.9 修改启动脚本文件

1)runbroker.sh

  1. vi /usr/local/rocketmq/bin/runbroker.sh

需要根据内存大小进行适当的对JVM参数进行调整:

  1. #===================================================
  2. # 开发环境配置 JVM Configuration
  3. JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m"

2)runserver.sh

  1. vim /usr/local/rocketmq/bin/runserver.sh

需要根据内存大小进行适当的对JVM参数进行调整:

  1. JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"

3.3.10 服务启动

1)启动NameServe集群

分别在192.168.25.135和192.168.25.138启动NameServer

  1. cd /usr/local/rocketmq/bin
  2. nohup sh mqnamesrv &

2)启动Broker集群

  • 在192.168.25.135上启动master1和slave2

master1:

  1. cd /usr/local/rocketmq/bin
  2. nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-syncbroker-a.properties &

slave2:

  1. cd /usr/local/rocketmq/bin
  2. nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-sync/broker-b-s.properties &
  • 在192.168.25.138上启动master2和slave2

master2

  1. cd /usr/local/rocketmq/bin
  2. nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-sync/broker-b.properties &

slave1

  1. cd /usr/local/rocketmq/bin
  2. nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-sync/broker-a-s.properties &

3.3.11 查看进程状态

启动后通过JPS查看启动进程
RocketMQ入门 - 图11

3.3.12 查看日志

  1. # 查看nameServer日志
  2. tail -500f ~/logs/rocketmqlogs/namesrv.log
  3. # 查看broker日志
  4. tail -500f ~/logs/rocketmqlogs/broker.log

3.4 集群监控平台搭建

RocketMQ有一个对其扩展的开源项目rocketmq-dashboard,可以使用Docker运行该项目:

  1. docker run -d --name rocketmq-dashboard -e "JAVA_OPTS=-Drocketmq.namesrv.addr=宿主机ip:9876" -p 8080:8080 -t apacherocketmq/rocketmq-dashboard:latest

启动成功后,我们就可以通过浏览器访问http://localhost:8080进入控制台界面了,如下图:
RocketMQ入门 - 图12
集群状态:
RocketMQ入门 - 图13

4. 消息发送样例

  • 导入MQ客户端依赖

    1. <dependency>
    2. <groupId>org.apache.rocketmq</groupId>
    3. <artifactId>rocketmq-client</artifactId>
    4. <version>4.4.0</version>
    5. </dependency>
  • 消息发送者步骤分析

    1. 1.创建消息生产者producer,并制定生产者组名
    2. 2.指定Nameserver地址
    3. 3.启动producer
    4. 4.创建消息对象,指定主题TopicTag和消息体
    5. 5.发送消息
    6. 6.关闭生产者producer
  • 消息消费者步骤分析

    1. 1.创建消费者Consumer,制定消费者组名
    2. 2.指定Nameserver地址
    3. 3.订阅主题TopicTag
    4. 4.设置回调函数,处理消息
    5. 5.启动消费者consumer

    4.1 基本样例

    4.1.1 消息发送

    1)发送同步消息

    这种可靠性同步地发送方式使用的比较广泛,比如:重要的消息通知,短信通知。 ```java import org.apache.rocketmq.client.producer.DefaultMQProducer; import org.apache.rocketmq.client.producer.SendResult; import org.apache.rocketmq.client.producer.SendStatus; import org.apache.rocketmq.common.message.Message;

import java.util.concurrent.TimeUnit;

/**

  • 发送同步消息 */ public class SyncProducer {

    public static void main(String[] args) throws Exception {

    1. //1.创建消息生产者producer,并制定生产者组名
    2. DefaultMQProducer producer = new DefaultMQProducer("group1");
    3. //2.指定Nameserver地址
    4. producer.setNamesrvAddr("127.0.0.1:9876");
    5. //3.启动producer
    6. producer.start();
    7. for (int i = 0; i < 10; i++) {
    8. //4.创建消息对象,指定主题Topic、Tag和消息体
    9. /**
    10. * 参数一:消息主题Topic
    11. * 参数二:消息Tag
    12. * 参数三:消息内容
    13. */
    14. Message msg = new Message("base", "Tag1", ("Hello World" + i).getBytes());
    15. //5.发送消息
    16. SendResult result = producer.send(msg);
    17. //发送状态
    18. SendStatus status = result.getSendStatus();
    19. System.out.println("发送结果:" + result);
    20. //线程睡1秒
    21. TimeUnit.SECONDS.sleep(1);
    22. }
    23. //6.关闭生产者producer
    24. producer.shutdown();

    } } ```

    2)发送异步消息

    异步消息通常用在对响应时间敏感的业务场景,即发送端不能容忍长时间地等待Broker的响应。 ```java import org.apache.rocketmq.client.producer.DefaultMQProducer; import org.apache.rocketmq.client.producer.SendCallback; import org.apache.rocketmq.client.producer.SendResult; import org.apache.rocketmq.common.message.Message;

import java.util.concurrent.TimeUnit;

/**

  • 发送异步消息 */ public class AsyncProducer {

    public static void main(String[] args) throws Exception {

    1. //1.创建消息生产者producer,并制定生产者组名
    2. DefaultMQProducer producer = new DefaultMQProducer("group1");
    3. //2.指定Nameserver地址
    4. producer.setNamesrvAddr("127.0.0.1:9876");
    5. //3.启动producer
    6. producer.start();
    7. for (int i = 0; i < 10; i++) {
    8. //4.创建消息对象,指定主题Topic、Tag和消息体
    9. /**
    10. * 参数一:消息主题Topic
    11. * 参数二:消息Tag
    12. * 参数三:消息内容
    13. */
    14. Message msg = new Message("base", "Tag2", ("Hello World" + i).getBytes());
    15. //5.发送异步消息
    16. producer.send(msg, new SendCallback() {
    17. /**
    18. * 发送成功回调函数
    19. * @param sendResult
    20. */
    21. public void onSuccess(SendResult sendResult) {
    22. System.out.println("发送结果:" + sendResult);
    23. }
    24. /**
    25. * 发送失败回调函数
    26. * @param e
    27. */
    28. public void onException(Throwable e) {
    29. System.out.println("发送异常:" + e);
    30. }
    31. });
    32. //线程睡1秒
    33. TimeUnit.SECONDS.sleep(1);
    34. }
    35. //6.关闭生产者producer
    36. producer.shutdown();

    } } ```

    3)单向发送消息

    这种方式主要用在不特别关心发送结果的场景,例如日志发送。 ```java import org.apache.rocketmq.client.exception.MQBrokerException; import org.apache.rocketmq.client.producer.DefaultMQProducer; import org.apache.rocketmq.common.message.Message;

import java.util.concurrent.TimeUnit;

/**

  • 发送单向消息 */ public class OneWayProducer {

    public static void main(String[] args) throws Exception, MQBrokerException {

    1. //1.创建消息生产者producer,并制定生产者组名
    2. DefaultMQProducer producer = new DefaultMQProducer("group1");
    3. //2.指定Nameserver地址
    4. producer.setNamesrvAddr("127.0.0.1:9876");
    5. //3.启动producer
    6. producer.start();
    7. for (int i = 0; i < 3; i++) {
    8. //4.创建消息对象,指定主题Topic、Tag和消息体
    9. /**
    10. * 参数一:消息主题Topic
    11. * 参数二:消息Tag
    12. * 参数三:消息内容
    13. */
    14. Message msg = new Message("base", "Tag3", ("Hello World,单向消息" + i).getBytes());
    15. //5.发送单向消息
    16. producer.sendOneway(msg);
    17. //线程睡1秒
    18. TimeUnit.SECONDS.sleep(1);
    19. }
    20. //6.关闭生产者producer
    21. producer.shutdown();

    } } ```

    4.1.2 消费消息

    1)负载均衡模式

    消费者采用负载均衡方式消费消息,多个消费者共同消费队列消息,每个消费者处理的消息不同 ```java import org.apache.rocketmq.client.consumer.DefaultMQPushConsumer; import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyContext; import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyStatus; import org.apache.rocketmq.client.consumer.listener.MessageListenerConcurrently; import org.apache.rocketmq.common.message.MessageExt; import org.apache.rocketmq.common.protocol.heartbeat.MessageModel;

import java.util.List;

public class Consumer {

  1. public static void main(String[] args) throws Exception {
  2. //1.创建消费者Consumer,制定消费者组名
  3. DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("group1");
  4. //2.指定Nameserver地址
  5. consumer.setNamesrvAddr("127.0.0.1:9876");
  6. //3.订阅主题Topic和Tag
  7. consumer.subscribe("base", "*");
  8. //设定消费模式:负载均衡(CLUSTERING)|广播模式(BROADCASTING)
  9. consumer.setMessageModel(MessageModel.CLUSTERING);
  10. //4.设置回调函数,处理消息
  11. consumer.registerMessageListener(new MessageListenerConcurrently() {
  12. //接受消息内容
  13. @Override
  14. public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> msgs, ConsumeConcurrentlyContext context) {
  15. for (MessageExt msg : msgs) {
  16. System.out.println("consumeThread=" + Thread.currentThread().getName() + "," + new String(msg.getBody()));
  17. }
  18. return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  19. }
  20. });
  21. //5.启动消费者consumer
  22. consumer.start();
  23. }

}

  1. <a name="X6dHA"></a>
  2. #### 2)广播模式
  3. 消费者采用广播的方式消费消息,每个消费者消费的消息都是相同的(重复消费)
  4. ```java
  5. import org.apache.rocketmq.client.consumer.DefaultMQPushConsumer;
  6. import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyContext;
  7. import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyStatus;
  8. import org.apache.rocketmq.client.consumer.listener.MessageListenerConcurrently;
  9. import org.apache.rocketmq.common.message.MessageExt;
  10. import org.apache.rocketmq.common.protocol.heartbeat.MessageModel;
  11. import java.util.List;
  12. public class Consumer {
  13. public static void main(String[] args) throws Exception {
  14. //1.创建消费者Consumer,制定消费者组名
  15. DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("group1");
  16. //2.指定Nameserver地址
  17. consumer.setNamesrvAddr("127.0.0.1:9876");
  18. //3.订阅主题Topic和Tag
  19. consumer.subscribe("base", "*");
  20. //设定消费模式:负载均衡(CLUSTERING)|广播模式(BROADCASTING)
  21. consumer.setMessageModel(MessageModel.BROADCASTING);
  22. //4.设置回调函数,处理消息
  23. consumer.registerMessageListener(new MessageListenerConcurrently() {
  24. //接受消息内容
  25. @Override
  26. public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> msgs, ConsumeConcurrentlyContext context) {
  27. for (MessageExt msg : msgs) {
  28. System.out.println("consumeThread=" + Thread.currentThread().getName() + "," + new String(msg.getBody()));
  29. }
  30. return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  31. }
  32. });
  33. //5.启动消费者consumer
  34. consumer.start();
  35. }
  36. }

4.2 顺序消息

消息有序指的是可以按照消息的发送顺序来消费(FIFO)。RocketMQ可以严格的保证消息有序,可以分为分区有序或者全局有序。
顺序消费的原理解析,在默认的情况下消息发送会采取Round Robin轮询方式把消息发送到不同的queue(分区队列);而消费消息的时候从多个queue上拉取消息,这种情况发送和消费是不能保证顺序。但是如果控制发送的顺序消息只依次发送到同一个queue中,消费的时候只从这个queue上依次拉取,则就保证了顺序。当发送和消费参与的queue只有一个,则是全局有序;如果多个queue参与,则为分区有序,即相对每个queue,消息都是有序的。
下面用订单进行分区有序的示例。一个订单的顺序流程是:创建、付款、推送、完成。订单号相同的消息会被先后发送到同一个队列中,消费时,同一个OrderId获取到的肯定是同一个队列。

4.2.1 顺序消息生产

  1. import org.apache.rocketmq.client.producer.DefaultMQProducer;
  2. import org.apache.rocketmq.client.producer.MessageQueueSelector;
  3. import org.apache.rocketmq.client.producer.SendResult;
  4. import org.apache.rocketmq.common.message.Message;
  5. import org.apache.rocketmq.common.message.MessageQueue;
  6. import java.util.List;
  7. public class Producer {
  8. public static void main(String[] args) throws Exception {
  9. //1.创建消息生产者producer,并制定生产者组名
  10. DefaultMQProducer producer = new DefaultMQProducer("group1");
  11. //2.指定Nameserver地址
  12. producer.setNamesrvAddr("127.0.0.1:9876");
  13. //3.启动producer
  14. producer.start();
  15. //构建消息集合
  16. List<OrderStep> orderSteps = OrderStep.buildOrders();
  17. //发送消息
  18. for (int i = 0; i < orderSteps.size(); i++) {
  19. String body = orderSteps.get(i) + "";
  20. Message message = new Message("OrderTopic", "Order", "i" + i, body.getBytes());
  21. /**
  22. * 参数一:消息对象
  23. * 参数二:消息队列的选择器
  24. * 参数三:选择队列的业务标识(订单ID)
  25. */
  26. SendResult sendResult = producer.send(message, new MessageQueueSelector() {
  27. /**
  28. * 关键参数:队列选择器,将消息放到指定的队列中,实现顺序消费
  29. * @param mqs:队列集合
  30. * @param msg:消息对象
  31. * @param arg:业务标识的参数
  32. * @return
  33. */
  34. @Override
  35. public MessageQueue select(List<MessageQueue> mqs, Message msg, Object arg) {
  36. long orderId = (long) arg;
  37. long index = orderId % mqs.size();
  38. return mqs.get((int) index);
  39. }
  40. }, orderSteps.get(i).getOrderId());
  41. System.out.println("发送结果:" + sendResult);
  42. }
  43. producer.shutdown();
  44. }
  45. }
  46. /**
  47. * 订单构建者
  48. */
  49. class OrderStep {
  50. private long orderId;
  51. private String desc;
  52. public long getOrderId() {
  53. return orderId;
  54. }
  55. public void setOrderId(long orderId) {
  56. this.orderId = orderId;
  57. }
  58. public String getDesc() {
  59. return desc;
  60. }
  61. public void setDesc(String desc) {
  62. this.desc = desc;
  63. }
  64. @Override
  65. public String toString() {
  66. return "OrderStep{" +
  67. "orderId=" + orderId +
  68. ", desc='" + desc + '\'' +
  69. '}';
  70. }
  71. public static List<OrderStep> buildOrders() {
  72. // 1038L : 创建 付款
  73. // 1039L : 创建 付款 推送 完成
  74. List<OrderStep> orderList = new ArrayList<OrderStep>();
  75. OrderStep orderDemo = new OrderStep();
  76. orderDemo.setOrderId(1039L);
  77. orderDemo.setDesc("创建");
  78. orderList.add(orderDemo);
  79. orderDemo = new OrderStep();
  80. orderDemo.setOrderId(1038L);
  81. orderDemo.setDesc("创建");
  82. orderList.add(orderDemo);
  83. orderDemo = new OrderStep();
  84. orderDemo.setOrderId(1039L);
  85. orderDemo.setDesc("付款");
  86. orderList.add(orderDemo);
  87. orderDemo = new OrderStep();
  88. orderDemo.setOrderId(1038L);
  89. orderDemo.setDesc("付款");
  90. orderList.add(orderDemo);
  91. orderDemo = new OrderStep();
  92. orderDemo.setOrderId(1039L);
  93. orderDemo.setDesc("推送");
  94. orderList.add(orderDemo);
  95. orderDemo = new OrderStep();
  96. orderDemo.setOrderId(1038L);
  97. orderDemo.setDesc("推送");
  98. orderList.add(orderDemo);
  99. orderDemo = new OrderStep();
  100. orderDemo.setOrderId(1039L);
  101. orderDemo.setDesc("完成");
  102. orderList.add(orderDemo);
  103. orderDemo = new OrderStep();
  104. orderDemo.setOrderId(1038L);
  105. orderDemo.setDesc("完成");
  106. orderList.add(orderDemo);
  107. return orderList;
  108. }
  109. }

4.2.2 顺序消费消息

  1. import org.apache.rocketmq.client.consumer.DefaultMQPushConsumer;
  2. import org.apache.rocketmq.client.consumer.listener.ConsumeOrderlyContext;
  3. import org.apache.rocketmq.client.consumer.listener.ConsumeOrderlyStatus;
  4. import org.apache.rocketmq.client.consumer.listener.MessageListenerOrderly;
  5. import org.apache.rocketmq.client.exception.MQClientException;
  6. import org.apache.rocketmq.common.message.MessageExt;
  7. import java.util.List;
  8. public class Consumer {
  9. public static void main(String[] args) throws MQClientException {
  10. //1.创建消费者Consumer,制定消费者组名
  11. DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("group1");
  12. //2.指定Nameserver地址
  13. consumer.setNamesrvAddr("127.0.0.1:9876");
  14. //3.订阅主题Topic和Tag
  15. consumer.subscribe("OrderTopic", "*");
  16. //4.注册消息监听器,使用MessageListenerOrderly实现顺序消费,同一个队列只能由一个线程消费,这样可以保证顺序消费
  17. consumer.registerMessageListener(new MessageListenerOrderly() {
  18. @Override
  19. public ConsumeOrderlyStatus consumeMessage(List<MessageExt> msgs, ConsumeOrderlyContext context) {
  20. for (MessageExt msg : msgs) {
  21. System.out.println("线程名称:【" + Thread.currentThread().getName() + "】:" + new String(msg.getBody()));
  22. }
  23. return ConsumeOrderlyStatus.SUCCESS;
  24. }
  25. });
  26. //5.启动消费者
  27. consumer.start();
  28. System.out.println("消费者启动");
  29. }
  30. }

4.3 延时消息

比如电商里,提交了一个订单就可以发送一个延时消息,1h后去检查这个订单的状态,如果还是未付款就取消订单释放库存。

4.3.1 启动消息消费者

  1. import org.apache.rocketmq.client.consumer.DefaultMQPushConsumer;
  2. import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyContext;
  3. import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyStatus;
  4. import org.apache.rocketmq.client.consumer.listener.MessageListenerConcurrently;
  5. import org.apache.rocketmq.common.message.MessageExt;
  6. import java.util.List;
  7. public class Consumer {
  8. public static void main(String[] args) throws Exception {
  9. //1.创建消费者Consumer,制定消费者组名
  10. DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("group1");
  11. //2.指定Nameserver地址
  12. consumer.setNamesrvAddr("127.0.0.1:9876");
  13. //3.订阅主题Topic和Tag
  14. consumer.subscribe("DelayTopic", "*");
  15. //4.设置回调函数,处理消息
  16. consumer.registerMessageListener(new MessageListenerConcurrently() {
  17. //接受消息内容
  18. @Override
  19. public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> msgs, ConsumeConcurrentlyContext context) {
  20. for (MessageExt msg : msgs) {
  21. System.out.println("消息ID:【" + msg.getMsgId() + "】,延迟时间(秒):" + (System.currentTimeMillis() - msg.getBornTimestamp()) / 1000);
  22. }
  23. return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  24. }
  25. });
  26. //5.启动消费者consumer
  27. consumer.start();
  28. System.out.println("消费者启动");
  29. }
  30. }

4.3.2 发送延时消息

  1. import org.apache.rocketmq.client.exception.MQBrokerException;
  2. import org.apache.rocketmq.client.exception.MQClientException;
  3. import org.apache.rocketmq.client.producer.DefaultMQProducer;
  4. import org.apache.rocketmq.client.producer.SendResult;
  5. import org.apache.rocketmq.client.producer.SendStatus;
  6. import org.apache.rocketmq.common.message.Message;
  7. import org.apache.rocketmq.remoting.exception.RemotingException;
  8. import java.util.concurrent.TimeUnit;
  9. public class Producer {
  10. public static void main(String[] args) throws InterruptedException, RemotingException, MQClientException, MQBrokerException {
  11. //1.创建消息生产者producer,并制定生产者组名
  12. DefaultMQProducer producer = new DefaultMQProducer("group1");
  13. //2.指定Nameserver地址
  14. producer.setNamesrvAddr("127.0.0.1:9876");
  15. //3.启动producer
  16. producer.start();
  17. for (int i = 0; i < 10; i++) {
  18. //4.创建消息对象,指定主题Topic、Tag和消息体
  19. Message msg = new Message("DelayTopic", "Tag1", ("Hello World" + i).getBytes());
  20. //设定延迟时间
  21. msg.setDelayTimeLevel(2);
  22. //5.发送消息
  23. SendResult result = producer.send(msg);
  24. SendStatus status = result.getSendStatus();
  25. System.out.println("发送结果:" + result);
  26. }
  27. //6.关闭生产者producer
  28. producer.shutdown();
  29. }
  30. }

4.3.3 验证

您将会看到消息的消费比存储时间晚n秒

4.3.4 使用限制

  1. // org/apache/rocketmq/store/config/MessageStoreConfig.java
  2. private String messageDelayLevel = "1s 5s 10s 30s 1m 2m 3m 4m 5m 6m 7m 8m 9m 10m 20m 30m 1h 2h";

现在RocketMq并不支持任意时间的延时,需要设置几个固定的延时等级,从1s到2h分别对应着等级1到18

4.4 批量消息

批量发送消息能显著提高传递小消息的性能。限制是这些批量消息应该有相同的topic,相同的waitStoreMsgOK,而且不能是延时消息。此外,这一批消息的总大小不应超过4MB。

4.4.1 发送批量消息

如果您每次只发送不超过4MB的消息,则很容易使用批处理,样例如下:

  1. import org.apache.rocketmq.client.producer.DefaultMQProducer;
  2. import org.apache.rocketmq.client.producer.SendResult;
  3. import org.apache.rocketmq.client.producer.SendStatus;
  4. import org.apache.rocketmq.common.message.Message;
  5. import java.util.ArrayList;
  6. import java.util.List;
  7. import java.util.concurrent.TimeUnit;
  8. public class Producer {
  9. public static void main(String[] args) throws Exception {
  10. //1.创建消息生产者producer,并制定生产者组名
  11. DefaultMQProducer producer = new DefaultMQProducer("group1");
  12. //2.指定Nameserver地址
  13. producer.setNamesrvAddr("127.0.0.1:9876");
  14. //3.启动producer
  15. producer.start();
  16. List<Message> msgs = new ArrayList<Message>();
  17. //4.创建消息对象,指定主题Topic、Tag和消息体
  18. Message msg1 = new Message("BatchTopic", "Tag1", ("Hello World" + 1).getBytes());
  19. Message msg2 = new Message("BatchTopic", "Tag1", ("Hello World" + 2).getBytes());
  20. Message msg3 = new Message("BatchTopic", "Tag1", ("Hello World" + 3).getBytes());
  21. msgs.add(msg1);
  22. msgs.add(msg2);
  23. msgs.add(msg3);
  24. //5.发送消息
  25. SendResult result = producer.send(msgs);
  26. SendStatus status = result.getSendStatus();
  27. System.out.println("发送结果:" + result);
  28. //6.关闭生产者producer
  29. producer.shutdown();
  30. }
  31. }

如果消息的总长度可能大于4MB时,这时候最好把消息进行分割

  1. public class ListSplitter implements Iterator<List<Message>> {
  2. private final int SIZE_LIMIT = 1024 * 1024 * 4;
  3. private final List<Message> messages;
  4. private int currIndex;
  5. public ListSplitter(List<Message> messages) {
  6. this.messages = messages;
  7. }
  8. @Override
  9. public boolean hasNext() {
  10. return currIndex < messages.size();
  11. }
  12. @Override
  13. public List<Message> next() {
  14. int nextIndex = currIndex;
  15. int totalSize = 0;
  16. for (; nextIndex < messages.size(); nextIndex++) {
  17. Message message = messages.get(nextIndex);
  18. int tmpSize = message.getTopic().length() + message.getBody().length;
  19. Map<String, String> properties = message.getProperties();
  20. for (Map.Entry<String, String> entry : properties.entrySet()) {
  21. tmpSize += entry.getKey().length() + entry.getValue().length();
  22. }
  23. tmpSize = tmpSize + 20; // 增加日志的开销20字节
  24. if (tmpSize > SIZE_LIMIT) {
  25. //单个消息超过了最大的限制
  26. //忽略,否则会阻塞分裂的进程
  27. if (nextIndex - currIndex == 0) {
  28. //假如下一个子列表没有元素,则添加这个子列表然后退出循环,否则只是退出循环
  29. nextIndex++;
  30. }
  31. break;
  32. }
  33. if (tmpSize + totalSize > SIZE_LIMIT) {
  34. break;
  35. } else {
  36. totalSize += tmpSize;
  37. }
  38. }
  39. List<Message> subList = messages.subList(currIndex, nextIndex);
  40. currIndex = nextIndex;
  41. return subList;
  42. }
  43. }
  44. //把大的消息分裂成若干个小的消息
  45. ListSplitter splitter = new ListSplitter(messages);
  46. while (splitter.hasNext()) {
  47. try {
  48. List<Message> listItem = splitter.next();
  49. producer.send(listItem);
  50. } catch (Exception e) {
  51. e.printStackTrace();
  52. //处理error
  53. }
  54. }

4.5 过滤消息

在大多数情况下,TAG是一个简单而有用的设计,其可以来选择您想要的消息。例如:

  1. DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("CID_EXAMPLE");
  2. consumer.subscribe("TOPIC", "TAGA || TAGB || TAGC");

消费者将接收包含TAGA或TAGB或TAGC的消息。但是限制是一个消息只能有一个标签,这对于复杂的场景可能不起作用。在这种情况下,可以使用SQL表达式筛选消息。SQL特性可以通过发送消息时的属性来进行计算。在RocketMQ定义的语法下,可以实现一些简单的逻辑。下面是一个例子:

  1. ------------
  2. | message |
  3. |----------| a > 5 AND b = 'abc'
  4. | a = 10 | --------------------> Gotten
  5. | b = 'abc'|
  6. | c = true |
  7. ------------
  8. ------------
  9. | message |
  10. |----------| a > 5 AND b = 'abc'
  11. | a = 1 | --------------------> Missed
  12. | b = 'abc'|
  13. | c = true |
  14. ------------

4.5.1 SQL基本语法

RocketMQ只定义了一些基本语法来支持这个特性。你也可以很容易地扩展它。

  • 数值比较,比如:>,>=,<,<=,BETWEEN,=;
  • 字符比较,比如:=,<>,IN;
  • IS NULL 或者 IS NOT NULL;
  • 逻辑符号 AND,OR,NOT;

常量支持类型为:

  • 数值,比如:123,3.1415;
  • 字符,比如:‘abc’,必须用单引号包裹起来;
  • NULL,特殊的常量
  • 布尔值,TRUEFALSE

只有使用push模式的消费者才能用使用SQL92标准的sql语句,接口如下:

  1. public void subscribe(finalString topic, final MessageSelector messageSelector)

4.5.2 消息生产者

注意要在broker配置文件中开启属性过滤配置功能:

  1. # 开启属性过滤功能
  2. enablePropertyFilter=true

发送消息时,你能通过putUserProperty来设置消息的属性

  1. import org.apache.rocketmq.client.producer.DefaultMQProducer;
  2. import org.apache.rocketmq.client.producer.SendResult;
  3. import org.apache.rocketmq.client.producer.SendStatus;
  4. import org.apache.rocketmq.common.message.Message;
  5. import java.util.concurrent.TimeUnit;
  6. public class Producer {
  7. public static void main(String[] args) throws Exception {
  8. //1.创建消息生产者producer,并制定生产者组名
  9. DefaultMQProducer producer = new DefaultMQProducer("group1");
  10. //2.指定Nameserver地址
  11. producer.setNamesrvAddr("127.0.0.1:9876");
  12. //3.启动producer
  13. producer.start();
  14. for (int i = 0; i < 10; i++) {
  15. //4.创建消息对象,指定主题Topic、Tag和消息体
  16. Message msg = new Message("FilterSQLTopic", "Tag1", ("Hello World" + i).getBytes());
  17. // 设置属性,用于过滤
  18. msg.putUserProperty("i", String.valueOf(i));
  19. //5.发送消息
  20. SendResult result = producer.send(msg);
  21. //发送状态
  22. SendStatus status = result.getSendStatus();
  23. System.out.println("发送结果:" + result);
  24. }
  25. //6.关闭生产者producer
  26. producer.shutdown();
  27. }
  28. }

4.5.3 消息消费者

用MessageSelector.bySql来使用sql筛选消息

  1. import org.apache.rocketmq.client.consumer.DefaultMQPushConsumer;
  2. import org.apache.rocketmq.client.consumer.MessageSelector;
  3. import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyContext;
  4. import org.apache.rocketmq.client.consumer.listener.ConsumeConcurrentlyStatus;
  5. import org.apache.rocketmq.client.consumer.listener.MessageListenerConcurrently;
  6. import org.apache.rocketmq.common.message.MessageExt;
  7. import java.util.List;
  8. public class Consumer {
  9. public static void main(String[] args) throws Exception {
  10. //1.创建消费者Consumer,制定消费者组名
  11. DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("group1");
  12. //2.指定Nameserver地址
  13. consumer.setNamesrvAddr("127.0.0.1:9876");
  14. //3.订阅主题Topic,使用sql过滤功能
  15. consumer.subscribe("FilterSQLTopic", MessageSelector.bySql("i>5"));
  16. //4.设置回调函数,处理消息
  17. consumer.registerMessageListener(new MessageListenerConcurrently() {
  18. //接受消息内容
  19. @Override
  20. public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> msgs, ConsumeConcurrentlyContext context) {
  21. for (MessageExt msg : msgs) {
  22. System.out.println("consumeThread=" + Thread.currentThread().getName() + "," + new String(msg.getBody()));
  23. }
  24. return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
  25. }
  26. });
  27. //5.启动消费者consumer
  28. consumer.start();
  29. System.out.println("消费者启动");
  30. }
  31. }

4.6 事务消息

4.6.1 流程分析

image.png
上图说明了事务消息的大致方案,其中分为两个流程:正常事务消息的发送及提交、事务消息的补偿流程。

1)事务消息发送及提交

(1) 发送消息(half消息)。
(2) 服务端响应消息写入结果。
(3) 根据发送结果执行本地事务(如果写入失败,此时half消息对业务不可见,本地逻辑不执行)。
(4) 根据本地事务状态执行Commit或者Rollback(Commit操作生成消息索引,消息对消费者可见)

2)事务补偿

(1) 对没有Commit/Rollback的事务消息(pending状态的消息),从服务端发起一次“回查”
(2) Producer收到回查消息,检查回查消息对应的本地事务的状态
(3) 根据本地事务状态,重新Commit或者Rollback
其中,补偿阶段用于解决消息Commit或者Rollback发生超时或者失败的情况。

3)事务消息状态

事务消息共有三种状态,提交状态、回滚状态、中间状态:

  • TransactionStatus.CommitTransaction: 提交事务,它允许消费者消费此消息。
  • TransactionStatus.RollbackTransaction: 回滚事务,它代表该消息将被删除,不允许被消费。
  • TransactionStatus.Unknown: 中间状态,它代表需要检查消息队列来确定状态。

    4.6.1 发送事务消息

    1) 创建事务性生产者

    使用 TransactionMQProducer类创建生产者,并指定唯一的 ProducerGroup,就可以设置自定义线程池来处理这些检查请求。执行本地事务后、需要根据执行结果对消息队列进行回复。回传的事务状态在请参考前一节。

    1. public class Producer {
    2. public static void main(String[] args) throws Exception {
    3. // 使用事务生产者
    4. TransactionMQProducer producer = new TransactionMQProducer("group1");
    5. producer.setNamesrvAddr("127.0.0.1:9876");
    6. //添加事务监听器
    7. producer.setTransactionListener(new TransactionListenerImpl());
    8. producer.start();
    9. String[] tags = {"TAGA", "TAGB", "TAGC"};
    10. for (int i = 0; i < 3; i++) {
    11. Message msg = new Message("TransactionTopic", tags[i], ("Hello World" + i).getBytes());
    12. SendResult result = producer.sendMessageInTransaction(msg, null);
    13. SendStatus status = result.getSendStatus();
    14. result.getSendStatus();
    15. System.out.println("发送结果:" + result);
    16. }
    17. }
    18. }

    2)实现事务的监听接口

    当发送半消息成功时,我们使用 executeLocalTransaction 方法来执行本地事务。它返回前一节中提到的三个事务状态之一。checkLocalTranscation 方法用于检查本地事务状态,并回应消息队列的检查请求。它也是返回前一节中提到的三个事务状态之一。

    1. public class TransactionListenerImpl implements TransactionListener {
    2. @Override
    3. public LocalTransactionState executeLocalTransaction(Message msg, Object arg) {
    4. System.out.println("执行本地事务");
    5. if (StringUtils.equals("TagA", msg.getTags())) {
    6. return LocalTransactionState.COMMIT_MESSAGE;
    7. } else if (StringUtils.equals("TagB", msg.getTags())) {
    8. return LocalTransactionState.ROLLBACK_MESSAGE;
    9. } else {
    10. return LocalTransactionState.UNKNOW;
    11. }
    12. }
    13. @Override
    14. public LocalTransactionState checkLocalTransaction(MessageExt msg) {
    15. System.out.println("MQ检查消息Tag【"+msg.getTags()+"】的本地事务执行结果");
    16. return LocalTransactionState.COMMIT_MESSAGE;
    17. }
    18. }

    4.6.2 使用限制

  1. 事务消息不支持延时消息和批量消息。
  2. 为了避免单个消息被检查太多次而导致半队列消息累积,我们默认将单个消息的检查次数限制为 15 次,但是用户可以通过 Broker 配置文件的 transactionCheckMax参数来修改此限制。如果已经检查某条消息超过 N 次的话( N = transactionCheckMax ) 则 Broker 将丢弃此消息,并在默认情况下同时打印错误日志。用户可以通过重写 AbstractTransactionCheckListener 类来修改这个行为。
  3. 事务消息将在 Broker 配置文件中的参数 transactionMsgTimeout 这样的特定时间长度之后被检查。当发送事务消息时,用户还可以通过设置用户属性 CHECK_IMMUNITY_TIME_IN_SECONDS 来改变这个限制,该参数优先于 transactionMsgTimeout 参数。
  4. 事务性消息可能不止一次被检查或消费。
  5. 提交给用户的目标主题消息可能会失败,目前这依日志的记录而定。它的高可用性通过 RocketMQ 本身的高可用性机制来保证,如果希望确保事务消息不丢失、并且事务完整性得到保证,建议使用同步的双重写入机制。
  6. 事务消息的生产者 ID 不能与其他类型消息的生产者 ID 共享。与其他类型的消息不同,事务消息允许反向查询、MQ服务器能通过它们的生产者 ID 查询到消费者。