RabbitMQ
的是基于Erlang
语言编写,而Erlang
又是一个面向并发的语言,天然支持集群模式。RabbitMQ
的集群有两
种模式:
镜像集群虽然支持主从,但主从同步并不是强一致的,某些情况下可能有数据丢失
的风险。因此在RabbitMQ
的3.8
版本
以后,推出了新的功能——仲裁队列来代替镜像集群,底层采用Raft
协议确保主从的数据一致性。
建立如下文件夹结构
./cluster/
├── docker-compose.yml
├── mq1
│ ├── .erlang.cookie
│ └── conf
│ └── rabbitmq.conf
├── mq2
│ ├── .erlang.cookie
│ └── conf
│ └── rabbitmq.conf
└── mq3
├── .erlang.cookie
└── conf
└── rabbitmq.conf
rabbitmq.conf
都写入以下内容
loopback_users.guest = false
listeners.tcp.default = 5672
cluster_formation.peer_discovery_backend = rabbit_peer_discovery_classic_config
cluster_formation.classic_config.nodes.1 = rabbit@mq1
cluster_formation.classic_config.nodes.2 = rabbit@mq2
cluster_formation.classic_config.nodes.3 = rabbit@mq3
vm_memory_high_watermark.absolute = 524288000
.erlang.cookie
都写入以下内容
SUGWXEQPRCPYJAVYPNZY
集群的所有节点的.erlang.cookie
需要保持一致才能互相信任,具体内容并不固定,可以随便新建一个rabbitmq
容器去查看其.erlang.cookie
然后复制使用即可。
docker-compose.yml写入以下内容
version: "3.8"
networks:
rabbitmq-normal-cluster:
driver: bridge
ipam:
driver: default
config:
- subnet: 172.30.3.0/24
services:
mq1:
container_name: mq1
hostname: mq1
image: rabbitmq:3-management
environment:
- RABBITMQ_DEFAULT_USER=rabbitmq
- RABBITMQ_DEFAULT_PASS=rabbitmq
volumes:
- ./mq1/conf/rabbitmq.conf:/etc/rabbitmq/rabbitmq.conf
- ./mq1/.erlang.cookie:/var/lib/rabbitmq/.erlang.cookie:ro
ports:
- "8071:5672"
- "8081:15672"
networks:
rabbitmq-normal-cluster:
ipv4_address: 172.30.3.11
mq2:
container_name: mq2
hostname: mq2
image: rabbitmq:3-management
environment:
- RABBITMQ_DEFAULT_USER=rabbitmq
- RABBITMQ_DEFAULT_PASS=rabbitmq
volumes:
- ./mq2/conf/rabbitmq.conf:/etc/rabbitmq/rabbitmq.conf
- ./mq2/.erlang.cookie:/var/lib/rabbitmq/.erlang.cookie:ro
ports:
- "8072:5672"
- "8082:15672"
networks:
rabbitmq-normal-cluster:
ipv4_address: 172.30.3.12
mq3:
container_name: mq3
hostname: mq3
image: rabbitmq:3-management
environment:
- RABBITMQ_DEFAULT_USER=rabbitmq
- RABBITMQ_DEFAULT_PASS=rabbitmq
volumes:
- ./mq3/conf/rabbitmq.conf:/etc/rabbitmq/rabbitmq.conf
- ./mq3/.erlang.cookie:/var/lib/rabbitmq/.erlang.cookie:ro
ports:
- "8073:5672"
- "8083:15672"
networks:
rabbitmq-normal-cluster:
ipv4_address: 172.30.3.13
docker-compose -p rabbitmq-c up -d
镜像模式的配置有3种模式:
ha-mode | ha-params | 效果 |
---|---|---|
准确模式exactly | 队列的副本量count | 集群中队列副本(主服务器和镜像服务器之和)的数量。count 如果为1意味着单个副本:即队列主节点。count 值为2表示2个副本:1个队列主和1个队列镜像。换句话说:count = 镜像数量 + 1。如果群集中的节点数少于count ,则该队列将镜像到所有节点。如果有集群总数大于count +1,并且包含镜像的节点出现故障,则将在另一个节点上创建一个新的镜像。 |
all | (none ) | 队列在群集中的所有节点之间进行镜像。队列将镜像到任何新加入的节点。镜像到所有节点将对所有群集节点施加额外的压力,包括网络I / O,磁盘I / O和磁盘空间使用情况。推荐使用exactly ,设置副本数为(N / 2 +1)。 |
nodes | node names | 指定队列创建到哪些节点,如果指定的节点全部不存在,则会出现异常。如果指定的节点在集群中存在,但是暂时不可用,会创建节点到当前客户端连接到的节点。 |
三种模式启动方式分别如下,基于普通集群之上,命令均需要在单个容器内部执行。
rabbitmqctl set_policy ha-two "^two\." '{"ha-mode":"exactly","ha-params":2,"ha-sync-mode":"automatic"}'
rabbitmqctl set_policy ha-all "^all\." '{"ha-mode":"all"}'
rabbitmqctl set_policy ha-nodes "^nodes\." '{"ha-mode":"nodes","ha-params":["rabbit@nodeA", "rabbit@nodeB"]}'
这里以exactly
为例,在mq1中执行rabbitmqctl set_policy ha-two "^two\." '{"ha-mode":"exactly","ha-params":2,"ha-sync-mode":"automatic"}'
后,所有前缀为two
的queue
都会有1个主queue和1个副本。
root@mq1:/# rabbitmqctl set_policy ha-two "^two\." '{"ha-mode":"exactly","ha-params":2,"ha-sync-mode":"automatic"}'
Setting policy "ha-two" for pattern "^two\." to "{"ha-mode":"exactly","ha-params":2,"ha-sync-mode":"automatic"}" with priority "0" for vhost "/" ...
root@mq1:/#
来到localhost:8081
管理页,找到admin->policies可以看到策略生效。
来新建一个two.test.queue
,可以看到这是一个拥有副本的queue
。
仲裁队列:仲裁队列是3.8版本以后才有的新功能,用来替代镜像队列,具备下列特征:
Raft
协议,强一致上一章中想要一个镜像队列还要执行各种命令,遵循规定,现在不用了。
java
使用目前只能基于@Bean
创建
@Bean
public Queue quorumQueue(){
return QueueBuilder
.durable("quorum.queue2")
.quorum()
.build();
}
Java
使用RabbitMQ
集群application.yml
中需要修改address
spring:
rabbitmq:
host: localhost # rabbitMQ的ip地址
port: 5672 # 端口
spring:
rabbitmq:
addresses: localhost:8071, localhost:8072, localhost:8073