关于linux:手把手教你搭建-RocketMQ-高可用集群

RocketMQ倒退历史

RocketMQ是一个由阿里巴巴开源的消息中间件， 2012年开源，2017年成为apache顶级我的项目。RocketMQ在阿里外部利用是十分宽泛的，阿里外部的几千个利用都运行在RocketMQ之上，双十一期间须要解决亿万级别的音讯，TPS能够达到几十万。目前反对Java、C/C++，Python、Go四种语言拜访。

RocketMQ当初有两个版本，一个是社区开源版，一个是商业的云服务版（AliwareMQ）。最新版本：4.8.0（本文演示版本）。

它的外围设计借鉴了Kafka，所以咱们在学习RocketMQ的时候，会发现很多和kafka雷同的个性，然而在某些性能上和kafka又有较大的差别，它有以下一些个性：

反对集群模型、负载平衡、程度扩大能力
亿级别音讯沉积能力
采纳零拷贝的原理，程序写盘，随机读
底层通信框架采纳Netty NIO
NameServer代替Zookeeper，实现服务寻址和服务协调
音讯失败重试机制、音讯可查问
强调集群无单点，可扩大，任意一点高可用，程度可扩大
通过屡次双十一的考验

高可用架构

RocketMQ天生对集群的反对十分好，它有以下一些模式：

单Master

长处：除了配置简略没什么长处
毛病：不牢靠，该机器重启或者宕机，将要导致整个服务不可用

多Master

长处：配置简略，性能最高
毛病：可能会有大量音讯失落（配置相干），单台机器重启或宕机期间，该机器下未被生产的音讯在机器复原前不可订阅，影响音讯实时性

多Master多Slave

每个Master配一个Slave，有多对Master-Slave，集群采纳异步复制形式，主备有短暂音讯提早，毫秒级

长处：性能同多Master简直一样，实时性高，主备间切换对利用通明，不需人工干预
毛病：Master宕机或磁盘损坏时会有大量音讯失落

多Master多Slave

每个Master配一个Slave，有多对Master-Slave，集群采纳同步双写形式，主备都写胜利，向利用返回胜利

长处：服务可用性与数据可用性十分高
毛病：性能比异步集群略低，以后版本主宕备不能主动切换为主

二主二从异步集群装置

本文采纳的是二主二从装置模式，即第四种多Master多Slave

端口布局

首先我买了两台云服务器，平时我会用来学习装置一些中间件，比拟不便，大家有条件的话也能够买下，当然也能够通过在本地装置虚拟机的形式来操作。

接下来我要通过这两台服务器来实现二主二从的装置，首先对它们的端口进行一下布局

第一台机器  42.192.77.73#端口布局：9876     NameServer110910    BrokerA-master10921    BrokerB-slave第二台机器  39.103.144.86#端口布局：9876     NameServer210920    BrokerB-master10911    BrokerA-slave

画图看上去更加清晰明了一些

下载

从官网rocketmq.apache.org/进去取得最新的下载地址，红框里标注进去的

这里的地址都能够，下载下来

cd /jackxuwget https://mirror.bit.edu.cn/apache/rocketmq/4.8.0/rocketmq-all-4.8.0-bin-release.zip

下载好后解压，改个名字

unzip rocketmq-all-4.8.0-bin-release.zipmv unzip rocketmq-all-4.8.0-bin-release.zip rocketmq

配置第一台机器

在两台机器上都下载、解压好。在rocketmq/conf目录下，有三种倡议配置模式：

2m-2s-async(2主2从异步) —— 本文采纳这种
2m-2s-sync (2主2从同步)
2m-noslave (2主)

当初须要批改两台机器上2m-2s-async这个目录中的文件。在42.192.77.73机器上批改broker-a.properties

cd /jackxu/rocketmq/conf/2m-2s-asyncvim  broker-a.properties

批改集群名字

brokerClusterName=jackxu-cluster

减少的内容

#Broker 对外服务的监听端口listenPort=10910#是否容许 Broker 主动创立Topic，倡议线下开启，线上敞开autoCreateTopicEnable=true#是否容许 Broker 主动创立订阅组，倡议线下开启，线上敞开autoCreateSubscriptionGroup=true#nameServer地址，分号宰割namesrvAddr=39.103.144.86:9876;42.192.77.73:9876#存储门路storePathRootDir=/jackxu/rocketmq/store/broker-a#commitLog 存储门路storePathCommitLog=/jackxu/rocketmq/store/broker-a/commitlog#生产队列存储门路存储门路storePathConsumeQueue=/jackxu/rocketmq/store/broker-a/consumequeue#音讯索引存储门路storePathIndex=/jackxu/rocketmq/store/broker-a/index#checkpoint 文件存储门路storeCheckpoint=/jackxu/rocketmq/store/checkpoint#abort 文件存储门路abortFile=/jackxu/rocketmq/store/abort

批改broker-b-s.properties

vim  broker-b-s.properties

批改集群名字

brokerClusterName=jackxu-cluster

减少的内容

#Broker 对外服务的监听端口listenPort=10921#是否容许 Broker 主动创立Topic，倡议线下开启，线上敞开autoCreateTopicEnable=true#是否容许 Broker 主动创立订阅组，倡议线下开启，线上敞开autoCreateSubscriptionGroup=true#nameServer地址，分号宰割namesrvAddr=39.103.144.86:9876;42.192.77.73:9876#存储门路storePathRootDir=/jackxu/rocketmq/store/broker-b-s#commitLog 存储门路storePathCommitLog=/jackxu/rocketmq/store/broker-b-s/commitlog#生产队列存储门路存储门路storePathConsumeQueue=/jackxu/rocketmq/store/broker-b-s/consumequeue#音讯索引存储门路storePathIndex=/jackxu/rocketmq/store/broker-b-s/index#checkpoint 文件存储门路storeCheckpoint=/jackxu/rocketmq/store/checkpoint#abort 文件存储门路abortFile=/jackxu/rocketmq/store/abort

配置第二台机器

在39.103.144.86机器上批改broker-b.properties

cd /jackxu/rocketmq/conf/2m-2s-asyncvim  broker-b.properties

批改集群名字

brokerClusterName=jackxu-cluster

减少的内容

#Broker 对外服务的监听端口listenPort=10920#是否容许 Broker 主动创立Topic，倡议线下开启，线上敞开autoCreateTopicEnable=true#是否容许 Broker 主动创立订阅组，倡议线下开启，线上敞开autoCreateSubscriptionGroup=true#nameServer地址，分号宰割namesrvAddr=39.103.144.86:9876;42.192.77.73:9876#存储门路storePathRootDir=/jackxu/rocketmq/store/broker-b#commitLog 存储门路storePathCommitLog=/jackxu/rocketmq/store/broker-b/commitlog#生产队列存储门路存储门路storePathConsumeQueue=/jackxu/rocketmq/store/broker-b/consumequeue#音讯索引存储门路storePathIndex=/jackxu/rocketmq/store/broker-b/index#checkpoint 文件存储门路storeCheckpoint=/jackxu/rocketmq/store/checkpoint#abort 文件存储门路abortFile=/jackxu/rocketmq/store/abort

批改broker-a-s.properties

vim  broker-a-s.properties

批改集群名字

brokerClusterName=jackxu-cluster

减少的内容

#Broker 对外服务的监听端口listenPort=10911#是否容许 Broker 主动创立Topic，倡议线下开启，线上敞开autoCreateTopicEnable=true#是否容许 Broker 主动创立订阅组，倡议线下开启，线上敞开autoCreateSubscriptionGroup=true#nameServer地址，分号宰割namesrvAddr=39.103.144.86:9876;42.192.77.73:9876#存储门路storePathRootDir=/jackxu/rocketmq/store/broker-a-s#commitLog 存储门路storePathCommitLog=/jackxu/rocketmq/store/broker-a-s/commitlog#生产队列存储门路存储门路storePathConsumeQueue=/jackxu/rocketmq/store/broker-a-s/consumequeue#音讯索引存储门路storePathIndex=/jackxu/rocketmq/store/broker-a-s/index#checkpoint 文件存储门路storeCheckpoint=/jackxu/rocketmq/store/checkpoint#abort 文件存储门路abortFile=/jackxu/rocketmq/store/abort

创立数据目录

第一台机器42.192.77.73执行，只须要执行一次

mkdir -p /jackxu/rocketmq/store/broker-a /jackxu/rocketmq/store/broker-a/consumequeue /jackxu/rocketmq/store/broker-a/commitlog /jackxu/rocketmq/store/broker-a/index /jackxu/rocketmq/logs /jackxu/rocketmq/store/broker-b-s /jackxu/rocketmq/store/broker-b-s/consumequeue /jackxu/rocketmq/store/broker-b-s/commitlog /jackxu/rocketmq/store/broker-b-s/index

第二台机器39.103.144.86执行，只须要执行一次

mkdir -p /jackxu/rocketmq/store/broker-a-s /jackxu/rocketmq/store/broker-a-s/consumequeue /jackxu/rocketmq/store/broker-a-s/commitlog /jackxu/rocketmq/store/broker-a-s/index /jackxu/rocketmq/logs /jackxu/rocketmq/store/broker-b /jackxu/rocketmq/store/broker-b/consumequeue /jackxu/rocketmq/store/broker-b/commitlog /jackxu/rocketmq/store/broker-b/index

启动两个NameServer

在两台机器别离执行，& 示意在后盾运行，默认状况下，nameserver监听的是9876端口

nohup sh /jackxu/rocketmq/bin/mqnamesrv >/jackxu/rocketmq/logs/mqnamesrv.log 2>&1 &

查看日志

tail -f /jackxu/rocketmq/logs/mqnamesrv.log

启动Broker

启动的时候依照上面的程序来，-c 是指定broker的配置文件

1、启动73的A主

nohup sh /jackxu/rocketmq/bin/mqbroker -c /jackxu/rocketmq/conf/2m-2s-async/broker-a.properties > /jackxu/rocketmq/logs/broker-a.log 2>&1 &

2、启动86的A从

nohup sh /jackxu/rocketmq/bin/mqbroker -c /jackxu/rocketmq/conf/2m-2s-async/broker-a-s.properties > /jackxu/rocketmq/logs/broker-a-s.log 2>&1 &

3、启动86的B主

nohup sh /jackxu/rocketmq/bin/mqbroker -c /jackxu/rocketmq/conf/2m-2s-async/broker-b.properties > /jackxu/rocketmq/logs/broker-b.log 2>&1 &

4、启动73的B从

nohup sh /jackxu/rocketmq/bin/mqbroker -c /jackxu/rocketmq/conf/2m-2s-async/broker-b-s.properties > /jackxu/rocketmq/logs/broker-b-s.log 2>&1 &

查看日志

tail -f /jackxu/rocketmq/conf/2m-2s-async/broker-a.propertiestail -f /jackxu/rocketmq/conf/2m-2s-async/broker-a-s.propertiestail -f /jackxu/rocketmq/conf/2m-2s-async/broker-b.propertiestail -f /jackxu/rocketmq/conf/2m-2s-async/broker-b-s.properties

查看是否启动胜利

输出jps命令，一共四个过程没问题

然而大多数状况下不会这么顺利，我在装置中有一些坑点：

1、没有装置jdk，因为这是我新的服务器，下面是没有jdk环境的，大家晓得rocketmq是用java写的，所以须要有java环境能力运行，包含jps命令就是查看java过程

2、内存不足，因为默认的配置文件设置了很大的内存，然而我的机器只有1核2G，必定是不够的，所以在启动的时候会报内存不足

解决办法就是批改配置文件

vim /jackxu/rocketmq/bin/runserver.shvim /jackxu/rocketmq/bin/runbroker.sh

把NameServer和Broker的内存大小都改小一点，而后重新启动即可

敞开命令

进行服务的时候须要留神，要先进行broker，其次进行nameserver。

cd /jackxu/rocketmq/binsh mqshutdown namesrvsh mqshutdown broker

web控制台装置

与kafka不同的是，rocket官网提供了一个可视化控制台，大家能够在这里下载

https://github.com/apache/rocketmq-externals

这个是rocketmq的扩大，外面不仅蕴含控制台的扩大，也蕴含对大数据flume、hbase等组件的对接和扩大。

下载

下载源码，个别下载速度会比较慢，等不及的话能够去网盘下载链接：

cd /jackxuwget https://github.com/apache/rocketmq-externals/archive/master.zip

解压

unzip master.zip

批改配置文件

cd /jackxu/rocketmq-externals-master/rocketmq-console/src/main/resourcesvim application.properties#这是一个spring boot我的项目，咱们须要批改外面的参数#批改端口号：server.port=7298#批改name server地址（多个地址用英文分号隔开）rocketmq.config.namesrvAddr=39.103.144.86:9876;42.192.77.73:9876

打包

打成一个jar包，这里须要先装置maven，编译慢的话能够替换成淘宝的镜像

cd /jackxu/rocketmq-externals-master/rocketmq-consolemvn clean package -Dmaven.test.skip=true

启动jar包

cd targetjava -jar rocketmq-console-ng-2.0.0.jar

拜访

拜访一下 http://42.192.77.73:7298/ ，能够看到都曾经启动胜利了

踩坑点

这里有两个踩坑点，在启动的时候会报错

（1）spring boot启动的时候报连贯不上39.103.144.86:9876;42.192.77.73:9876，这里我的第一反馈是防火墙的起因，敞开一下

systemctl disable firewalld.service

再次启动还是不行，而后我的第二个反馈是端口没有凋谢，telnet一下

telnet 42.192.77.73 9876

果然telnet不通，起因是这样的，我装置在云服务器上，默认端口是不凋谢的，须要到控制台关上，这也算是一个教训吧。

（2）再次启动的时候又报了另一个谬误，连贯不上172.26.182.88:9876，过后我就奇怪了，我写的地址里没有这个地址啊，怎么在连贯它，而且这个IP看上去又像是内网地址，起初我关上阿里云控制台一看，果然是这台机器的内网地址，而后我又百度了一番，大略起因就是RocketMQ是阿里开源的，而那台机器又是阿里云的机器，它的源码里应该是优先连贯到阿里云的内网地址，网上的做法是在配置文件外面显式的加上公网地址即可解决。

#新增公网IPbrokerIP1=39.103.144.86

控制台介绍

运维：次要是设置nameserver和配置vipchannel。
驾驶舱：控制台的dashboard，能够别离按broker和主题来查看音讯的数量和趋势。
集群：整个RocketMQ的集群状况，包含分片，编号，地址，版本，音讯生产和音讯生产的TPS等，这个在做性能测试的时候能够作为数据指标。
主题：即topic，能够新增/更新topic，也能够查看topic的信息，如状态，路由，消费者治理和发送音讯等。
消费者：能够在以后broker中查看/新建消费者group，包含消费者信息和生产进度。
生产者：能够在以后broker中查看生产组下的生产者group，包含生产者信息和生产者状态。
音讯：能够依照topic，messageID，messageKey别离查问具体的音讯。
用户核心：切换语言和登录相干（登录须要在console的配置中关上对应配置，默认不须要登录）。

其中最罕用的是集群，主题，消费者和音讯这四局部。

配置文件阐明

上面介绍一下装置RocketMQ配置文件外面的属性首先是集群名字雷同，下面四台机器的集群名字都叫 brokerClusterName=jackxu-cluster，其次是连贯到雷同的NameServer，namesrvAddr=39.103.144.86:9876;42.192.77.73:9876。在配置文件中brokerId=0代表master，brokerId=1代表slave。

在配置文件中还有这两个属性

brokerRole在master broker能够配置成SYNC_MASTER或者ASYNC_MASTER，在slave broker对立配置成SLAVE

流程图

咱们举荐的配置是异步刷盘+同步复制。

HA与故障转移

在之前的版本中，RocketMQ只有master/slave一种部署形式，一组broker中有一个master，有0到多个slave，这种模式下提供了肯定的高可用性。

master在挂了的状况下，slave依然能够提供读服务。默认状况下，读写都在master上，如果开启了slaveReadEnable=true，slave也能够参加读负载，然而是在master积压的音讯超过了物理内存的40%，才会默认转向brokerId为1的从服务器读取，具体转向哪台机器由whichBrokerWhenConsumeSlowly参数管制。

org.apache.rocketmq.common.subscription.SubscriptionGroupConfigprivate long whichBrokerWhenConsumeSlowly=1;

因为是多主的存在，当一个master挂了当前，能够写到其余的master上。

RocketMQ 2019年3月公布的4.5.0版本中，利用Dledger技术解决了主动选主的问题。Dledger就是一个基于raft协定的commitlog存储库，也是RocketMQ实现新的高可用多正本架构的要害。它的长处是不须要引入内部组件，主动选主逻辑集成到各个节点的过程中，节点之间通过通信就能够实现选主。

架构图

在这种状况下，commitlog是Dledger治理的，具备选主的性能。默认是不开启，如果须要开启，须要在配置文件外面增加以下配置：

 # 是否启用DLedger    enableDLegerCommitLog=true    # DLedger Raft Group的名字    dLegerGroup=broker-a    # DLedger Group内各节点的地址和端口，至多须要3个节点    dLegerPeers=n0-192.168.44.163:10911;n1-192.168.44.164:10911;n2-192.168.44.165:10911    # 本节点id    dLegerSelfId=n0

结语

小伙伴在学习一个中间件的时候肯定要入手实际装置，首先是体验一下装置的过程气氛，理解一些参数配置，尽管咱们平时可能接触不到，然而学习还是须要的，不肯定须要精，至多是要会。

起源：jack_xu | https://juejin.cn/post/692950...