关于云计算:MongoDB复制集集群原理详解及部署

参考文献：https://docs.mongodb.com/manu...

复制集介绍

MongoDB中的复制集(也被称为正本)是一组保护雷同数据集的mongod过程。正本集提供冗余性及和高可用，是所有生产部署的根底。
简略来说，复制集有多台MongoDB组成的一个集群，集群中有一个主节点(Primary)和N个正本节点(Secondary)等，它们有雷同的数据库，如果主MongoDB服务器或者MongoDB实例Down机之后，其它的正本服务器能够持续提供服务，实现数据的高可用及可靠性。

复制集群架构

术语介绍：

术语	类型	形容
Primary	主节点	负责整个集群的读写操作，蕴含了所有扭转操作的日志
Secondary	备节点	同步主服务器所有的数据，负责集群的读取申请，主服务器宕机能够称为主节点
Arbiter	仲裁者	在主节点宕机后只进行投票，不参加选举，不同步主节点数据

此架构由一个Primary节点和两个Secondary节点组成

1）Primary节点为主节点，所有的写操作或者更改操作都只能从Primary节点中操作(复制集内的所有成员都能够接管读操作，然而，默认状况下，应用程序将其读操作指向主成员)，主节点上所有的更改及写操作都会记录到oplog日志中。

2）两台Secondary节点复制Primary节点的oplog日志，通过异步的形式去执行oplog日志中的记录来和Primary节点达到数据一致性。

3）oplog作用次要是记录主节点的写入操作，充当复制源。

4）如果Primary节点无端Down机之后，复制集集群会通过投票机制在两台Secondary中选举一台降级为Primary节点。

投票选举机制

MongoDB节点之间保护心跳查看，主节点选举由心跳触发。

心跳查看
MongoDB复制集成员会向本人之外的所有成员发送心跳并解决响应信息，因而每个节点都保护着该节点看到的其它所有节点的状态信息，节点依据本人的集群状态判断是否须要更新新的Primary。
在实现的时候次要由两个异步的过程别离解决心跳响应和超时，每个复制集成员都会在后盾运行与复制集所有节点的心跳线程，在以下几种状况下会触发状态检测过程：

Secondary节点权重(Priority)比Primary节点高时，发动替换选举；
Secondary节点发现集群中没有Primary时，发动选举；
Primary节点不能拜访到大部分成员时被动降级，降级操作会断开连接，终止用户申请等；
复制集成员心跳检测后果发生变化，比方某个节点挂了或者新增节点，发动从新投票选举规定；
超过4s没有执行状态检测过程，发动替换选举；

选举发动
发动选举的节点首先须要做一些条件判断，保护主节点的有N个备用节点，备用节点中的所有节点都可能被选举成为主节点，成为主节点前每个备节点都会检测本身以及全局条件是否满足，检测条件如下：

是否看见复制集中是否有Majority在线
本身Priority是否大于0
本身不为arbiter
本身opTime不能落后于最新节点10s以上
本身存储的集群程序按信息为最新

如果所有条件满足，则将本身增加到主节点的备用列表中，否则，将本身从列表中移除

本身检测

MongoDB选举须要取得大多数投票能力通过，如果没有节点投反对票，且取得成票数超过有权投票节点总数的1/2，则能成为Primary。否则进入下一轮选举。为防止陷入有限反复选举，MongoDB倡议复制集的成员个数为奇数，当Secondary为单数时，能够减少一个Arbiter节点。
选举过程中，复制集没有主节点，所有成员都是只读状态
选举过程很简单，个别状况下须要5s左右进行选主。
如果新抉择的主节点立即挂掉，至多须要30s工夫从新选主。

大多数的定义
　假如复制集内投票成员数量为N，则大多数 = N/2 + 1 ，当复制集内存活成员数量有余大多数时，整个复制集将无奈选举出Primary，复制集将无奈提供写服务，处于只读状态。
　咱们依照下面的架构来举例，三台MongoDB，一台Primary，两台Secondary，主节点挂了之后，只有两台Secondary能够投票，依据公式咱们来算 “2/2 + 1 = 2”，也就是算大多数等于2，然而当复制集内存活的成员数量有余大多数时，咱们的大多数为2，集群成员也为2，所以这两台集群成员会发动选举投票机制，如果两台Secondary节点本身条件都满足的状况下，则先发动选举节点的成员成为Primary节点
　

投票成员数	大多数	容忍生效数
1	1	0
2	2	0
3	2	1
4	3	1
5	3	2
6	4	2
7	4	3

复制集群成员阐明

Secondary
失常状况下，复制集的Seconary会参加Primary选举（本身也可能会被选为Primary），并从Primary同步最新写入的数据，以保障与Primary存储雷同的数据。Secondary能够提供读服务，减少Secondary节点能够提供复制集的读服务能力，同时晋升复制集的可用性。另外，Mongodb反对对复制集的Secondary节点进行灵便的配置，以适应多种场景的需要。

Arbiter
Arbiter节点只参加投票，不能被选为Primary，并且不从Primary同步数据。比方你部署了一个2个节点的复制集，1个Primary，1个Secondary，任意节点宕机，复制集将不能提供服务了（无奈选出Primary），这时能够给复制集增加一个Arbiter节点，即便有节点宕机，仍能选出Primary。Arbiter自身不存储数据，是十分轻量级的服务，当复制集成员为偶数时，最好退出一个Arbiter节点，以晋升复制集可用性。

Priority0
Priority0节点的选举优先级为0，不会被选举为Primary。比方你跨机房A、B部署了一个复制集，并且想指定Primary必须在A机房，这时能够将B机房的复制集成员Priority设置为0，这样Primary就肯定会是A机房的成员。（留神：如果这样部署，最好将『大多数』节点部署在A机房，否则网络分区时可能无奈选出Primary）

Vote0
Mongodb 3.0里，复制集成员最多50个，参加Primary选举投票的成员最多7个，其余成员（Vote0）的vote属性必须设置为0，即不参加投票。

Hidden
Hidden节点不能被选为主（Priority为0），并且对Driver不可见。因Hidden节点不会承受Driver的申请，可应用Hidden节点做一些数据备份、离线计算的工作，不会影响复制集的服务。

Delayed
Delayed节点必须是Hidden节点，并且其数据落后与Primary一段时间（可配置，比方1个小时）。因Delayed节点的数据比Primary落后一段时间，当谬误或者有效的数据写入Primary时，可通过Delayed节点的数据来复原到之前的工夫点。

优先级为0复制集成员

此架构由一个Primary节点和两个Secondary节点组成

1）此架构由一台Primary主节点和两台Secondary备节点组成，其原理就是主从复制架构的原理，两台Secondary节点同样通过oplog日志来与Primary主节点达成数据统一

2）与其不同的是在Data Center2节点上的Secondary备用节点的实例优先级priority为0，则不参加选举，也不可能会成为Primary节点，将其优先级配置为0，次要是避免它成为主节点，这在多数据中心的部署特地有用。

3）优先级值范畴为 0-100(0示意不参加选举)，在复制集群中，优先级高的优先成为主节点，如果咱们原来集群中有三台节点，主节点优先级为2，其它两台备节点优先级为1，当咱们新退出到集群一台MongoDB实例，给它优先级设置为4，则该实例在退出集群后就会主动争夺Primary到本机。

仲裁节点架构

上图中，三个成员组成复制集群

一个主库：负责整个集群的所有写、更改操作

一个从库：通过oplog日志来与主节点数据达成统一

一个Airbiter节点，在选举中，只进行投票，不能成为主库，而且不复制Primary的任何数据，因而这个架构中只能提供一个实现的正本Secondary，Arbiter只须要很少的资源，代价是无限的冗余和容错，当Primary节点故障后，Aribiter将票数头给Secondary，使其成为Primary节点，如果Primary节点再次故障后，集群将不可用，Arbiter节点也未存储任何数据。

集群中还有其它的节点成员，然而咱们用的比拟少，所以此文章中没有提到。
能够自行查阅官网文档：https://docs.mongodb.com/manu...

复制集集群环境部署

环境阐明

本次应用一台设施多实例进行，如果你筹备在多台设施上部署，你须要思考的如下：
1）时钟是否统一
2）网络是否通顺
3）SElinux是否敞开或者策略放通
4）环境是否统一

[root@MongoDB ~]# lsb_release -aLSB Version:    :core-4.1-amd64:core-4.1-noarch:cxx-4.1-amd64:cxx-4.1-noarch:desktop-4.1-amd64:desktop-4.1-noarch:languages-4.1-amd64:languages-4.1-noarch:printing-4.1-amd64:printing-4.1-noarchDistributor ID:    CentOSDescription:    CentOS Linux release 7.6.1810 (Core) Release:    7.6.1810Codename:    Core[root@MongoDB ~]# hostname -I10.211.55.12 192.168.0.100 fdb2:2c26:f4e4:0:21c:42ff:fedf:4d85

后期筹备

#创立用户组useradd mongodecho 'abcdef' | passwd --stdin mongod#下载MongoDBwget https://fastdl.mongodb.org/linux/mongodb-linux-x86_64-rhel70-4.2.0.tgz#增加文件关上数和mongod用户过程连接数cat >> /etc/security/limits.conf << EOF* soft nofile 65536* hard nofile 65536mongod soft nproc 32768mongod hard nproc 32768EOF #使上面两个文件批改为neverecho never > /sys/kernel/mm/transparent_hugepage/enabledecho never > /sys/kernel/mm/transparent_hugepage/defrag#开机主动批改cat >> /etc/rc.local << EOFif test -f /sys/kernel/mm/transparent_hugepage/enabled;then    echo never > /sys/kernel/mm/transparent_hugepage/enabledfiif test -f /sys/kernel/mm/transparent_hugepage/defrag;then    echo never > /sys/kernel/mm/transparent_hugepage/defragfiEOF此步骤实现后#官网给出MongoDB须要以下两个库的依赖yum install libcurl openssl -y#解压并复制程序文件到bin目录mkdir /usr/local/mongodbtar xf mongodb-linux-x86_64-rhel70-4.2.0.tgzcp -rf mongodb-linux-x86_64-rhel70-4.2.0/bin/ /usr/local/mongodb/chown -Rf mongod.mongod /usr/local/moongodb/#添加程序环境cat >> /etc/profile << EOFexport MONGODB_HOME=/usr/local/mongodbexport PATH=\$MONGODB/bin:\$PATHEOFsource /etc/profile

环境配置

1）接下来应用mongod用户来操作

su mongod

2）创立文件目录

#!/bin/bashfor i in 27017 27018 27019    do    mkdir -p /usr/local/mongodb/$i/{conf,data,logs,run}done

配置文件

编辑一台配置文件，而后复制到其它实例，配置文件为yaml语法
对于以下配置文件详解，请参考：”https://abcops.cn/mongodb-conf/“

cat > mongod.conf << EOFsystemLog:  destination: file  path: /usr/local/mongodb/27017/logs/mongodb.log  logAppend: true  verbosity: 0  logRotate: renamestorage:  journal:    enabled: true  dbPath: /usr/local/mongodb/27017/data  directoryPerDB: true  engine: wiredTiger  wiredTiger:    engineConfig:      cacheSizeGB: 1      directoryForIndexes: true      journalCompressor: zlib    collectionConfig:      blockCompressor: zlib    indexConfig:      prefixCompression: trueprocessManagement:  fork: true  pidFilePath: /usr/local/mongodb/27017/run/mongod.pidnet:  port: 27017  bindIp: 10.211.55.12  maxIncomingConnections: 65536  wireObjectCheck: true  ipv6: falsereplication:  oplogSizeMB: 4096  replSetName: abcops_replsetParameter:  connPoolMaxShardedConnsPerHost: 200  connPoolMaxConnsPerHost: 200EOF

复制配置文件到目录中，并批改其端口及目录地位

#!/bin/bashfor i in 27017 27018 27019    do        \cp /home/mongod/mongod.conf /usr/local/mongodb/$i/conf        sed -i "s/27017/$i/g" /usr/local/mongodb/$i/conf/mongod.confdone

启动MongoDB实例

启动脚本如下

#!/bin/bashfor i in 27017 27018 27019    do        /usr/local/mongodb/bin/mongod -f /usr/local/mongodb/$i/conf/mongod.confdone

敞开脚本如下

#!/bin/bashfor i in 27017 27018 27019    do        /usr/local/mongodb/bin/mongod --shutdown -f /usr/local/mongodb/$i/conf/mongod.confdone

三个实例启动后，不代表复制集曾经搭建胜利了，还须要进行复制集初始化

配置复制集

连贯任何一个实例都能够进行配置

这是我连贯27017的实例/usr/local/mongodb/bin/mongo --host 10.211.55.12 --port 27017

> use admin> config={_id:'abcops_repl',members:[{_id: 0, host: '10.211.55.12:27017',priority:2},{_id: 1, host: '10.211.55.12:27018',priority:1},{_id: 2, host: '10.211.55.12:27019',arbiterOnly:true},    ]}> rs.initiate(config)#以上参数解析use admin：进入admin数据库config：配置复制集_id:'abcops_repl'：指定复制集组名称，与配置文件中的 replSetName 参数须要保持一致members：规定的函数，不能更改_id：设置组成员的ID编号，能够自定义，我这里为 0、1、2host：指定退出复制集成员的IP地址及端口，咱们在配置文件中指定了bindIp为10.211.55.12，这里就不能写127.0.0.1,必须写为bind_Ip指定的地址priority：指定优先级0-100，优先级最高的成为Primary节点，优先级为可选选项，如果不指定默认都为1arbiterOnly：是否开启仲裁节点true/falsers.initiate(config)：初始化复制集配置

以上参数图示如下，给你提供下参照

图中开始为SECONDARY,代表复制集集群正在进行选举Primary节点，大略5s左右，依据选举机制选举胜利后，成为主节点的SECONDARY状态变为PRIMARY

复制集常用命令

1）查看谁是主节点

abcops_repl:PRIMARY> db.isMaster()

2）查看以后复制集集群中成员的配置

abcops_repl:PRIMARY> rs.conf()

3）查看复制集集群成员状态

abcops_repl:PRIMARY> rs.status()

4）新增节点到复制集
新增节点之前，该实例的配置中的replSetName复制集名称，必须和集群统一

abcops_repl:PRIMARY> rs.add("10.211.55.12:27020")

5）新增仲裁节点

abcops_repl:PRIMARY> rs.addArb("10.211.55.12:27020")

6）从复制集内删除节点

abcops_repl:PRIMARY> rs.remove("10.211.55.12:27020")

7）查看oplog日志工夫和大小

abcops_repl:PRIMARY> rs.printReplicationInfo() configured oplog size:   4096MBlog length start to end: 2422secs (0.67hrs)oplog first event time:  Wed Sep 11 2019 12:22:13 GMT+0800 (CST)oplog last event time:   Wed Sep 11 2019 13:02:35 GMT+0800 (CST)now:                     Wed Sep 11 2019 13:02:37 GMT+0800 (CST)

8）降级服务器
此操作只能在PRIMARY上操作
通过执行rs.stepDown命令将以后主服务器被动降级为备用节点，120单位为s，为120秒内这个实力不能把本人选为PRIMARY角色，120秒后因为它自身的优先级较高，所以会从新抢占PRIMARY节点。

abcops_repl:PRIMARY> rs.stepDown(120)

9）容许在Secondary节点能够进行查问
在正本节点上操作

rs.slaveOk()

10）查看以后连贯

db.getMongo()

批改优先级

批改27018的优先级为3，使其优先级超过27017实例，夺得PRIMARY角色，此操作需在PRIMARY上执行

abcops_repl:PRIMARY> config=rs.conf()abcops_repl:PRIMARY> config.members[1].priority=33abcops_repl:PRIMARY> rs.reconfig(config){    "ok" : 1,    "$clusterTime" : {        "clusterTime" : Timestamp(1568179129, 1),        "signature" : {            "hash" : BinData(0,"AAAAAAAAAAAAAAAAAAAAAAAAAAA="),            "keyId" : NumberLong(0)        }    },    "operationTime" : Timestamp(1568179129, 1)}abcops_repl:PRIMARY> rs.conf()abcops_repl:SECONDARY> db.isMaster()#以上参数解析config=rs.conf()：将现有的配置读取到变量中进行存储config.members[1].priority=3：批改变量中的值，1是指执行rs.conf()中看到节点的程序，不是ID号哦，rs.conf()看到的程序是从0开始排序，三个正本集排序就是0-3rs.reconfig(config)：将批改后的数据同步到配置，使批改失效rs.conf()：查看以后配置，能够看到优先级哦db.isMaster()：查看谁是Primary节点

复制测试

1）插入数据

#连贯以后Primary节点/usr/local/mongodb/bin/mongo --host 10.211.55.12 --port 27018#进入abcops数据库，在documents文档中插入以下JSON格局的数据abcops_repl:PRIMARY> use abcopsabcops_repl:PRIMARY> db.documents.insert(    {name: "xuweiliang",    age: 25,    Job: "DevOps"})#查看documents文档中的数据abcops_repl:PRIMARY> db.documents.find(){ "_id" : ObjectId("5d78863768fbf9eac4704232"), "name" : "xuweiliang", "age" : 25, "Job" : "DevOps" }#查看复制节点状态abcops_repl:PRIMARY> rs.printSlaveReplicationInfo()source: 10.211.55.12:27017    syncedTo: Wed Sep 11 2019 13:30:42 GMT+0800 (CST)    0 secs (0 hrs) behind the primary

2）登录Secondary节点查看

/usr/local/mongodb/bin/mongo --host 10.211.55.12 --port 27017abcops_repl:SECONDARY> rs.slaveOk()         #运行正本节点可进行查问abcops_repl:SECONDARY> show dbs             #查看以后节点的数据库abcops  0.000GBadmin   0.000GBconfig  0.000GBlocal   0.000GBabcops_repl:SECONDARY> use abcops               #abcops数据库曾经从主节点同步至此switched to db abcopsabcops_repl:SECONDARY> db.getCollectionNames()  #以下间断三个命令都是查看进入到abcops库中的文档命令[ "documents" ]abcops_repl:SECONDARY> show collectionsdocumentsabcops_repl:SECONDARY> show tablesdocumentsabcops_repl:SECONDARY> db.documents.find()      #查看文档中的内容{ "_id" : ObjectId("5d78863768fbf9eac4704232"), "name" : "xuweiliang", "age" : 25, "Job" : "DevOps" }

创立复制集中的账户

1）连贯到主节点，创立用户
以下创立的用户及权限和角色请参考上面用户权限阐明

/usr/local/mongodb/bin/mongo --host 10.211.55.12 --port 27018abcops_repl:PRIMARY> use adminabcops_repl:PRIMARY> db.createUser( {        user:'abcops',        pwd:'123456',        roles:[ { role: "root", db: "admin" } ]    })Successfully added user: {    "user" : "abcops",    "roles" : [        {            "role" : "root",            "db" : "admin"        }    ]}#查看所有创立的用户信息abcops_repl:PRIMARY> show users

用户中权限的阐明

权限	阐明
Read	容许用户读取指定数据库
readWrite	容许用户读写指定数据库
dbAdmin	容许用户在指定数据库中指定治理函数，如(索引创立、删除、查看统计拜访system.profile)
userAdmin	容许用户向system.users汇合写入，能够找指定数据外面创立、删除和治理用户
clusterAdmin	只在admin数据库中可用，赋予用户所有分片和复制集相干函数的管理权限
readAnyDatabase	只在admin数据库中可用，赋予用户所有数据库的读权限
readWriteAnyDatabase	只在admin数据库中可用，赋予用户所有数据库的读写权限
userWriteAnyDatabase	只在admin数据库中可用，赋予用户所有数据库的userAdmin权限
dbAdminAnyDatabase	只在admin数据库中可用，赋予用户所有数据库的dbAdmin权限
root	只在admin数据库中可用，超级管理员

为复制集集群增加权限认证

复制集咱们这里采纳keyfile文件实现权限认证，并且正本集中的所有成员应用的keyfile必须一样

增加平安认证配置

三台实例必须都要配置

cat >> /usr/local/mongodb/27017/conf/mongod.conf << EOFsecurity:  authorization: enabled  clusterAuthMode: keyFile  keyFile: /usr/local/mongodb/27017/conf/keyfile  javascriptEnabled: trueEOF cat >> /usr/local/mongodb/27018/conf/mongod.conf << EOFsecurity:  authorization: enabled  clusterAuthMode: keyFile  keyFile: /usr/local/mongodb/27018/conf/keyfile  javascriptEnabled: trueEOFcat >> /usr/local/mongodb/27019/conf/mongod.conf << EOFsecurity:  authorization: enabled  clusterAuthMode: keyFile  keyFile: /usr/local/mongodb/27019/conf/keyfile  javascriptEnabled: trueEOF

keyfile文件操作

1）生产keyfile文件

openssl rand -base64 90 > ./keyfile

2）复制keyfile文件到其它实例中

#!/bin/bashfor i in 27017 27018 27019    do        \cp /home/mongod/keyfile /usr/local/mongodb/$i/conf/done

3）批改keyfile权限
keyfile文件权限必须为 X00 ，不能给 group 和 other 成员调配任何权限，否则实例无奈启动

#!/bin/bashfor i in 27017 27018 27019    do        chmod 400 /usr/local/mongodb/$i/conf/keyfiledone

4）重启所有实例

#!/bin/bashfor i in 27017 27018 27019    do        /usr/local/mongodb/bin/mongod --shutdown -f /usr/local/mongodb/$i/conf/mongod.conf        sleep 3s        /usr/local/mongodb/bin/mongod -f /usr/local/mongodb/$i/conf/mongod.confdone

认证验证

登录验证能够在连贯的时候指定用户名和明码，也能够先连贯到数据库后再进行认证

1）登录指定用户明码

/usr/local/mongodb/bin/mongo --host 10.211.55.12 --port 27018 --username abcops -p 123456abcops_repl:PRIMARY> show dbsabcops  0.000GBadmin   0.000GBconfig  0.000GBlocal   0.000GB

2）先登录，后验证

abcops_repl:PRIMARY> use admin                          #必须要先切换到admin库中才能够进行进行验证switched to db adminabcops_repl:PRIMARY> db.auth( 'abcops','123456' )       #认证用户名及明码，认证胜利返回1，否则返回01abcops_repl:PRIMARY> show dbs           abcops  0.000GBadmin   0.000GBconfig  0.000GBlocal   0.000GBabcops_repl:PRIMARY> dbadmin

3）在备库进行验证
备库只能进行查问，勿要在备库上进行任何操作

/usr/local/mongodb/bin/mongo --host 10.211.55.12 --port 27017abcops_repl:SECONDARY> rs.slaveOk()abcops_repl:SECONDARY> use adminswitched to db adminabcops_repl:SECONDARY> db.auth('abcops','123456')1

客户端验证

咱们能够找一台SQL管理工具来连贯该库

能够看到我创立的abcops库和一个文档及三个字段

有段时间没跟大家分享资源福利了，看了下本人的资料夹，整顿了一些我认为比拟好的Python学习材料了。置信这套材料能够对你进阶高级工程师有帮忙

学习工具

大厂实战手册

自学视频（局部）

【材料收费支付形式】:点这里：2020Python高薪实战学习大合集