关于java:千亿级数据平滑扩容之数据库平滑扩容实现

1. 扩容后的部署架构

由之前的双主两台节点，裁减为两对双主，共四个节点：

2. 新增数据库VIP

在Server2节点上减少虚构IP配置：

批改/etc/keepalived/keepalived.conf，追加：

...
vrrp_instance VI_2 {            #vrrp实例定义
    state BACKUP               #lvs的状态模式，MASTER代表主， BACKUP代表备份节点
    interface ens33               #绑定对外拜访的网卡
    virtual_router_id 112        #虚构路由标示，同一个vrrp实例采纳惟一标示
    priority 100               #优先级，100代表最大优先级， 数字越大优先级越高
    advert_int 1              #master与backup节点同步查看的工夫距离，单位是秒
    authentication {           #设置验证信息
        auth_type PASS         #有PASS和AH两种
        auth_pass 6666         #验证明码，BACKUP明码须雷同
    }
    virtual_ipaddress {         #KeepAlived虚构的IP地址
        10.10.20.131
    }
}
virtual_server 10.10.20.131 3306 {       #配置虚构服务器IP与拜访端口
    delay_loop 6                 #健康检查工夫
    persistence_timeout 0        #会话放弃工夫，这里要做测试， 所以设为0， 理论可依据session无效工夫配置
    protocol TCP               #转发协定类型，反对TCP和UDP
    real_server 10.10.20.126 3306{    #配置服务器节点VIP1
    notify_down /usr/local/shell/mariadb.sh
    weight 1               #设置权重，越大权重越高
    TCP_CHECK {              #r状态监测设置
       connect_timeout 10       #超时配置， 单位秒
       retry 3             #重试次数
       delay_before_retry 3        #重试距离
       connect_port 3306         #连贯端口， 和下面保持一致
       }
    }

}

留神配置项：

virtual_router_id 112        #虚构路由标示，同一个vrrp实例采纳惟一标示
priority 100               #优先级，100代表最大优先级， 数字越大优先级越高

3. 应用服务减少动静数据源

批改应用服务配置，减少新的数据源，指向新设置的VIP： 10.10.20.131

之前是实现了应用服务的动静扩容，在配置文件里批改：

driverClassName=com.mysql.cj.jdbc.Driver
username=root
password=654321
url=jdbc:mysql://10.10.20.131:3306/smooth?useUnicode=true&characterEncoding=UTF-8&useSSL=false&serverTimezone=UTC
initialSize=5
minIdle=5
maxActive=20
maxWait=60000
timeBetweenEvictionRunsMillis=60000
minEvictableIdleTimeMillis=300000
validationQuery=SELECT 1
testWhileIdle=true
testOnBorrow=false
testOnReturn=false

通过应用服务接口，动静扩容调整

通过动静调整接口，让扩容的第2个数据源失效。

4. 解除原双主同步关系

进入Server1:
```
MariaDB [(none)]> stop slave;
```
进入Server2:
```
MariaDB [(none)]> stop slave;
```
能够通过应用服务接口验证数据是否解除同步胜利

5. 装置MariaDB扩容服务器

新建两台虚拟机，别离对应下面部署架构图中的Server3和Server4。
在Server3和Server4两台节点上装置MariaDB服务

可参考上一个篇章中的MariaDB服务装置教程。

配置Server3与Server1，实现新的双主同步

1) Server3节点，批改/etc/my.cnf:

[mysqld]
server-id = 2
log-bin=mysql-bin
relay-log = mysql-relay-bin
replicate-wild-ignore-table=mysql.%
replicate-wild-ignore-table=information_schema.%
log-slave-updates=on
slave-skip-errors=all
auto-increment-offset=2
auto-increment-increment=2
binlog_format=mixed
expire_logs_days=10

2) 重启Server3数据库

service mariadb restart

3) 创立replica用于主从同步的用户：

MariaDB [(none)]> grant replication slave, replication client on *.* to 'replica'@'%' identified by 'replica';
mysql> flush privileges;

4) 在Server1节点，进行数据全量备份：

mysqldump -uroot -p654321 --routines --single_transaction --master-data=2 --databases smooth > server1.sql

5) 查看并记录master status信息：

...
--
-- Position to start replication or point-in-time recovery from
--

-- CHANGE MASTER TO MASTER_LOG_FILE='mysql-bin.000002', MASTER_LOG_POS=17748;
...

6) 将备份的server1.sql通过scp命令拷贝至Server3节点。

scp server1.sql root@10.10.20.127:/usr/local/

7) 将数据还原至Server3节点：

mysql -uroot -p654321 < /usr/local/server1.sql

8) 配置主从同步信息

依据下面的master status信息，在Server3中执行：

MariaDB [(none)]> change master to master_host='10.10.20.125',master_user='replica', master_password='replica', master_port=3306, master_log_file='mysql-bin.000002', master_log_pos=17748, master_connect_retry=30;
Query OK, 0 rows affected (0.01 sec)

9) 开启主从同步：

MariaDB [(none)]> start slave;
Query OK, 0 rows affected (0.00 sec)

如果呈现问题，还原主从同步信息：

MariaDB [(none)]> reset slave;
Query OK, 0 rows affected (0.01 sec)

10) 查看同步状态信息：

MariaDB [(none)]> show slave status \G
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send event
                  Master_Host: 10.10.20.125
                  Master_User: replica
                  Master_Port: 3306
                Connect_Retry: 30
              Master_Log_File: mysql-bin.000004
          Read_Master_Log_Pos: 11174
               Relay_Log_File: mysql-relay-bin.000002
                Relay_Log_Pos: 1746
        Relay_Master_Log_File: mysql-bin.000004
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes

11) 配置Server1与Server3节点的同步

查看Server3的日志信息：

MariaDB [(none)]> show master status;
+------------------+----------+--------------+------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+------------------+----------+--------------+------------------+
| mysql-bin.000001 |     4781 |              |                  |
+------------------+----------+--------------+------------------+

在Server1节点，配置同步信息：

MariaDB [(none)]> reset slave;
Query OK, 0 rows affected (0.00 sec)

MariaDB [(none)]> change master to master_host='10.10.20.127',master_user='replica', master_password='replica', master_port=3306, master_log_file='mysql-bin.000001', master_log_pos=4781, master_connect_retry=30;

MariaDB [(none)]> start slave;
Query OK, 0 rows affected (0.00 sec)

配置新的Server4与Server2的双主同步关系

1) Server4节点，批改/etc/my.cnf:

[mysqld]
server-id = 3
log-bin=mysql-bin
relay-log = mysql-relay-bin
replicate-wild-ignore-table=mysql.%
replicate-wild-ignore-table=information_schema.%
log-slave-updates=on
slave-skip-errors=all
auto-increment-offset=2
auto-increment-increment=2
binlog_format=mixed
expire_logs_days=10

2) 重启Server4数据库

service mariadb restart

3) 创立replica用于主从同步的用户：

MariaDB [(none)]> grant replication slave, replication client on *.* to 'replica'@'%' identified by 'replica';
mysql> flush privileges;

4) 在Server2节点，进行数据全量备份：

mysqldump -uroot -p654321 --routines --single_transaction --master-data=2 --databases smooth > server2.sql

5) 查看并记录master status信息：

...
--
-- Position to start replication or point-in-time recovery from
--

-- CHANGE MASTER TO MASTER_LOG_FILE='mysql-bin.000003', MASTER_LOG_POS=4208;

...

6) 将备份的server2.sql通过scp命令拷贝至Server4节点。

scp server2.sql root@10.10.20.128:/usr/local/

7) 将数据还原至Server4节点：

mysql -uroot -p654321 < /usr/local/server2.sql

8) 配置主从同步信息

依据下面的master status信息，在Server4中执行：

MariaDB [(none)]> change master to master_host='10.10.20.126',master_user='replica', master_password='replica', master_port=3306, master_log_file='mysql-bin.000003', master_log_pos=4208, master_connect_retry=30;
Query OK, 0 rows affected (0.01 sec)

9) 开启主从同步：

MariaDB [(none)]> start slave;
Query OK, 0 rows affected (0.00 sec)

留神，如果呈现问题，还原主从同步信息：

MariaDB [(none)]> reset slave;
Query OK, 0 rows affected (0.01 sec)

10) 查看同步状态信息：

MariaDB [(none)]> show slave status \G
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send event
                  Master_Host: 10.10.20.125
                  Master_User: replica
                  Master_Port: 3306
                Connect_Retry: 30
              Master_Log_File: mysql-bin.000004
          Read_Master_Log_Pos: 11174
               Relay_Log_File: mysql-relay-bin.000002
                Relay_Log_Pos: 1746
        Relay_Master_Log_File: mysql-bin.000004
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes

11) 配置Server2与Server4节点的同步

查看Server4的日志信息：

MariaDB [(none)]> show master status;
+------------------+----------+--------------+------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+------------------+----------+--------------+------------------+
| mysql-bin.000001 |     3696 |              |                  |
+------------------+----------+--------------+------------------+

在Server2节点，配置同步信息：

MariaDB [(none)]> reset slave;
Query OK, 0 rows affected (0.00 sec)

MariaDB [(none)]> change master to master_host='10.10.20.128',master_user='replica', master_password='replica', master_port=3306, master_log_file='mysql-bin.000001', master_log_pos=3696, master_connect_retry=30;

MariaDB [(none)]> start slave;
Query OK, 0 rows affected (0.00 sec)

6. 减少KeepAlived服务实现高可用

确保新增的Server3和Server4节点装置Keepalived服务。

KeepAlived服务装置可参考之前的教程。

批改Server3节点配置

global_defs {
   router_id vip3          # 机器标识，个别设为hostname，故障产生时，邮件告诉会应用到。
}
vrrp_instance VI_1 {            #vrrp实例定义
    state BACKUP               #lvs的状态模式，MASTER代表主， BACKUP代表备份节点
    interface ens33               #绑定对外拜访的网卡
    virtual_router_id 111        #虚构路由标示，同一个vrrp实例采纳惟一标示
    priority 98               #优先级，100代表最大优先级， 数字越大优先级越高
    advert_int 1              #master与backup节点同步查看的工夫距离，单位是秒
    authentication {           #设置验证信息
        auth_type PASS         #有PASS和AH两种
        auth_pass 6666         #验证明码，BACKUP明码须雷同
    }
    virtual_ipaddress {         #KeepAlived虚构的IP地址
        10.10.20.130
    }
}
virtual_server 10.10.20.130 3306 {       #配置虚构服务器IP与拜访端口
    delay_loop 6                 #健康检查工夫
    persistence_timeout 0        #会话放弃工夫，这里要做测试， 所以设为0， 理论可依据session无效工夫配置
    protocol TCP               #转发协定类型，反对TCP和UDP
    real_server 10.10.20.127 3306{    #配置服务器节点VIP3
    notify_down /usr/local/shell/mariadb.sh
    weight 1               #设置权重，越大权重越高
    TCP_CHECK {              #r状态监测设置
       connect_timeout 10       #超时配置， 单位秒
       retry 3             #重试次数
       delay_before_retry 3        #重试距离
       connect_port 3306         #连贯端口， 和下面保持一致
       }
    }

}

留神外面IP配置正确，批改实现后重启服务。

创立敞开脚本mariadb.sh

/usr/local/shell/mariadb.sh：

pkill keepalived

退出执行权限：

chmod a+x mariadb.sh

批改Server4节点配置

global_defs {
   router_id vip4          # 机器标识，个别设为hostname，故障产生时，邮件告诉会应用到。
}
vrrp_instance VI_1 {            #vrrp实例定义
    state BACKUP               #lvs的状态模式，MASTER代表主， BACKUP代表备份节点
    interface ens33               #绑定对外拜访的网卡
    virtual_router_id 112        #虚构路由标示，同一个vrrp实例采纳惟一标示
    priority 98               #优先级，100代表最大优先级， 数字越大优先级越高
    advert_int 1              #master与backup节点同步查看的工夫距离，单位是秒
    authentication {           #设置验证信息
        auth_type PASS         #有PASS和AH两种
        auth_pass 6666         #验证明码，BACKUP明码须雷同
    }
    virtual_ipaddress {         #KeepAlived虚构的IP地址
        10.10.20.131
    }
}
virtual_server 10.10.20.131 3306 {       #配置虚构服务器IP与拜访端口
    delay_loop 6                 #健康检查工夫
    persistence_timeout 0        #会话放弃工夫，这里要做测试， 所以设为0， 理论可依据session无效工夫配置
    protocol TCP               #转发协定类型，反对TCP和UDP
    real_server 10.10.20.128 3306{    #配置服务器节点VIP4
    notify_down /usr/local/shell/mariadb.sh
    weight 1               #设置权重，越大权重越高
    TCP_CHECK {              #r状态监测设置
       connect_timeout 10       #超时配置， 单位秒
       retry 3             #重试次数
       delay_before_retry 3        #重试距离
       connect_port 3306         #连贯端口， 和下面保持一致
       }
    }

}

重启服务，创立敞开脚本mariadb.sh
/usr/local/shell/mariadb.sh：

pkill keepalived

退出执行权限：

chmod a+x mariadb.sh

批改Server2节点的keepAlived配置:

global_defs {
   router_id vip2          # 机器标识，个别设为hostname，故障产生时，邮件告诉会应用到。
}   
vrrp_instance VI_1 {            #vrrp实例定义
    state BACKUP               #lvs的状态模式，MASTER代表主， BACKUP代表备份节点
    interface ens33               #绑定对外拜访的网卡
    virtual_router_id 112        #虚构路由标示，同一个vrrp实例采纳惟一标示
    priority 100               #优先级，100代表最大优先级， 数字越大优先级越高
    advert_int 1              #master与backup节点同步查看的工夫距离，单位是秒
    authentication {           #设置验证信息
        auth_type PASS         #有PASS和AH两种
        auth_pass 6666         #验证明码，BACKUP明码须雷同
    }
    virtual_ipaddress {         #KeepAlived虚构的IP地址
        10.10.20.131
    }
}
virtual_server 10.10.20.131 3306 {       #配置虚构服务器IP与拜访端口
    delay_loop 6                 #健康检查工夫
    persistence_timeout 0        #会话放弃工夫，这里要做测试， 所以设为0， 理论可依据session无效工夫配置
    protocol TCP               #转发协定类型，反对TCP和UDP
    real_server 10.10.20.126 3306{    #配置服务器节点VIP1
    notify_down /usr/local/shell/mariadb.sh
    weight 1               #设置权重，越大权重越高
    TCP_CHECK {              #r状态监测设置
       connect_timeout 10       #超时配置， 单位秒
       retry 3             #重试次数
       delay_before_retry 3        #重试距离
       connect_port 3306         #连贯端口， 和下面保持一致
       }
    }   
}

批改完后重启Keepalived服务。

7. 清理数据并验证

通过应用服务动静扩容接口做调整和验证
在Server1节点清理数据

依据取模规定，保留accountNo为偶数的数据
```
delete from t_trade_order where accountNo % 2 != 0
```
在Server2节点清理数据

依据取模规定，保留accountNo为奇数的数据
```
delete from t_trade_order where accountNo % 2 != 1
```

本文由mirson创作分享，如需进一步交换，请加QQ群：19310171或拜访www.softart.cn

关于java:千亿级数据平滑扩容之数据库平滑扩容实现

1. 扩容后的部署架构

2. 新增数据库VIP

3. 应用服务减少动静数据源

4. 解除原双主同步关系

5. 装置MariaDB扩容服务器

6. 减少KeepAlived服务实现高可用

7. 清理数据并验证

评论

发表回复取消回复

更多文章

DDN HPC 存储硬件架构设计深度分析

探秘IO500：从Lustre并行文件系统出发，开启HPC存储性能新征程

苹果iOS打包的ipa应用无法安装？一篇文章带你了解可能的原因及排查方法

图解Golang：从零开始实现简易版过期LRU缓存

关于java:千亿级数据平滑扩容之数据库平滑扩容实现

1. 扩容后的部署架构

2. 新增数据库VIP

3. 应用服务减少动静数据源

4. 解除原双主同步关系

5. 装置MariaDB扩容服务器

6. 减少KeepAlived服务实现高可用

7. 清理数据并验证

评论

发表回复 取消回复

更多文章

DDN HPC 存储硬件架构设计深度分析

探秘IO500：从Lustre并行文件系统出发，开启HPC存储性能新征程

苹果iOS打包的ipa应用无法安装？一篇文章带你了解可能的原因及排查方法

图解Golang：从零开始实现简易版过期LRU缓存

发表回复取消回复