关于数据库:openEuler22GreatSQLdbops玩转MGR

芬达，《芬达的数据库学习笔记》公众号作者，开源爱好者，善于 MySQL、ansible。

背景

openEuler 是什么

openEuler22.03 LTS 是 openEuler 社区于 2022 年 3 月公布的开源操作系统（从零碎版本的命名不难发现吧）。openEuler 社区的经营由华为为主导，社区以寰球开源贡献者的单干，构建了这个高效、稳固和平安的操作系统。基于 Linux 内核的 openEuler 操作系统，反对 Kunpeng 以及其余处理器，旨在充分发挥计算芯片的后劲。它实用于数据库、大数据、云计算和人工智能等场景。通过社区单干，openEuler 构建了一个翻新平台，创立了一个反对多处理器架构的对立凋谢操作系统，并推动了软件和硬件利用生态系统的凋敝。

openEuler22.03 LTS 带来了一系列要害性能，包含基于 Linux Kernel 5.10 的深度优化、新型媒体文件系统、分层内存扩大、用户模式协定栈、云原生调度加强、QEMU 热补丁、KubeOS、加强的轻量级平安容器、加强的 iSulad、双立体部署、边缘计算反对、嵌入式镜像，以及 secPaver 等。

openEuler22.03 LTS 能够被视为国产操作系统翻新我的项目的首选零碎版本之一。

GreatSQL 是什么

GreatSQL，作为 MySQL 分支 Percona 的延长，立志成为中国宽泛受欢迎的开源数据库。其上一版本基于 Percona Server 8.0.25 构建，而这次的新版本则应用 Percona Server 8.0.32 作为根底，引入了许多重要个性。新公布的 GreatSQL 8.0.32-24 版本减少了并行 load data、逻辑和 CLONE 备份加密、MGR 读写节点可动静绑定 VIP、SQL 兼容扩大、审计日志加强等重大个性。

GreatSQL 8.0.32-24 能够被视为国产开源数据库信创我的项目，并且解决 MySQL5.7 EOL 问题的重要代替计划之一。

对于 MySQL5.7 EOL 问题，能够翻阅我之前写的文章《阴谋论: MySQL 将死，国产数据库的春天？》

dbops 是什么

dbops 是一款提供生产级别 MySQL 部署的 playbook 工具，由芬达集体开发。

地址: https://gitee.com/fanderchan/dbops/

GreatSQL 官网并未提供专门针对 openEuler 的编译安装包，而我发现部署 GreatSQL、GreatSQL MGR、GreatSQL HA 等都有许多细节须要留神。本文次要讲述我如何思考并开发 dbops 的新性能，以在 openEuler22 上胜利部署 GreatSQL，并运行其 ”MGR 读写节点可动静绑定 VIP” 性能(以下简称 ”GreatSQL HA 性能 ”)。

dbops 如何反对 GreatSQL

dbops 原本就反对 MySQL 和 Percona，所以对 GreatSQL 的反对并不需要大规模的改变。以下大部分是一些针对部署 GreatSQL 与 MySQL 或 Percona 的不同之处的调整。

1. 只对 Linux – Generic 包的反对

因为 dbops 的指标是反对大量的国产操作系统，与 MySQL 一样，GreatSQL 提供了针对各种操作系统的预编译二进制包，但有一个是通用的，那就是 Linux – Generic 包。在 dbops 为 MySQL 提供反对以及在理论生产中，都在应用这个包。

同时，为了反对更多的 Linux 零碎，我抉择了基于 glibc2.17 的包，而非 glibc2.28 的包。前者意味着包是在 glibc 公共库版本为 2.17 的零碎下编译进去的，因而，它不会蕴含大于 2.17 的库函数，兼容性会更强。

我抉择反对的是 minimal 包，这个版本剔除了与调试相干的二进制文件和调试符号，体积十分小，仅为惯例包的三分之一，我认为非 minimal 包并无劣势。

目前，dbops 仅反对 GreatSQL-8.0.32-24-Linux-glibc2.17-x86_64.tar.xz 的部署。

2. dbops 的 mysql_ansible 的配置文件 common_config.yml 的调整

dbops 能够很不便的配置执行 playbook 的变量，变量设置十分集中，个别只须要批改两个文件，一个是全局参数配置文件 common_config.yml，另外一个是以后须要执行的 playbook yaml 文件。

• 新增了 db_type 参数，用于判断待部署的数据库类型，可选值为 MySQL、Percona、GreatSQL。依据 db_type 的不同，部署流程将有所区别。
• 将 mysql_base_dir 参数和 mysql_data_dir_base 参数设定为依据 db_type 主动生成，这样能够失去不同的目录门路。我心愿防止将 MySQL 和 GreatSQL 搁置在同一目录下，以便于辨别。
• 对于 mysql_package 参数，即安装包的名称，如果是 MySQL，会依据 {{mysql_version}} 主动生成；如果是 GreatSQL，将读取 greatsql_package 的设置。
• 新增了 fcs_use_greatsql_ha 开关参数，其默认值为 1，即如果部署的是 GreatSQL 并且采纳 MGR 架构(执行的 playbook==mgr.yml)，那么默认会部署 ”MGR 读写节点可动静绑定 VIP” 的性能插件。

## DB TYPE,suport mysql,percona,greatsql
+ db_type: greatsql

#Directory of MySQL installation package
mysql_packages_dir: ../downloads/ 

+ greatsql_package: GreatSQL-8.0.32-24-Linux-glibc2.17-x86_64-minimal.tar.xz
+ percona_package: Percona-Server-8.0.29-21-Linux.x86_64.glibc2.17.tar.gz

## do not modify
- mysql_package: "{{'mysql-'+ mysql_version +'-linux-'+ ('glibc2.12'if mysql_version.startswith('5.') else'glibc2.17') +'-x86_64'+ ('.tar.gz'if mysql_version.startswith('5.') else'-minimal.tar.xz') }}"
+ mysql_package: "{% if db_type =='mysql'%}{{'mysql-'+ mysql_version +'-linux-'+ ('glibc2.12'if mysql_version.startswith('5.') else'glibc2.17') +'-x86_64'+ ('.tar.gz'if mysql_version.startswith('5.') else'-minimal.tar.xz') }}{% elif db_type =='percona'%}{{percona_package}}{% elif db_type =='greatsql'%}{{greatsql_package}}{% endif %}"

## linux mysql run user name
mysql_user: mysql
mysql_group: mysql
mysql_user_password: Dbops@9999

## mysql install directory
- mysql_base_dir: /database/mysql/base/{{mysql_version}}
+ mysql_base_dir: /database/{{db_type}}/base/{{mysql_version}}

## mysql_data_dir_base define mysql datadir base, real datadir= mysql_data_dir_base + /port
- mysql_data_dir_base: /database/mysql
+ mysql_data_dir_base: /database/{{db_type}}

+ fcs_use_greatsql_ha: 1

3. 新增 GreatSQL 专属 my.cnf 模板，并对 GreatSQL HA 的新参数反对

在 mgr.yml 这个 playbook 里新增三个与 GreatSQL HA 相干的参数设置

+ greatsql_vip: 192.168.199.174
+ greatsql_net_work_interface: "ens33"
+ greatsql_netmast: "255.255.255.255"

新增了 mysql_ansible/roles/mysql_server/templates/8.0/greatsql-my.cnf.j2 模板，此模板是从 percona-my.cnf.j2 模板克隆而来。为了反对 GreatSQL HA 的相干参数设置，我应用 jinja2 语法设置了判断逻辑，只有满足以下三个条件，才会增加这些参数：

• 数据库类型为 ‘greatsql’（在 common_config.yml 中设置）
• 设置了 fcs_use_greatsql_ha: 1 开关，要求部署 GreatSQL HA 性能（在 common_config.yml 中设置）
• 在装置 MGR 时（运行 ansible-playbook mgr.yml 时）

+ {% if db_type == 'greatsql' and fcs_use_greatsql_ha == 1 and make_mgr_role_included is defined and make_mgr_role_included %}
+ #GreatSQL MGR vip
+ plugin-load-add=greatdb_ha.so
+ loose-greatdb_ha_enable_mgr_vip=1
+ loose-greatdb_ha_mgr_vip_ip={{greatsql_vip}}
+ loose-greatdb_ha_mgr_vip_mask={{greatsql_netmast}}
+ loose-greatdb_ha_mgr_vip_nic={{greatsql_net_work_interface}}
+ 
+ #single-primary mode
+ loose-group_replication_single_primary_mode=1
+ loose-group_replication_enforce_update_everywhere_checks=0
+ {% endif %}

后面设置的三个参数值，greatsql_vip、greatsql_netmast、greatsql_net_work_interface 会对应传入到 my.cnf 里。

4. 反对主动下载 GreatSQL 安装包

+ - name: Download GreatSQL binary tarball if not found locally and auto download is enabled(local)
+   ansible.builtin.get_url:
+     url: "https://product.greatdb.com/{{mysql_package[0:18] }}/{{mysql_package}}"
+     dest: "{{mysql_packages_dir}}/{{mysql_package}}"
+     mode: '0644'
+     timeout: 30
+     headers:
+       User-Agent: "Wget/1.21.1"
+   when: not mysql_server__package_file.stat.exists and fcs_auto_download_mysql == 1 and db_type == 'greatsql'
+   delegate_to: 127.0.0.1

在失常状况下，您应该手动上传 GreatSQL 的包到 downloads/ 文件夹中。如果在 downloads/ 文件夹中没有找到对应的包，且在 common_config.yml 文件中设置了 fcs_auto_download_mysql == 1（容许从互联网下载安装包），并且 db_type == ‘greatsql’，那么将会主动从互联网下载安装包。

dbops 自身就反对下载 MySQL 安装包的性能。但因为 GreatSQL 的安装包下载门路不同，因而我额定增加了一个下载链接，以实现雷同的下载性能。

5. 批改 GreatSQL 启动服务

为了让 GreatSQL HA 反对 mysqld 执行通常须要较高权限能力操作的挂载和卸载 VIP 操作，咱们须要进行一些非凡设置。官网原先提供了两个计划，但我提出了新的解决方案。

在服务设置中，咱们退出以下代码：

[Service]
+ {% if db_type == 'greatsql' and fcs_use_greatsql_ha == 1 and make_mgr_role_included is defined and make_mgr_role_included %}
+ AmbientCapabilities=CAP_NET_ADMIN CAP_NET_RAW
+ {% endif %}

只有当满足条件（须要部署 GreatSQL HA）时，零碎会主动在启动服务中配置 “CAP_NET_ADMIN CAP_NET_RAW” 的权限。

‘ fill=’%23FFFFFF’%3E%3Crect x=’249′ y=’126′ width=’1’ height=’1’%3E%3C/rect%3E%3C/g%3E%3C/g%3E%3C/svg%3E)

我设计的这种办法也失去了官网的驳回，成为首选举荐办法。

6. fix 部署 GreatSQL 有可能报错的问题

GreatSQL 在部署后可能在应用 mysqld 初始化时，或者初始化后应用 mysql 登录时，报告 libcrypto.so 或 libssl.so 找不到。

[root@192-168-199-171 ~]# /usr/local/mysql/bin/mysqld --defaults-file=/database/mysql/etc/3306/my.cnf --initialize-insecure
/usr/local/mysql/bin/mysqld: error while loading shared libraries: libcrypto.so: cannot open shared object file: No such file or directory

[root@192-168-199-171 lib]# mysql -uroot -p -S /database/mysql/data/3307/mysql.sock
mysql: error while loading shared libraries: libssl.so: cannot open shared object file: No such file or directory

针对此问题，咱们有两种解决方案。第一种办法是应用 yum install openssl-devel 装置，之后零碎库就会蕴含这两个 so 库：

/usr/lib64/libcrypto.so
/usr/lib64/libssl.so

然而，咱们也有第二种解决办法。GreatSQL 的 Generic 包其实曾经编译了这两个库，只是它们被命名为 libcrypto.so.10 和 libssl.so.10，而非 libcrypto.so 和 libssl.so。咱们只需在 /usr/local/mysql/lib/private/ 文件夹内为这两个库创立软链接即可。

并且，我认为采纳第二种办法，应用官网包内的 libcrypto.so 和 libssl.so，是最佳的解决方案。

改变代码如下:

mysql_ansible/roles/mysql_server/tasks/fix_greatsql_install.yml

+ - name: Create symbolic links for libssl.so and libcrypto.so
+   file:
+     src: "/usr/local/mysql/lib/private/{{link.src}}"
+     dest: "/usr/local/mysql/lib/private/{{link.dest}}"
+     state: link
+     owner: "{{mysql_user}}"
+     group: "{{mysql_group}}"
+   loop:
+     - {src: 'libssl.so.10', dest: 'libssl.so'}
+     - {src: 'libcrypto.so.10', dest: 'libcrypto.so'}
+   loop_control:
+     loop_var: link

mysql_ansible/roles/mysql_server/tasks/main.yml

  - name: Install mysql to /usr/local/mysql
    ansible.builtin.import_tasks: install_mysql.yml

+ - name: Fix libcrypto.so and libssl.so not find by create link if db_type is greatsql
+   ansible.builtin.import_tasks: fix_greatsql_install.yml
+   when: db_type == 'greatsql'

  - name: Init mysql datadir
    ansible.builtin.import_tasks: initialize_mysql_datadir.yml

7. 查看网卡是否统一

在设定了 VIP 漂移的三台机器中，与 MHA 架构雷同，咱们可能会遇到一种情况：在一开始设置网卡绑定时，主机管理员可能会没留神，产生以下状况：

192.168.199.171  网卡名 bond1
192.168.199.172  网卡名 bond1
192.168.199.173  网卡名 bond0

你可能曾经发现了，第三台机器的网卡名与前两台不统一。因而，如果产生高可用漂移，MHA 或 MGR 在抉择主机时，如果抉择了第三台作为主机，那么依据 greatsql_net_work_interface: "bond1" 的设置，漂移操作可能会失败。尽管我还没有进行过测试，但这个问题在 MHA 架构中必定会产生，而且在 GreatSQL HA 架构中也有很大可能产生！

因而，在运行 ansible-playbook 部署 mgr.yml 时，我已在第一步的 pre_check_and_set（检查和设置零碎参数）中，退出了查看网卡名是否统一的步骤。如果网卡名不统一，playbook 将报错并终止运行，给出提醒。代码如下：

- name: Add network interface alias to a temporary file
  ansible.builtin.lineinfile:
    path: "/tmp/net_aliases.txt"
    line: "{{ansible_default_ipv4.alias}}"
    create: true
    mode: '0644'

- name: Fetch copy
  ansible.builtin.fetch:
    src: /tmp/net_aliases.txt
    dest: /tmp/ssh

- name: Append file /tmp/net_aliases.txt (delegate to 127.0.0.1)
  ansible.builtin.shell: set -o pipefail && find /tmp/ssh/ -name "*.txt" -type f -exec sh -c 'cat {}' \; | sort | uniq | wc -l
  register: pre_check_and_set__shell_output
  changed_when: false
  run_once: true
  delegate_to: 127.0.0.1

- name: Check if shell output is 1
  ansible.builtin.assert:
    that: pre_check_and_set__shell_output.stdout | int == 1
    fail_msg: "Network card names are different!"
  run_once: true
  delegate_to: 127.0.0.1

- name: Delete /tmp/net_aliases.txt
  ansible.builtin.file:
    path: /tmp/net_aliases.txt
    state: absent

- name: Delete /tmp/ssh/ (delegate to 127.0.0.1)
  ansible.builtin.file:
    path: /tmp/ssh/
    state: absent
  run_once: true
  delegate_to: 127.0.0.1

8. 反对应用 jemalloc 内存分配器

GreatSQL 和 Percona 官网都举荐应用 jemalloc 代替默认的 malloc，我至今没有发现 MySQL 官网的相似倡议。然而，在实践中，我已经通过替换 malloc 为 jemalloc 内存管理器来解决内存泄露问题，只管根本原因仍不分明。因而，我之前曾经在我的 dbops 工具中退出了在部署时抉择应用 jemalloc 内存分配器的性能，它是在 systemd 服务中实现的。

以下是波及的代码:

mysql_ansible/playbooks/common_config.yml

# 配置文件中提供一个开关，决定是否应用 jemalloc 内存分配器，其默认值为 0，即不批改内存分配器
fcs_mysql_use_jemalloc: 1

mysql_ansible/roles/mysql_server/tasks/install_mysql_dependents.yml

- name: Install libaio and numactl
  ansible.builtin.yum:
    name: "{{package.name}}"
    state: present
  loop:
    - {name: 'libaio'}
    - {name: 'numactl'}
  loop_control:
    loop_var: package
  tags:
    - dependents

- name: Install jemalloc
  when: fcs_mysql_use_jemalloc == 1
  tags:
    - dependents
  block:
    - name: Install jemalloc using yum
      ansible.builtin.yum:
        name: jemalloc
        state: present
      register: mysql_server__jemalloc_install_result
      ignore_errors: true

    - name: Set jemalloc rpm file name based on OS
      ansible.builtin.set_fact:
        mysql_server__jemalloc_rpm_file: "{{'jemalloc-3.6.0-1.el8.x86_64.rpm'if os_type in ['openEuler22','openEuler20','CentOS8','BigCloud8','Anolis OS8'] else'jemalloc-3.6.0-1.el7.x86_64.rpm'}}"

    - name: Copy jemalloc rpm to target server
      ansible.builtin.copy:
        src: "../files/{{mysql_server__jemalloc_rpm_file}}"
        dest: "/tmp/{{mysql_server__jemalloc_rpm_file}}"
        mode: '0755'
      when: mysql_server__jemalloc_install_result.failed

    - name: Install jemalloc from local file
      ansible.builtin.yum:
        name: "/tmp/{{mysql_server__jemalloc_rpm_file}}"
        state: present
        disable_gpg_check: true
      register: mysql_server__jemalloc_local_install_result
      when: mysql_server__jemalloc_install_result.failed
      ignore_errors: true

    - name: Check if jemalloc installation failed
      ansible.builtin.fail:
        msg: "Failed to install jemalloc"
      when: mysql_server__jemalloc_install_result.failed and mysql_server__jemalloc_local_install_result.failed

这段代码次要是用于装置 mysql_server 的依赖包，如果你在配置中设置了 fcs_mysql_use_jemalloc: 1，那么将会装置 jemalloc。默认状况下，它会尝试应用 yum 来装置。如果 yum 装置失败，那么它会尝试应用 dbops 自带的 jemalloc 包。

起因是，准备的 jemalloc 包只有两个版本：一个是针对 EL7，一个是针对 EL8。并没有专门为国产操作系统筹备的专用包。在国产操作系统上，你应该优先应用 yum 来装置适宜该零碎的包。如果应用 yum 装置失败，你能够思考应用 EL7 或者 EL8 的 jemalloc 包来进行兼容性装置。

mysql_ansible/roles/mysql_server/templates/mysql.service.j2

[Service]
...
{% if fcs_mysql_use_jemalloc == 1 %}
{% if os_type in ['openEuler22','openEuler20'] %}
Environment="LD_PRELOAD=/usr/lib64/libjemalloc.so.2"
{% else %}
Environment="LD_PRELOAD=/usr/lib64/libjemalloc.so.1"
{% endif %}
{% endif %}

依据 yum 或者 rpm 包形式装置 libjemalloc 后，不同操作系统的 libjemalloc.so 门路可能会不同，我在服务配置里会做判断和正确加载。

结语与反馈征集

如果你对 dbops 感兴趣，欢送你应用，并提出贵重的倡议或问题。如果在应用过程中遇到任何问题，或有任何改良的倡议，欢送在 dbops 的 gitee 我的项目页面上提交 issue。你的反馈将帮忙我不断改进，使其更好地服务于所有开源数据库用户。

我会认真解决每一个提交的 issue，力求在第一工夫给出解答或解决方案。同时，咱们也欢送你为 dbops 的开发做出奉献，无论是提交代码，还是参加探讨，我都十分欢送。感激你的反对！

Enjoy GreatSQL :)

## 对于 GreatSQL

GreatSQL 是由万里数据库保护的 MySQL 分支，专一于晋升 MGR 可靠性及性能，反对 InnoDB 并行查问个性，是实用于金融级利用的 MySQL 分支版本。

相干链接：GreatSQL 社区 Gitee GitHub Bilibili

GreatSQL 社区：

社区博客有奖征稿详情：https://greatsql.cn/thread-100-1-1.html

技术交换群：

微信：扫码增加 GreatSQL 社区助手 微信好友，发送验证信息 加群。