乐趣区

关于mysql:新特性解读-MySQL-80错误日志深入过滤上

jiezi

作者：杨涛涛

资深数据库专家，专研 MySQL 十余年。善于 MySQL、PostgreSQL、MongoDB 等开源数据库相干的备份复原、SQL 调优、监控运维、高可用架构设计等。目前任职于爱可生，为各大运营商及银行金融企业提供 MySQL 相干技术支持、MySQL 相干课程培训等工作。

本文起源：原创投稿

* 爱可生开源社区出品，原创内容未经受权不得随便应用，转载请分割小编并注明起源。

—

MySQL 8.0 有一个组件叫 component_log_filter_dragnet，它次要性能就是对 MySQL 的谬误日志内容进行定制化过滤与革新，之前有简略提过，这次来具体说下如何应用。

应用前，先装置组件：

INSTALL COMPONENT 'file://component_log_filter_dragnet';

装置后，设置零碎参数log_error_services 来启用它。

SET global log_error_services = 'log_filter_dragnet; log_sink_internal';

通过零碎参数dragnet.log_error_filter_rules 来调整过滤规定，比方对指定错误代码限流、革新输入等等。相似对 MySQL 监控，必须有过滤条件、触发动作、最终后果等关键因素。过滤条件则相似 SQL 语句中单个字段或者多个字段组合过滤。比方字段 < 操作符 > 值、NOT EXISTS 字段、过滤条件组合等。存在三种字段：别离为外围字段，可选字段，用户自定义字段。

本篇咱们来介绍外围字段。
外围字段列表如下：
  1. time: 工夫，比方能够设置在 2022 年 12 月 1 日之前都不容许写谬误日志。
  2. msg：错误信息，因为 err_code 间接能定位到 msg，个别很少用它来判断，msg 能够参加定制内容。
  3. prio：优先级，对应的值为 ERROR、WARNING、INFORMATION、NOTE 几个值或者任意组合，与设置零碎参数log_error_verbosity 成果相似。
  4. err_code/SQL_state：具体错误代码，也即错误信息的 KEY。
  5. err_symbol：具体谬误符号，MySQL 每个错误代码都对应一个谬误符号。具体的 err_symbol 数据能够用 perror 打印或者从官网谬误参考页面查找：https://dev.mysql.com/doc/mys…
  6. subsystem: 指定过滤的子系统我的项目，比方：Server、InnoDB 等。
触发动作有以下四个：
  1. drop: 删除谬误数据。
  2. throttle: 对内容限流。
  3. set：定制字段数据。
  4. unset: 重置字段数据。

本篇要革新的谬误日志基于如下命令产生：全篇用 命令 A 代替。

[root@ytt-pc ytt]# mysql -utest33333 
ERROR 1045 (28000): Access denied for user 'test33333'@'localhost' (using password: NO)

对应的谬误日志代码：从后果截取两个 err_code 别离为 MY-013360 和 MY-010926。

2022-03-24T06:03:59.511173Z 50 [Warning] [MY-013360] [Server] Plugin sha256_password reported: ''sha256_password' is deprecated and will be removed in a future release. Please use caching_sha2_password instead'2022-03-24T06:03:59.511322Z 50 [Note] [MY-010926] [Server] Access denied for user'test33333'@'localhost' (using password: NO)
接下来我举例说明一些常见用法：
  1. 字段 time

相似对表工夫字段进行过滤，能够定义一个等值条件或者取值范畴。例如让 2023-01-01 之前的谬误数据不记入日志，配合字段 time 以及动作 drop 来实现：

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if time <''2023-01-01''then drop .';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A，只有工夫还没到 2023 年，谬误日志里就不会记录任何数据。

  1. 字段 prio.

比方能够用字段 prio 来屏蔽 warning 数据，让其不计入谬误日志，实现如下：

   ytt-pc:(none):8.0.28>set global dragnet.log_error_filter_rules='if prio==warning then drop .';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A，完了查看谬误日志：日志里只保留 Note 数据，warning 数据没有记入。

   2022-03-24T06:05:41.037512Z 52 [Note] [MY-010926] [Server] Access denied for user 'test33333'@'localhost' (using password: NO)
  1. 字段 err_code/SQL_state.

err_code 最间接，只有查到错误代码，依据 err_code 来过滤即可。比方禁止错误代码为 MY-010926 的数据记入日志，能够间接用 err_code=MY-010926 来过滤，实现如下：

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 then drop .';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A，完了查看谬误日志：不存在错误代码为 MY-010926 的数据。

   2022-03-24T06:08:47.771611Z 53 [Warning] [MY-013360] [Server] Plugin sha256_password reported: ''sha256_password' is deprecated and will be removed in a future release. Please use caching_sha2_password instead'

假如想定制错误代码，把它们革新成 MySQL 官网谬误参考页面查不到的值，能够配合动作 set 来实现：

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 or err_code==MY-013360  then set err_code=1234567890 .';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A，完了查看谬误日志：相干错误代码全副替换为MY-1234567890。

   2022-03-24T06:12:37.456522Z 55 [Warning] [MY-1234567890] [Server] Plugin sha256_password reported: ''sha256_password' is deprecated and will be removed in a future release. Please use caching_sha2_password instead'2022-03-24T06:12:37.456676Z 55 [Note] [MY-1234567890] [Server] Access denied for user'test33333'@'localhost' (using password: NO)

假如想定制谬误数据，能够在 set 动作时，更新字段 msg 的值，实现如下：

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 or err_code==MY-013360  then set msg='' 你来看哦，没有了哦！！！''.';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A，完了查看谬误日志：谬误数据曾经被从新定制。

   2022-03-24T06:16:05.617758Z 56 [Warning] [MY-013360] [Server] 你来看哦，没有了哦！！！2022-03-24T06:16:05.617898Z 56 [Note] [MY-010926] [Server] 你来看哦，没有了哦！！！

以上 err_code 也能够间接替换为对应的 SQL_state，成果一样。比方：sql_state=’HY000’（这里是字符串）。

  1. 字段 err_symbol

之前说过，err_symbol 和 err_code 相似，通过 perror 打印这两个错误代码对应的 err_symbol 如下：括号里大写的两串字符。

   [root@ytt-pc ytt]# perror MY-013360 MY-010926
   MySQL error code MY-013360 (ER_SERVER_WARN_DEPRECATED): '%s' is deprecated and will be removed in a future release. Please use %s instead
   MySQL error code MY-010926 (ER_ACCESS_DENIED_ERROR_WITH_PASSWORD): Access denied for user '%-.48s'@'%-.64s' (using password: %s)

当初来由 err_symbol 实现方才 err_code 定制的 msg 数据：

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_symbol==''ER_SERVER_WARN_DEPRECATED''or err_symbol==''ER_ACCESS_DENIED_ERROR_WITH_PASSWORD''then set msg='' 你来看哦，没有了哦！！''.';
   Query OK, 0 rows affected (0.00 sec)
  1. 字段 subsystem

假如要屏蔽 Server 级别的谬误（本篇这两个错误代码对应的数据也是 Server 级别的），实现如下：

   ytt-pc:(none):8.0.28>set global dragnet.log_error_filter_rules='if subsystem==''Server''then drop .';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A，再次查看谬误日志：Server 级别的谬误数据都没记入日志。

  1. 动作还原命令：unset

unset 能够初始化具体的字段，比方初始化这两个错误代码对应的 msg，实现如下：

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 or err_code==MY-013360  then unset msg .';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A，完了查看谬误日志：数据变为“No error message, or error message of non-string type. This is almost certainly a bug!”

   2022-03-24T06:24:14.846763Z 59 [ERROR] [MY-013360] [Server] No error message, or error message of non-string type. This is almost certainly a bug!
   2022-03-24T06:24:14.846925Z 59 [ERROR] [MY-010926] [Server] No error message, or error message of non-string type. This is almost certainly a bug!
  1. 动作限流命令：throttle

假如这两个谬误数据在日志里只能记录两条，实现如下：

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 or err_code==MY-013360 then throttle 2 .';
   Query OK, 0 rows affected (0.00 sec)

无论执行多少次命令 A，同样的谬误数据在日志里只记录两条。

假如限度这两个谬误数据在日志里每分钟记录 2 条，实现如下：

ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 or err_code==MY-013360 then throttle 2/60 .';
   Query OK, 0 rows affected (0.00 sec)

成果为谬误日志以分钟级别记录这两条数据。

  1. 在条件里加上略微简单的判断条件

假如错误代码 MY-010926 对应的 msg 被定制为“好的，就这样 ！”，错误代码 MY-013360 对应的 msg 被定制为“ 不错哦，就这样吧！”，实现如下：

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 then set msg='' 好的，就这样！''elseif err_code==MY-013360 then set msg='' 不错哦，就这样吧！''.';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A，完了查看谬误日志：msg 被对应的定制数据别离笼罩。

   2022-03-24T06:32:06.505039Z 60 [Warning] [MY-013360] [Server] 不错哦，就这样吧！2022-03-24T06:32:06.505296Z 60 [Note] [MY-010926] [Server] 好的，就这样！

因为内容较多，我分成了两局部，第一局部就到此为止。

退出移动版