关于mysql:新特性解读-MySQL-80错误日志深入过滤上

9次阅读

共计 5834 个字符,预计需要花费 15 分钟才能阅读完成。

作者:杨涛涛

资深数据库专家,专研 MySQL 十余年。善于 MySQL、PostgreSQL、MongoDB 等开源数据库相干的备份复原、SQL 调优、监控运维、高可用架构设计等。目前任职于爱可生,为各大运营商及银行金融企业提供 MySQL 相干技术支持、MySQL 相干课程培训等工作。

本文起源:原创投稿

* 爱可生开源社区出品,原创内容未经受权不得随便应用,转载请分割小编并注明起源。

MySQL 8.0 有一个组件叫 component_log_filter_dragnet,它次要性能就是对 MySQL 的谬误日志内容进行定制化过滤与革新,之前有简略提过,这次来具体说下如何应用。

应用前,先装置组件:

INSTALL COMPONENT 'file://component_log_filter_dragnet'; 

装置后,设置零碎参数log_error_services 来启用它。

SET global log_error_services = 'log_filter_dragnet; log_sink_internal';

通过零碎参数dragnet.log_error_filter_rules 来调整过滤规定,比方对指定错误代码限流、革新输入等等。相似对 MySQL 监控,必须有过滤条件、触发动作、最终后果等关键因素。过滤条件则相似 SQL 语句中单个字段或者多个字段组合过滤。比方字段 < 操作符 > 值、NOT EXISTS 字段、过滤条件组合等。存在三种字段:别离为外围字段,可选字段,用户自定义字段。

本篇咱们来介绍外围字段。
外围字段列表如下:
  1. time: 工夫,比方能够设置在 2022 年 12 月 1 日之前都不容许写谬误日志。
  2. msg:错误信息,因为 err_code 间接能定位到 msg,个别很少用它来判断,msg 能够参加定制内容。
  3. prio:优先级,对应的值为 ERROR、WARNING、INFORMATION、NOTE 几个值或者任意组合,与设置零碎参数log_error_verbosity 成果相似。
  4. err_code/SQL_state:具体错误代码,也即错误信息的 KEY。
  5. err_symbol:具体谬误符号,MySQL 每个错误代码都对应一个谬误符号。具体的 err_symbol 数据能够用 perror 打印或者从官网谬误参考页面查找:https://dev.mysql.com/doc/mys…
  6. subsystem: 指定过滤的子系统我的项目,比方:Server、InnoDB 等。
触发动作有以下四个:
  1. drop: 删除谬误数据。
  2. throttle: 对内容限流。
  3. set:定制字段数据。
  4. unset: 重置字段数据。

本篇要革新的谬误日志基于如下命令产生:全篇用 命令 A 代替。

[root@ytt-pc ytt]# mysql -utest33333 
ERROR 1045 (28000): Access denied for user 'test33333'@'localhost' (using password: NO)

对应的谬误日志代码:从后果截取两个 err_code 别离为 MY-013360 和 MY-010926。

2022-03-24T06:03:59.511173Z 50 [Warning] [MY-013360] [Server] Plugin sha256_password reported: ''sha256_password' is deprecated and will be removed in a future release. Please use caching_sha2_password instead'2022-03-24T06:03:59.511322Z 50 [Note] [MY-010926] [Server] Access denied for user'test33333'@'localhost' (using password: NO)
接下来我举例说明一些常见用法:
  1. 字段 time

相似对表工夫字段进行过滤,能够定义一个等值条件或者取值范畴。例如让 2023-01-01 之前的谬误数据不记入日志,配合字段 time 以及动作 drop 来实现:

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if time <''2023-01-01''then drop .';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A,只有工夫还没到 2023 年,谬误日志里就不会记录任何数据。

  1. 字段 prio.

比方能够用字段 prio 来屏蔽 warning 数据,让其不计入谬误日志,实现如下:

   ytt-pc:(none):8.0.28>set global dragnet.log_error_filter_rules='if prio==warning then drop .';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A,完了查看谬误日志:日志里只保留 Note 数据,warning 数据没有记入。

   2022-03-24T06:05:41.037512Z 52 [Note] [MY-010926] [Server] Access denied for user 'test33333'@'localhost' (using password: NO)
  1. 字段 err_code/SQL_state.

err_code 最间接,只有查到错误代码,依据 err_code 来过滤即可。比方禁止错误代码为 MY-010926 的数据记入日志,能够间接用 err_code=MY-010926 来过滤,实现如下:

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 then drop .';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A,完了查看谬误日志:不存在错误代码为 MY-010926 的数据。

   2022-03-24T06:08:47.771611Z 53 [Warning] [MY-013360] [Server] Plugin sha256_password reported: ''sha256_password' is deprecated and will be removed in a future release. Please use caching_sha2_password instead'

假如想定制错误代码,把它们革新成 MySQL 官网谬误参考页面查不到的值,能够配合动作 set 来实现:

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 or err_code==MY-013360  then set err_code=1234567890 .';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A,完了查看谬误日志:相干错误代码全副替换为MY-1234567890

   2022-03-24T06:12:37.456522Z 55 [Warning] [MY-1234567890] [Server] Plugin sha256_password reported: ''sha256_password' is deprecated and will be removed in a future release. Please use caching_sha2_password instead'2022-03-24T06:12:37.456676Z 55 [Note] [MY-1234567890] [Server] Access denied for user'test33333'@'localhost' (using password: NO)

假如想定制谬误数据,能够在 set 动作时,更新字段 msg 的值,实现如下:

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 or err_code==MY-013360  then set msg='' 你来看哦,没有了哦!!!''.';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A,完了查看谬误日志:谬误数据曾经被从新定制。

   2022-03-24T06:16:05.617758Z 56 [Warning] [MY-013360] [Server] 你来看哦,没有了哦!!!2022-03-24T06:16:05.617898Z 56 [Note] [MY-010926] [Server] 你来看哦,没有了哦!!!

以上 err_code 也能够间接替换为对应的 SQL_state,成果一样。比方:sql_state=’HY000’(这里是字符串)。

  1. 字段 err_symbol

之前说过,err_symbol 和 err_code 相似,通过 perror 打印这两个错误代码对应的 err_symbol 如下:括号里大写的两串字符。

   [root@ytt-pc ytt]# perror MY-013360 MY-010926
   MySQL error code MY-013360 (ER_SERVER_WARN_DEPRECATED): '%s' is deprecated and will be removed in a future release. Please use %s instead
   MySQL error code MY-010926 (ER_ACCESS_DENIED_ERROR_WITH_PASSWORD): Access denied for user '%-.48s'@'%-.64s' (using password: %s)

当初来由 err_symbol 实现方才 err_code 定制的 msg 数据:

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_symbol==''ER_SERVER_WARN_DEPRECATED''or err_symbol==''ER_ACCESS_DENIED_ERROR_WITH_PASSWORD''then set msg='' 你来看哦,没有了哦!!''.';
   Query OK, 0 rows affected (0.00 sec)
  1. 字段 subsystem

假如要屏蔽 Server 级别的谬误(本篇这两个错误代码对应的数据也是 Server 级别的),实现如下:

   ytt-pc:(none):8.0.28>set global dragnet.log_error_filter_rules='if subsystem==''Server''then drop .';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A,再次查看谬误日志:Server 级别的谬误数据都没记入日志。

  1. 动作还原命令:unset

unset 能够初始化具体的字段,比方初始化这两个错误代码对应的 msg,实现如下:

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 or err_code==MY-013360  then unset msg .';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A,完了查看谬误日志:数据变为“No error message, or error message of non-string type. This is almost certainly a bug!”

   2022-03-24T06:24:14.846763Z 59 [ERROR] [MY-013360] [Server] No error message, or error message of non-string type. This is almost certainly a bug!
   2022-03-24T06:24:14.846925Z 59 [ERROR] [MY-010926] [Server] No error message, or error message of non-string type. This is almost certainly a bug!
  1. 动作限流命令:throttle

假如这两个谬误数据在日志里只能记录两条,实现如下:

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 or err_code==MY-013360 then throttle 2 .';
   Query OK, 0 rows affected (0.00 sec)

无论执行多少次命令 A,同样的谬误数据在日志里只记录两条。

假如限度这两个谬误数据在日志里每分钟记录 2 条,实现如下:

ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 or err_code==MY-013360 then throttle 2/60 .';
   Query OK, 0 rows affected (0.00 sec)

成果为谬误日志以分钟级别记录这两条数据。

  1. 在条件里加上略微简单的判断条件

假如错误代码 MY-010926 对应的 msg 被定制为“好的,就这样 !”,错误代码 MY-013360 对应的 msg 被定制为“ 不错哦,就这样吧!”,实现如下:

   ytt-pc:ytt:8.0.28>set global dragnet.log_error_filter_rules='if err_code==MY-010926 then set msg='' 好的,就这样!''elseif err_code==MY-013360 then set msg='' 不错哦,就这样吧!''.';
   Query OK, 0 rows affected (0.00 sec)

退出执行命令 A,完了查看谬误日志:msg 被对应的定制数据别离笼罩。

   2022-03-24T06:32:06.505039Z 60 [Warning] [MY-013360] [Server] 不错哦,就这样吧!2022-03-24T06:32:06.505296Z 60 [Note] [MY-010926] [Server] 好的,就这样!

因为内容较多,我分成了两局部,第一局部就到此为止。

正文完
 0