关于数据库:高性能数据访问中间件-OBProxy三问题排查和服务运维

1 引言

上篇文章咱们解说了 OBProxy 的装置部署，在实际时，大家还可能因为机器环境、操作程序不对等问题导致装置部署失败，这时候能够到 OceanBase 的开源社区问答板块发问，会有业余的工程师答复你的问题。（也能够退出钉群：33254054 和技术同学面对面交换）实现了 OBProxy 的装置部署后，就能够应用 OBProxy 拜访 OceanBase 数据库了。

刚开始应用 OBProxy ，排查问题和运维 OBProxy 是大家将要遇到的拦路虎。因而，本章咱们将具体解说 问题排查伎俩和服务运维办法 ，让大家更轻松的应用 OBProxy ，并成为 OBProxy 的专家。

OBProxy 是数据库拜访链路上重要的一环，联合本文内容，大家能够触类旁通，多多思考分布式系统的链路追踪、问题排查等内容，这对了解分布式系统有很大的帮忙。好了，当初咱们开始吧！

2 问题排查

大部分状况下，排查问题是须要团队协同实现的，上面我会介绍一些标准和思路，不便大家交换和解决问题。

2.1 形容问题

遇到问题时，咱们首先须要形容分明问题，最好是可能复现问题，这样能力让研发同学无效的解决问题。比方在 OceanBase 开源社区的问答版里发问时，倡议形容问题能够用如下的模版：

<!-- 为了防止屡次沟通确认，晋升效率，请提供以下信息 -->【 应用环境 】生产环境 or 测试环境【 OB or 其余组件 】【 应用版本 】【问题形容】清晰明确形容问题【复现门路】问题呈现前后相干操作【问题景象及影响】【附件】

这里举荐大家依照要求填写，填写内容的同时，也利于大家将问题梳理的更分明。问题形容倡议至多要包含以下两点：

问题工夫：对于不好复现的问题，工夫信息有利于进行问题梳理，不便对齐问题。
客户端报错：客户端报错蕴含丰盛的信息（SQL、堆栈、执行工夫等），具体的信息对排查问题十分有帮忙；当有论断时，能够前后对照后果，进一步验证论断。

2.2 剖析问题

形容完问题后，对于问题排查人员，就须要剖析问题。在剖析问题前，首先要全局理解数据库拜访链路，次要蕴含以下模块：

从全局再去看部分，思路会更清晰。OBProxy和各个模块都有交互，大家有空能够多理解和学习下利用、LB 和ObServer 的常识。当剖析问题时，依照从前往后（从利用端开始）的程序一个个剖析，先确定哪个模块的问题，再确定模块的具体问题。

上面介绍一些低效的问题排查办法，大家尽量避免：

客户说利用应用数据库报错，间接去 OBProxy 的日志目录搜寻 WARN 和 ERROR 级别日志，如果日志打印不标准或者 WARN/ERROR 日志太多，这种办法就非常的低效，甚至和客户问题没任何关系。
客户说有数据库连贯断了，我跳过了中间环节，间接从 OceanBase 数据库开始排查，后果未发现问题。

2.3 归类问题

本大节对 OBProxy 常见问题进行归类，不便大家在剖析 OBProxy 模块时有更好的思路。从业务视角去看，OBProxy 的问题次要蕴含以下几类，下图中 ODP 是 OBProxy 的简称。

登录失败：绝大部分都是某个中央配置呈现问题，比拟容易复现和排查。
SQL 执行：呈现问题品种很多，有些疑难问题很难排查。
返回谬误：后端服务返回明确的错误码，依据错误码去 OBServer 和 OBProxy 断排查。
慢 SQL：须要确定每个模块的耗时，找到瓶颈点去优化，除了 2.2 中的模块，网络也是一个重要因素。
断连贯：和慢 SQL 相似，须要先排查哪个模块被动断开连接（被动发送 FIN 报文），而后排查具体模块。

2.4 总结

通过后面内容介绍，大家就有了问题排查的方法论，但这只是万里长征第一步，因为文章篇幅无限，没有在持续深刻介绍上来，前面有一些简略例子，不便大家进一步理解。大家还须要一直的实战总结，能力面对问题做到熟能生巧。

3 OBProxy 日志

解决 OBProxy 的问题时，有三大法宝：OBProxy 日志、Linux 命令（网络命令、系统命令和文本命令）和 OceanBase 云平台（OceanBase Cloud Platform，简称 OCP）。其中 Linux 命令和监控平台的知识点非常通用，网络上材料很多，大家能够自学，把握后对大家排查问题帮忙很大。

本节咱们次要介绍和 OBProxy 关系比拟严密的日志局部，OBProxy 的日志有多种类别，咱们将介绍每种日志的作用，帮忙大家排查问题。

3.1 谬误日志

谬误日志的文件名叫做 obproxy_error.log，谬误日志会记录执行谬误的申请，包含 OBProxy 本身谬误和 OBServer 返回谬误。咱们以 select obproxy_error from dual 做测试，其中 obproxy_error 字段没有加引号，会被当作列解决，导致执行失败。客户端报错如下：

MySQL [test]> select obproxy_error from dual;ERROR 1054 (42S22): Unknown column 'obproxy_error' in 'field list'

关上obproxy_error.log，内容如下：

2022-07-11 10:26:09.358231,undefined,,,,ob9988.zhixin.lm.xx.xx.xx.xx:sys:test,OB_MYSQL,,,COM_QUERY,SELECT,failed,1054,select obproxy_error from dual,42423us,454us,0us,41222us,Y0-7F4B1EF653A0,,,,0,xx.xx.xx.xx:33041,Unknown column 'obproxy_error' in 'field list'# 日志通过逗号分隔，如果SQL中有逗号，会通过%2C代替，通过tr ',' '\n'替换后果如下1,2022-07-11 10:26:09.358231    #日志打印工夫2,undefined           # sharding模式下逻辑租户名3,                    # 无需关注，外部应用4,                    # 无需关注，外部应用5,                    # sharding模式下逻辑库名6,ob9988.zhixin.lm.xx.xx.xx.xx:sys:test  # 物理库信息（cluster:tenant:database）7,OB_MYSQL         # 数据库类型8,                 # 逻辑表名9,                 # 物理表名10,COM_QUERY       # SQL 命令（COM_QUERY、COM_STMT_PREPARE等）11,SELECT          # SQL 类型12,failed          # 执行后果（success/failed）13,1054            # 错误码（succ时为空）14,select obproxy_error from dual  # SQL语句15,42423us         # 执行总耗时（ms，包含外部 SQL 执行耗时16,454us           # 预执行工夫17,0us             # 建设连接时间18,41222us         # 数据库执行工夫19,Y0-7F4B1EF653A0 # OBProxy外部日志trace_id20,           # 无需关注，外部应用21,           # 无需关注，外部应用22,           # 无需关注，外部应用23,0          # 无需关注，外部应用24,xx.xx.xx.xx:33041  # 路由到的ObServer的地址信息25,Unknown column 'obproxy_error' in 'field list' # 报错信息

3.2 审计日志

审计日志的文件名叫做 obproxy_digest.log，审计日志记录执行工夫大于参数 query_digest_time_threshold 阈值（默认 100ms）的申请和谬误响应申请。对于3.1中的例子，咱们从 obproxy_digest.log 中也能够看到日志。

2022-07-11 10:26:09.358221,undefined,,,,ob9988.zhixin.lm.xx.xx.xx.xx:sys:test,OB_MYSQL,,,COM_QUERY,SELECT,failed,1054,select obproxy_error from dual,42423us,454us,0us,41222us,Y0-7F4B1EF653A0,,,,0,xx.xx.xx.xx:33041

除了执行谬误 SQL，咱们应用 select sleep(3) from dual 模拟慢 SQL，执行后，查看 obproxy_digest.log，能够看到 OBProxy 执行破费了 409us，ObServer 执行花了 3039883us 。内容如下：

2022-07-11 14:32:51.758265,undefined,,,,ob9988.zhixin.lm.xx.xx.xx.xx:sys:test,OB_MYSQL,,,COM_QUERY,SELECT,success,,select sleep(3),3041116us,409us,0us,3039883us,Y0-7F4B1CEA13A0,,,,0,xx.xx.xx.xx:33041日志剖析1,2022-07-11 14:32:51.758265    #日志打印工夫2,undefined          # sharding模式下逻辑租户名3,                   # 无需关注，外部应用4,                   # 无需关注，外部应用5,                   # sharding模式下逻辑库名6,ob9988.zhixin.lm.100.88.147.179:sys:test  # 物理库信息（cluster:tenant:database）7,OB_MYSQL         # 数据库类型8,                 # 逻辑表名9,                 # 物理表名10,COM_QUERY       # SQL 命令（COM_QUERY、COM_STMT_PREPARE等）11,SELECT          # SQL 类型12,success         # 执行后果（success/failed）13,                # 错误码（succ时为空）14,select sleep(3) # SQL语句15,3041116us       # 执行总耗时（ms，包含外部 SQL 执行耗时16,409us           # 预执行工夫17,0us             # 建设连接时间18,3039883us       # 数据库执行工夫19,Y0-7F4B1CEA13A0 # OBProxy外部日志trace_id20,                # 无需关注，外部应用21,                # 无需关注，外部应用22,                # 无需关注，外部应用23,0               # 无需关注，外部应用24,xx.xx.xx.xx:33041  # 路由到的ObServer的地址信息

3.3 慢日志

慢日志的文件名叫做 obproxy_slow.log ，慢日志记录执行工夫大于 slow_query_time_threshold 阈值（默认 500ms）的申请。如上节 SQL select sleep(3) from dual 在obproxy_slow.log 中也有记录，内容如下：

2022-07-11 14:32:51.758270,undefined,,,,ob9988.zhixin.lm.xx.xx.xx.xx:sys:test,OB_MYSQL,,,COM_QUERY,SELECT,success,,select sleep(3),3041116us,409us,0us,3039883us,Y0-7F4B1CEA13A0,,,,0,xx.xx.xx.xx:33041

慢日志的日志格局和审计日志的格局雷同，此处不在介绍。

对于慢 SQL，在 obproxy.log 也会有记录，关键字是 Slow Query ，obproxy.log 中记录的信息更加具体，如下面的SQL，搜寻 obproxy.log 失去：

[2022-07-11 14:32:51.758195] WARN  [PROXY.SM] update_cmd_stats (ob_mysql_sm.cpp:8425) [74744][Y0-7F4B1CEA13A0] [lt=7] [dc=0] Slow Query: ((client_ip={127.0.0.1:50422},   // 发送SQL的客户端地址server_ip={xx.xx.xx.xx:33041}, // SQL被路由到的指标BOServerobproxy_client_port={xx.xx.xx.xx:52052},  // 和OBServer连贯的本地地址server_trace_id=Y81100B7C0535-0005E3460FBBE3CD-0-0, // 指标OBServer中执行过程中的trace idroute_type=ROUTE_TYPE_NONPARTITION_UNMERGE_LOCAL, // SQL应用的路由策略user_name=root,         // 用户名tenant_name=sys,        // 租户名cluster_name=ob9988.zhixin.lm.100.88.147.179,  // 集群名logic_database_name=,  // 逻辑库名logic_tenant_name=,    // 逻辑租户名ob_proxy_protocol=0,   // 协定类型cs_id=14,         // client login时看到的connection id, proxy调配proxy_sessid=7230691598940700681, // client 拜访ob时外部记录connection idss_id=21, server_sessid=3221588238,  // SQL在指标observer中的connection id, observer 调配sm_id=14, cmd_size_stats={    client_request_bytes:20,  // client发给proxy的申请包大小    server_request_bytes:38,  // OBProxy发给指标observer的申请包大小    server_response_bytes:0,  // 指标observer发给proxy的响应包大小    client_response_bytes:71}, // OBProxy发给client的响应包大小cmd_time_stats={    client_transaction_idle_time_us=0, // 在事务中该条SQL与上一条SQL执行完结之间的间隔时间, 即client事务间隔时间    client_request_read_time_us=97, // OBProxy从client socket读取申请包的耗时    client_request_analyze_time_us=95, // OBProxy剖析client的SQL耗时    cluster_resource_create_time_us=0, // OBProxy创立集群资源耗时(仅首次拜访集群时须要创立)    pl_lookup_time_us=0, // 依据SQL获取波及路由表的耗时    pl_process_time_us=0,  // 对波及路由表的进行筛选排序的耗时    congestion_control_time_us=21,  // 依据SQL获取波及黑名单信息的耗时    congestion_process_time_us=3,  // 对波及黑名单的进行查看过滤的耗时    do_observer_open_time_us=55,  // 对指标observer获取可用连贯的耗时, 蕴含connect_time        server_connect_time_us=0,  // 对指标observer创立连贯的耗时    server_sync_session_variable_time_us=0,  // 对抉择的指标连贯进行初始化的耗时, 包含saved_login, 同步db, 同步零碎变量, 同步last_insert_id, 同步start_trans        server_send_saved_login_time_us=0,  // 对抉择的指标连贯进行saved login耗时        server_send_use_database_time_us=0,  // 对抉择的指标连贯同步db耗时        server_send_session_variable_time_us=0,  // 对抉择的指标连贯同步已批改的零碎变量耗时        server_send_all_session_variable_time_us=0,  // 对抉择的指标连贯同步所有零碎耗时        server_send_last_insert_id_time_us=0, // 对抉择的指标连贯同步last_insert_id耗时        server_send_start_trans_time_us=0,   // 对抉择的指标连贯同步start_trans/begin耗时    build_server_request_time_us=23,  // 构建对指标server的申请包的耗时    plugin_compress_request_time_us=0,   // 对申请包进行压缩耗时    prepare_send_request_to_server_time_us=409,  // OBProxy承受到客户端申请，到转发到observer执行前总计工夫，失常应该是后面所有工夫之和    server_request_write_time_us=32,  // OBProxy向指标server socket发送申请包的耗时    server_process_request_time_us=3039883,   // 指标server该执行SQL的耗时    server_response_read_time_us=67,   // OBProxy从指标server socket读取响应包的耗时    plugin_decompress_response_time_us=59, // 对响应包进行解压缩耗时    server_response_analyze_time_us=70,  // 对响应包进行剖析的耗时    ok_packet_trim_time_us=0, // 对响应包trim掉最初一个ok包的耗时    client_response_write_time_us=185,  // OBProxy向client socket发送响应包的耗时    request_total_time_us=3041116},  // OBProxy解决该申请总工夫, 等于后面所有耗时之和sql=select sleep(3)   //client的申请SQL)

下面内容十分的具体，不便定位慢 SQL 问题。对于每个局部的含意，大家能够参考第一篇《OceanBase 改写系列一：OceanBase 查问改写实际概述》中讲的 SQL 执行流程（确认下文章和链接是否正确）去对应。

3.4 统计日志

统计日志的文件名叫做 obproxy_stat.log。统计日志默认每分钟（monitor_stat_dump_interval参数管制）输入一次。通过该日志能够查看 OBProxy 一分钟内SQL的执行状况，举个例子，查看 OBProxy 是否有申请流量，看该日志记录即可。参考例子如下：

2022-07-11 10:26:59.499204,undefined,,ob9988.zhixin.lm.xx.xx.xx.xx:sys:test,OB_MYSQL,SELECT,success,,1,1,0,0,41480us,332us,40369us日志剖析1,2022-07-11 10:26:59.499204   #日志打印工夫2,undefined      # sharding模式下逻辑租户名3,               # sharding模式下逻辑库名4,ob9988.zhixin.lm.xx.xx.xx.xx:sys:test  # 物理库信息（cluster:tenant:database）5,OB_MYSQL  # 数据库类型6,SELECT    # SQL 类型7,success   # 执行后果（success/failed）8,          # 错误码（succ时为空）9,1         # 总申请数量1           # 30 ms ~ 100 ms 申请数量0           # 100 ms ~ 500 ms 申请数量0           # 大于 500 ms 申请数量41480us     # 执行总耗时（ms，包含外部 SQL 执行耗时）332us       # 预执行工夫40369u      # 数据库执行工夫

3.5 主日志

主日志的文件名叫做 obproxy.log，有 DEBUG、TRACE、INFO、ERROR 四种级别，通过 syslog_level 参数管制，当须要进一步排查问题起因时，通过 trace_id 字段能够过滤失去一个session上的所有日志，查看obproxy.log 要求对 OBProxy 的代码实现十分相熟，有肯定技术难度。感兴趣同学能够查看 OBProxy 源代码。

3.6 总结

OBProxy 的日志在排查问题时十分的有用，把握下面内容能够应答大部分的 OBProxy 问题。本节对日志格局做了介绍，并联合例子进一步阐明，置信大家能够疾速把握。

4 服务运维

OBProxy 有一个管理员账号 root@proxysys ，为了平安，咱们对该账号的登录地址做了限度，要求大家本机登录进行运维操作。上面咱们将从配置管理和外部命令两方面做具体介绍。

4.1 配置管理

OBProxy 的配置参数参考文档参数阐明。应用root@proxysys登录，就能够查看和批改配置项：

# 查看日志级别MySQL [(none)]> show proxyconfig like '%syslog_level%';+--------------+-------+-----------------------------------------------------------------------------------+-------------+---------------+| name         | value | info                                                                              | need_reboot | visible_level |+--------------+-------+-----------------------------------------------------------------------------------+-------------+---------------+| syslog_level | DEBUG | specifies the current level of logging: DEBUG, TRACE, INFO, WARN, USER_ERR, ERROR | false       | USER          |+--------------+-------+-----------------------------------------------------------------------------------+-------------+---------------+# 批改日志级别为INFOMySQL [(none)]> alter proxyconfig set syslog_level = INFO;Query OK, 0 rows affected (0.01 sec)

对于 show proxyconfig 的输出，各字段含意如下：

name：配置名，所有配置项名字能够从参数阐明文档获取。
value：配置内容，次要是整型和字符串格局。当内容不非法时会报错。
info：形容配置参数的具体信息。
need_reboot：示意参数是否重启失效。这里须要留神有些参数尽管不须要重启，但有时只对新的连贯失效。

4.2 外部命令

外部命令只在 OBProxy 上执行，不会转发给 OBServer，次要用于获取 OBProxy 的外部状态或者批改外部行为。这部分内容和原理关系严密，本节只做简要介绍，后续大家对 OBProxy 有更深刻理解后能够再学习。

5 总结

本章内容是对 OBProxy 的问题排查总结，这些办法凝聚了 OBProxy 技术专家多年的心血，通过了大量的实战测验。不仅能够用来学习，也能够作为手册，当遇到 OBProxy 问题时翻阅查看相干内容阐明，心愿能帮忙到大家！

6 课后互动

6.1 上期互动

obproxyd.sh 脚本对 OBProxy 过程做了探活，请问探活办法是什么？除了脚本中的办法，还有哪些探活办法？这些办法有什么优缺点，请举例说明。

obproxyd.sh通过查看/proc/$pid 文件是否存进行探活。还能够通过检测端口是否在监听确认是否存活。这两种办法做到过程级别探测，但某些场景下，如果过程异样不能执行业务逻辑就无奈探测到，更进一步能够发送利用心跳报文进行检测。

6.2 本期互动

小明想查看所有通过 OBProxy 的 SQL，请问有什么方法？