共计 3424 个字符,预计需要花费 9 分钟才能阅读完成。
作者:胡呈清
爱可生 DBA 团队成员,善于故障剖析、性能优化,集体博客:https://www.jianshu.com/u/a95…,欢送探讨。
本文起源:原创投稿
* 爱可生开源社区出品,原创内容未经受权不得随便应用,转载请分割小编并注明起源。
老板让你做一个 MySQL 的性能基准测试,测来测去发现明明机器配置很高,但 tps 就是上不去,为什么?
首先咱们很容易想到的就是 InnoDB 缓冲池设置的不够大、redo log 太小、数据没有充沛预热、sysbench 线程数开的太少 … 这些是很常见的起因,明天咱们来看一些不那么不言而喻的状况。
以下案例的硬件配置为:64core、256Gmemory、raid 10 15K 机械盘。
网络瓶颈
一次压测后果是这样的:
sysbench oltp_read_write --mysql-host=10.18x.xx.104 --mysql-port=3308 \
--mysql-user=sysbench --mysql-password=sysbench --mysql-db=sbtest --tables=10 \
--table-size=10000000 --report-interval=5 --threads=200 --time=600 run
## 后果:SQL statistics:
queries performed:
read: 4682958
write: 1337988
other: 668994
total: 6689940
transactions: 334497 (2783.82 per sec.)
queries: 6689940 (55676.32 per sec.)
ignored errors: 0 (0.00 per sec.)
reconnects: 0 (0.00 per sec.)
后果 tps 只有 2800,显然对不起这么高的硬件,这时候就得察看负载了,个别最显著的一点就是 CPU 使用率低,比方这个案例在我的环境上 CPU 使用率只有 36%,而网卡流量很高达到 124MB/s,差不多就是千兆网卡的极限了(1000Mb/s / 8):
这时候就得意识到“我是不是用错网卡了”?为啥这么说呢,因为个别都会配两块网卡别离拜访内外网,疾速查看网络接口:ifconfig -a|grep -B 1 inet
。立马就看到的确是双网卡,咱们压测用的是 em3,还有另外一个网络接口 vlan2:
而后再确认下带宽:ethtool {dev_name} |grep Speed
。em3 是千兆带宽,压测时 124MB/s 的流量曾经打满了:
所以在 sysbench 压测时换成 vlan2 万兆网络接口后(即批改 –mysql-host=10.0.xx.104),轻松到 1 万。如果切实没有万兆网卡怎么办?那就在本地应用回环接口进行测试吧。下图是应用 3 个网口测试的网络流量图,显著能够看出千兆网口的网络瓶颈:
SSL
MySQL8.0 或者 MySQL5.7 企业版压测时会遇到一个坑:默认开启 SSL,压测后果 tps 只有 3700:
sysbench oltp_read_write --mysql-host=10.18x.xx.104 --mysql-port=3308 \
--mysql-user=sysbench --mysql-password=sysbench --mysql-db=sbtest --tables=10 \
--table-size=10000000 --report-interval=5 --threads=200 --time=600 run
## 后果:SQL statistics:
queries performed:
read: 6303388
write: 1800968
other: 900484
total: 9004840
transactions: 450242 (3747.71 per sec.)
queries: 9004840 (74954.25 per sec.)
Latency (ms):
min: 6.35
avg: 53.31
max: 542.71
95th percentile: 104.84
sum: 24004566.42
和后面说的一样,察看零碎负载,发现 CPU 使用率曾经用到了 80%,然而 CPU system 工夫反常的高,再去看压测后果 95% 的响应工夫也很高须要 100 多毫秒,正是因为须要耗费大量的系统资源进行加密连贯:
解决办法就是配置文件写入 skip-ssl 重启 MySQL。其实 sysbench 有个参数 –mysql-ssl[=on|off],看阐明只有设置为 off 就能够敞开 ssl 连贯,但实测并没有用,通过 select * from status_by_thread where VARIABLE_NAME like '%ssl%'
; 查看连贯还是开启 ssl 的,对 ssl 机制比拟懵逼,欢送有理解的大佬留言。
sort_buffer_size
sort_buffer_size 会影响 sysbench 性能吗?官网文档有这样的形容:
On Linux, there are thresholds of 256KB and 2MB where larger values may significantly slow down memory allocation, so you should consider staying below one of those values.
兴许你会感觉问题不大,但理论看上面这组测试后果:11000tps VS 930tps
## sort_buffer_size=31M
SQL statistics:
queries performed:
read: 16358846
write: 4673956
other: 2336978
total: 23369780
transactions: 1168489 (11678.75 per sec.)
queries: 23369780 (233574.94 per sec.)
## sort_buffer_size=32M
SQL statistics:
queries performed:
read: 392182
write: 112052
other: 56026
total: 560260
transactions: 28013 (930.07 per sec.)
queries: 560260 (18601.38 per sec.)
事实就是这么不堪设想,当 sort_buffer_size 达到阈值 32M 后(我测试的阈值和文档给出的阈值 256K、2M 不一样),内存调配形式产生扭转,内存调配效率变低,CPU system 工夫剧增:
细说一下内存调配形式变动为什么会引起这个后果,参考:【技术分享 | MySQL 内存治理初探】
malloc() 是 C 规范库提供的内存调配函数,对应到零碎调用上,有两种实现形式,即 brk() 和 mmap()。
- brk 形式
对于小块内存(<128K),C 规范库应用 brk() 来调配。也就是通过挪动堆顶的地位来分配内存。这些内存开释后并不会立即偿还零碎,而是被缓存起来,重复使用。
优缺点:brk() 形式能够缩小缺页异样的产生,进步内存拜访效率。不过,因为这些内存没有偿还零碎,所以在内存工作忙碌时,频繁的内存调配和开释会造成内存碎片。
- mmap 匿名映射形式
对于大块内存(>128K),C 规范库应用 mmap() 来调配,也就是在文件映射段找一块闲暇内存调配进来。mmap() 形式调配的内存,会在开释时间接偿还零碎,所以每次 mmap 都会产生缺页异样。
优缺点:mmap() 形式能够将内存及时返回给零碎,防止 OOM。然而工作忙碌时,频繁的内存调配会导致大量的缺页异样,使内核的管理负担增大。这也是 malloc 只对大块内存应用 mmap 的起因。
所谓的缺页异样是指过程申请内存后,只调配了虚拟内存。这些所申请的虚拟内存,只有在首次拜访时才会调配真正的物理内存,也就是通过缺页异样进入内核中,再由内核来调配物理内存(实质就是建设虚拟内存与物理内存的地址映射)。
brk() 形式申请的堆内存因为开释内存后并不会归还给零碎,所以下次申请内存时,并不需要产生缺页异样。
mmap() 形式申请的动态内存会在开释内存后间接偿还零碎,所以下次申请内存时,会产生缺页异样(减少内核态 CPU 开销)。
总结
当压
测后果不乐观,第一工夫去看 CPU 使用率,只有总使用率低,或者 iowait、system 高,都是异常情况,须要去排查起因。my.cnf 标准模板能够解决大部分的压测后果异样的问题,另一方面则须要咱们把握根本的分析方法,再配合一些过往教训,就能测出现实的数据了。