欢送来到 GreatSQL社区分享的MySQL技术文章,如有疑难或想学习的内容,能够在下方评论区留言,看到后会进行解答
- GreatSQL社区原创内容未经受权不得随便应用,转载请分割小编并注明起源。
- 1、测试环境
- 2、测试数据
GreatSQL马上正式开源了,这次又新增了两个重磅个性:InnoDB事务锁优化 以及 InnoDB引擎的并行查问优化,这两个个性是由华为鲲鹏计算团队奉献的Patch合并而来。
InnoDB并行查问优化怎么实现的?
依据B+树的特点,能够将B+树划分为若干子树,此时多个线程能够并行扫描同一张InnoDB表的不同局部。对执行打算进行多线程革新,每个子线程执行打算与MySQL原始执行打算统一,但每个子线程只需扫描表的局部数据,子线程扫描实现后再进行后果汇总。通过多线程革新,能够充分利用多核资源,晋升查问性能。
优化后,在TPC-H测试中体现优异,最高可晋升30倍,均匀晋升15倍。
该个性实用于周期性数据汇总报表之类的SAP、财务统计等业务,例如月初、月底跑批业务等。
应用限度:
- 暂不反对子查问,可想方法革新成JOIN。
- 临时只反对ARM架构平台,X86架构平台优化也会尽快实现。
对于该Patch详情见:https://support.huaweicloud.c...
本文针对 InnoDB引擎的并行查问优化 个性进行比照测试。
1、测试环境
服务器:神州鲲泰R222,华为Hi1616 * 2(主频 2400 MHz 共64个逻辑CPU),256G内存。
操作系统:Docker 20.10.2,Docker容器下的CentOS Linux release 7.9.2009,Linux 4.15.0-29-generic。
本次测试采纳TPC-H,dbgen结构测试数据参数 dbgen -vf -s 50,导入后数据库物理大小约70G。GreatSQL要害配置:
#运行Q10测试时,须要较大长期表temptable_max_ram = 6G#使得本测试基于纯内存场景innodb_buffer_pool_size=96G#InnoDB并行查问优化#global级别,设置并行查问的开关,bool值,on/off。默认off,敞开并行查问个性。可在线动静批改。force_parallel_execute = ON#global级别,设置零碎中总的并行查问线程数。有效值的范畴是(0, ULONG_MAX),默认值是64。parallel_max_threads = 64#global级别,并行执行时leader线程和worker线程应用的总内存大小下限。有效值的范畴是(0, ULONG_MAX),默认值是1Gparallel_memory_limit = 32G
2、测试数据
测试过程中,留神要确保每次查问都是基于纯内存的场景,也就是确保innodb_buffer_pool_size大于数据库物理大小,并确认查问过程中没有额定的物理I/O产生。
个别SQL例如Q10在运行过程中会产生长期表(Using temporary),这时候须要加大 temptable_max_ram 选项值。该选项默认值1G,在上述测试数据量前提下,大略须要加大到4G能力hold住。如果该选项值不够的话,可能运行过程中会提醒诸如 The table '/tmp/#sql57_a1_0' is full 这样的谬误提醒,而后退出查问,这是MySQL的BUG#99100。
InnoDB并行查问个性通过HINT语法能够很不便地应用,首先确认启用了该个性(可在线动静关上):
$ mysqladmin var|grep force_parallel_execute| force_parallel_execute | ON
那么默认所有的SQL只有符合条件,即可主动采纳并行查问,通过查看执行打算确认:
mysql> EXPLAIN SELECT ... FROM ... WHERE ......Parallel execute (4 workers)...
能够看到执行打算输入中蕴含 Parallel execute (4 workers) 关键字,这就示意最高可并行4个线程查问。
也能够查看树状执行打算:
mysql> EXPLAIN FORMAT=TREE SELECT ... FROM ... WHERE ......| -> Limit: 1 row(s) -> Sort: lineitem.l_returnflag, lineitem.l_linestatus, limit input to 1 row(s) per chunk -> Table scan on <temporary> -> Aggregate using temporary table -> Parallel scan on <temporary> -> Sort: lineitem.l_returnflag, lineitem.l_linestatus -> Table scan on <temporary> -> Aggregate using temporary table -> Filter: (lineitem.l_shipdate <= <cache>((DATE'1998-12-01' - interval '88' day))) (cost=6342898.28 rows=19669815) -> PQblock scan on lineitem (cost=6342898.28 rows=59015354)...
能够看到执行打算中蕴含 PQblock scan on ... 关键字,并且留神到同一行里提醒 cost=6342898.28,这是启用并行查问的条件之一,也就是 cost 超过了 parallel_cost_threshold = 1000 设置的阈值开关。
一条SQL若不想启用并行查问,加上相应的HINT即可:
mysql> SELECT /*+ NO_PQ */ ... FROM ... WHERE ...
也能够动静调整并行线程数为最高64线程:
mysql> SELECT /*+ PQ(64) */ ... FROM ... WHERE ...
好了,间接查看后果比照数据:
从这个测试后果简略概括几条:
- 1、均匀晋升约14倍,最高晋升约32倍。
- 2、如果并发量更高,则优化成果更好。
- 3、Q5原始SQL性能晋升不多,调整JOIN程序后性能晋升显著(从只晋升28%跃升到11倍)。
GreatSQL将于近期正式开源,欢送关注。
Enjoy GreatSQL :)
文章举荐:
GreatSQL MGR FAQ
https://mp.weixin.qq.com/s/J6...
万答#12,MGR整个集群挂掉后,如何能力主动选主,不必手动干涉
https://mp.weixin.qq.com/s/07...
『2021数据技术嘉年华·ON LINE』:《MySQL高可用架构演进及实际》
https://mp.weixin.qq.com/s/u7...
一条sql语句慢在哪之抓包剖析
https://mp.weixin.qq.com/s/AY...
万答#15,都有哪些状况可能导致MGR服务无奈启动
https://mp.weixin.qq.com/s/in...
技术分享 | 为什么MGR一致性模式不举荐AFTER
https://mp.weixin.qq.com/s/rN...
对于 GreatSQL
GreatSQL是由万里数据库保护的MySQL分支,专一于晋升MGR可靠性及性能,反对InnoDB并行查问个性,是实用于金融级利用的MySQL分支版本。
Gitee:
https://gitee.com/GreatSQL/Gr...
GitHub:
https://github.com/GreatSQL/G...
Bilibili:
https://space.bilibili.com/13...
微信&QQ群:
可搜寻增加GreatSQL社区助手微信好友,发送验证信息“加群”退出GreatSQL/MGR交换微信群
QQ群:533341697
微信小助手:wanlidbc
本文由博客一文多发平台 OpenWrite 公布!