乐趣区

关于java:SQL-优化这么做就对了

jiezi

作者：狼爷 \
起源：https://www.cnblogs.com/power…

一、前言

在利用开发的晚期，数据量少，开发人员开发性能时更器重性能上的实现，随着生产数据的增长，很多 SQL 语句开始暴露出性能问题，对生产的影响也越来越大，有时可能这些有问题的 SQL 就是整个零碎性能的瓶颈。

二、SQL 优化个别步骤

1、通过慢查日志等定位那些执行效率较低的 SQL 语句

2、explain 剖析 SQL 的执行打算

须要重点关注 type、rows、filtered、extra。

type 由上至下，效率越来越高。

  • ALL 全表扫描；
  • index 索引全扫描；
  • range 索引范畴扫描，常用语 <,<=,>=,between,in 等操作；
  • ref 应用非惟一索引扫描或惟一索引前缀扫描，返回单条记录，常呈现在关联查问中；
  • eq_ref 相似 ref，区别在于应用的是惟一索引，应用主键的关联查问；
  • const/system 单条记录，零碎会把匹配行中的其余列作为常数解决，如主键或惟一索引查问；
  • null MySQL不拜访任何表或索引，间接返回后果；
  • 尽管上至下，效率越来越高，然而依据 cost 模型，假如有两个索引 idx1(a, b, c),idx2(a, c)，SQL 为 ”select * from t where a = 1 and b in (1, 2) order by c”; 如果走 idx1，那么是 type 为 range，如果走 idx2，那么 type 是 ref；当须要扫描的行数，应用 idx2 大概是 idx1 的 5 倍以上时，会用 idx1，否则会用 idx2。

Extra

  • Using filesort：MySQL 须要额定的一次传递，以找出如何按排序程序检索行。通过依据联接类型浏览所有行并为所有匹配 WHERE 子句的行保留排序关键字和行的指针来实现排序。而后关键字被排序，并按排序程序检索行；
  • Using temporary：应用了长期表保留两头后果，性能特地差，须要重点优化；
  • Using index：示意相应的 select 操作中应用了笼罩索引（Coveing Index）, 防止拜访了表的数据行，效率不错！如果同时呈现 using where，意味着无奈间接通过索引查找来查问到符合条件的数据；
  • Using index condition：MySQL5.6 之后新增的 ICP，using index condtion 就是应用了 ICP（索引下推），在存储引擎层进行数据过滤，而不是在服务层过滤，利用索引现有的数据缩小回表的数据。

3、show profile 剖析

理解 SQL 执行的线程的状态及耗费的工夫。

默认是敞开的，开启语句“set profiling = 1;”

SHOW PROFILES ;SHOW PROFILE FOR QUERY  #{id};

4、trace

trace 剖析优化器如何抉择执行打算，通过 trace 文件可能进一步理解为什么优惠券抉择 A 执行打算而不抉择 B 执行打算。

set optimizer_trace="enabled=on";set optimizer_trace_max_mem_size=1000000;select * from information_schema.optimizer_trace;

5、确定问题并采纳相应的措施

  • 优化索引；
  • 优化 SQL 语句：批改 SQL、IN 查问分段、工夫查问分段、基于上一次数据过滤；
  • 改用其余实现形式：ES、数仓等；
  • 数据碎片解决。

三、场景剖析

1、最左匹配

1）索引

KEY `idx_shopid_orderno` (`shop_id`,`order_no`)

2）SQL 语句

select * from _t where orderno=''

查问匹配从左往右匹配，要应用 order_no 走索引，必须查问条件携带 shop_id 或者索引 (shop_id,order_no) 调换前后程序。

2、隐式转换

1）索引

KEY `idx_mobile` (`mobile`)

2）SQL 语句

select * from _user where mobile=12345678901

隐式转换相当于在索引上做运算，会让索引生效。mobile 是字符类型，应用了数字，应该应用字符串匹配，否则 MySQL 会用到隐式替换，导致索引生效。

3、大分页

1）索引

KEY `idx_a_b_c` (`a`, `b`, `c`)

2）SQL 语句

select * from _t where a = 1 and b = 2 order by c desc limit 10000, 10;

对于大分页的场景，能够优先让产品优化需要，如果没有优化的，有如下两种优化形式：

  • 一种是把上一次的最初一条数据，也即下面的 c 传过来，而后做“c < xxx”解决，然而这种个别须要改接口协议，并不一定可行；‘
  • 另一种是采纳提早关联的形式进行解决，缩小 SQL 回表，然而要记得索引须要齐全笼罩才有成果，SQL 改变如下：
select t1.* from _t t1, (select id from _t where a = 1 and b = 2 order by c desc limit 10000, 10) t2 where t1.id = t2.id;

4、in + order by

1）索引

KEY `idx_shopid_status_created` (`shop_id`, `order_status`, `created_at`)

2）SQL 语句

select * from _order where shop_id = 1 and order_status in (1, 2, 3) order by created_at desc limit 10

in 查问在 MySQL 底层是通过 n * m 的形式去搜寻，相似 union，然而效率比 union 高。

in 查问在进行 cost 代价计算时（代价 = 元组数 * IO 平均值），是通过将 in 蕴含的数值，一条条去查问获取元组数的，因而这个计算过程会比拟的慢，所以 MySQL 设置了个临界值(eq_range_index_dive_limit)，5.6 之后超过这个临界值后该列的 cost 就不参加计算了。因而会导致执行打算抉择不精确。默认是 200，即 in 条件超过了 200 个数据，会导致 in 的代价计算存在问题，可能会导致 Mysql 抉择的索引不精确。

3）解决形式

能够 (order_status, created_at) 调换前后程序，并且调整 SQL 为提早关联。

5、范畴查问阻断，后续字段不能走索引

1）索引

KEY `idx_shopid_created_status` (`shop_id`, `created_at`, `order_status`)

2）SQL 语句

select * from _order where shop_id = 1 and created_at > '2021-01-01 00:00:00' and order_status = 10

范畴查问还有“IN、between”。

6、不等于、不蕴含不能用到索引的疾速搜寻

能够用到 ICP

select * from _order where shop_id=1 and order_status not in (1,2)select * from _order where shop_id=1 and order_status != 1

在索引上，防止应用 NOT、!=、<>、!<、!>、NOT EXISTS、NOT IN、NOT LIKE 等。

7、优化器抉择不应用索引的状况

如果要求拜访的数据量很小，则优化器还是会抉择辅助索引，然而当拜访的数据占整个表中数据的蛮大一部分时（个别是 20% 左右），优化器会抉择通过汇集索引来查找数据。

select * from _order where  order_status = 1

查问出所有未领取的订单，个别这种订单是很少的，即便建了索引，也没法应用索引。

8、简单查问

select sum(amt) from _t where a = 1 and b in (1, 2, 3) and c > '2020-01-01';select * from _t where a = 1 and b in (1, 2, 3) and c > '2020-01-01' limit 10;

如果是统计某些数据，可能改用数仓进行解决；

如果是业务上就有那么简单的查问，可能就不倡议持续走 SQL 了，而是采纳其余的形式进行解决，比方应用 ES 等进行解决。

9、asc 和 desc 混用

select * from _t where a=1 order by b desc, c asc

desc 和 asc 混用时会导致索引生效。

10、大数据

对于推送业务的数据存储，可能数据量会很大，如果在计划的抉择上，最终抉择存储在 MySQL 上，并且做 7 天等有效期的保留。

那么须要留神，频繁的清理数据，会照成数据碎片，须要分割 DBA 进行数据碎片解决。

参考资料

  • 深入浅出 MySQL：数据库开发、优化与治理保护（唐汉明 / 翟振兴 / 关宝军 / 王洪权）
  • MySQL 技术底细——InnoDB 存储引擎（姜承尧）
  • https://dev.mysql.com/doc/ref…
  • https://dev.mysql.com/doc/ref…
  • https://www.yuque.com/docs/sh…

近期热文举荐：

1.1,000+ 道 Java 面试题及答案整顿(2022 最新版)

2. 劲爆！Java 协程要来了。。。

3.Spring Boot 2.x 教程，太全了！

4. 别再写满屏的爆爆爆炸类了，试试装璜器模式，这才是优雅的形式！！

5.《Java 开发手册（嵩山版）》最新公布，速速下载！

感觉不错，别忘了顺手点赞 + 转发哦！

退出移动版