以MySql为例

SQL优化步骤

  1. 通过 show status命令了解各种sql的执行频率
  2. 定位执行效率较低的sql语句
  3. 通过explain(或desc)分析低效sql的执行计划
  4. 通过 show profile 分析sql
  5. 通过trace分析 优化器 如何选择执行计划
  6. 确定问题并采取相应的优化措施

    1、索引

    SQL优化主要就是优化索引,索引相当于是书的目录,index是帮助Mysql高效获取数据的数据结构。索引是数据结构(树:B树、Hash树…)

    索引优缺点

    优点
  • 大大加快数据的检索速度,这也是创建索引的主要原因。
  • 可以加速表和表之间的连接。
  • 索引在实现数据的参照完整性方面特别有意义,例如,在外键列上创建索引可以有效地避免死锁的发生,也可以防止当更新父表主键时,数据库对字表的全表锁定。
  • 可以有效地减少磁盘I/O。
  • 当使用分组GROUP BY和排序 ORDER BY字句进行数据检索时,可以显著减少查询中分组和排序的时间,大大加快数据的检索速度。
  • 创建唯一性索引,可以保证数据库表中每一行数据的唯一性。
  • 通过使用索引,可以在查询的过程中,使用优化隐藏器,提高系统的性能。

缺点

  • 索引必须创建在表上,不能创建在视图上。
  • 创建索引和维护索引要消费时间,这种时间随着数据量的增加而增加。
  • 建立索引需要占用屋里空间,如果要简历聚簇索引,那么需要的空间会很大。
  • 当对表中的数据进行增加、删除和更新的时候,系统必须要有额外的时间来同时对索引进行更新维护,以维持数据和索引的一致性,所以,索引降低了数据的维护速度。

    索引分类

  1. 聚集索引(主键索引):在数据库里面,所有行数都会按照主键索引进行排序。
  2. 非聚集索引:就是给普通字段加上索引。
  3. 联合索引:就是好几个字段组成的索引,称为联合索引。

    2、EXPLAIN

    1. EXPLAIN
    2. ...SQL语句
    image.png
  • type列,连接类型。一个好的sql语句至少要达到range级别。杜绝出现all级别
  • key列,使用到的索引名。如果没有选择索引,值是NULL。可以采取强制索引方式
  • key_len列,索引长度
  • rows列,扫描行数。该值是个预估值
  • extra列,详细说明。注意常见的不太友好的值有:Using filesort, Using temporary

    3、SQL语句中IN包含的值不应过多

    MySQL对于IN做了相应的优化,即将IN中的常量全部存储在一个数组里面,而且这个数组是排好序的。但是如果数值较多,产生的消耗也是比较大的。再例如:select id from table_name where num in(1,2,3) 对于连续的数值,能用 between 就不要用 in 了;再或者使用连接来替换。

    4、SELECT语句务必指明字段名称

    SELECT *增加很多不必要的消耗(cpu、io、内存、网络带宽);增加了使用覆盖索引的可能性;当表结构发生改变时,前断也需要更新。所以要求直接在select后面接上字段名。

    5、当只需要一条数据的时候,使用limit 1

    这是为了使EXPLAIN中type列达到const类型

    6、如果排序字段没有用到索引,就尽量少排序

    7、如果限制条件中其他字段没有索引,尽量少用or

    or两边的字段中,如果有一个不是索引字段,而其他条件也不是索引字段,会造成该查询不走索引的情况。很多时候使用 union all 或者是union(必要的时候)的方式来代替“or”会得到更好的效果。

    8、尽量用union all代替union

    union和union all的差异主要是前者需要将结果集合并后再进行唯一性过滤操作,这就会涉及到排序,增加大量的CPU运算,加大资源消耗及延迟。当然,union all的前提条件是两个结果集没有重复数据。

    9、不使用ORDER BY RAND()

    ``sql select id fromtable_name` order by rand() limit 1000;
优化为:
```sql
select id from `table_name` t1 join 
(select rand() * (select max(id) from `table_name`) as nid) t2 
on t1.id > t2.nid limit 1000;

10、区分in和exists, not in和not exists

select * from 表A where id in (select id from 表B)
-- 相当于
select * from 表A where exists
(select * from 表B where 表B.id=表A.id)

区分in和exists主要是造成了驱动顺序的改变(这是性能变化的关键),如果是exists,那么以外层表为驱动表,先被访问,如果是IN,那么先执行子查询。所以IN适合于外表大而内表小的情况;EXISTS适合于外表小而内表大的情况。

关于not in和not exists,推荐使用not exists,不仅仅是效率问题,not in可能存在逻辑问题。如何高效的写出一个替代not exists的sql语句?

-- 原SQL语句
select colname … from A表 
where a.id not in (select b.id from B表)
-- 高效的sql语句
select colname … from A表 Left join B表 on 
where a.id = b.id where b.id is null

11、使用合理的分页方式以提高分页的效率

select id,name from table_name limit 866613, 20

使用上述sql语句做分页的时候,可能有人会发现,随着表数据量的增加,直接使用limit分页查询会越来越慢。

优化的方法如下:可以取前一页的最大行数的id,然后根据这个最大的id来限制下一页的起点。比如此列中,上一页最大的id是866612。sql可以采用如下的写法:

select id,name from table_name where id> 866612 limit 20

12、分段查询

在一些用户选择页面中,可能一些用户选择的时间范围过大,造成查询缓慢。主要的原因是扫描行数过多。这个时候可以通过程序,分段进行查询,循环遍历,将结果合并处理进行展示。

13、避免在 where 子句中对字段进行 null 值判断

对于null的判断会导致引擎放弃使用索引而进行全表扫描。

14、不建议使用%前缀模糊查询

例如LIKE “%name”或者LIKE “%name%”,这种查询会导致索引失效而进行全表扫描。但是可以使用LIKE “name%”。
那如何查询%name%?
创建全文索引的sql语法是:

ALTER TABLE `table_name` ADD FULLTEXT INDEX `idx_user_name` (`user_name`);

使用全文索引的sql语句是:

select id,fnum,fdst from table_name 
where match(user_name) against('zhangsan' in boolean mode);

15、避免在where子句中对字段进行表达式操作

select user_id,user_project from table_name where age*2=36;
-- 对字段就行了算术运算,这会造成引擎放弃使用索引,建议改成
select user_id,user_project from table_name where age=36/2;

16、避免隐式类型转换

where 子句中出现 column 字段的类型和传入的参数类型不一致的时候发生的类型转换,建议先确定where中的参数类型

17、对于联合索引来说,要遵守最左前缀法则

举列来说索引含有字段id,name,school,可以直接用id字段,也可以id,name这样的顺序,但是name,school都无法使用这个索引。所以在创建联合索引的时候一定要注意索引字段顺序,常用的查询字段放在最前面。

18、注意范围查询语句

对于联合索引来说,如果存在范围查询,比如between,>,<等条件时,会造成后面的索引字段失效。

19、关于JOIN优化

b3c1993381b21bf1836941b5e55e5aa0.jpg

  • LEFT JOIN A表为驱动表
  • INNER JOIN MySQL会自动找出那个数据少的表作用驱动表
  • RIGHT JOIN B表为驱动表

    注意:MySQL中没有full join,可以用以下方式来解决

select * from A left join B on B.name = A.name 
where B.name is null
 union all
select * from B;
  • 尽量使用inner join,避免left join
    • 参与联合查询的表至少为2张表,一般都存在大小之分。如果连接方式是inner join,在没有其他过滤条件的情况下MySQL会自动选择小表作为驱动表,但是left join在驱动表的选择上遵循的是左边驱动右边的原则,即left join左边的表名为驱动表。
  • 合理利用索引
  • 被驱动表的索引字段作为on的限制字段。
  • 利用小表去驱动大表