基础

🧑🏻‍💻 什么是索引?

🙋🏻 索引(index)是帮助MySQL高效获取数据的 数据结构(有序)。在数据之外,数据库系统还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据, 这样就可以在这些数据结构上实现高级查找算法,这种数据结构就是索引。

演示:
image.png

🧑🏻‍💻 索引的优缺点:
优点
提高数据检索的效率,降低数据库的IO成本
通过索引列对数据进行排序,降低数据排序的成本,降低CPU的 消耗。
缺点
索引列也是要占用空间的
索引大大提高了查询效率,同时却也降低更新表的速度,如对表进 行INSERT、UPDATE、DELETE时,效率降低

索引类型

image.png
tips:Full-text 全文索引

索引数据结构
二叉树
二叉树缺点:顺序插入时,会形成一个链表,查询性能大大降低。 大数据量情况下,层级较深,检索速度慢。
红黑树:大数据量情况下,层级较深,检索速度慢。
image.png
B-Tree
image.png
B+Tree
相对于 B-Tree 区别:所有的数据都会出现在叶子节点、叶子节点形成一个单向链表
image.png
MySQL索引数据结构对经典的B+Tree进行了优化。在原B+Tree的基础上,增加一个指向相邻叶子节点的链表指针,就形成了带有顺序指针的B+Tree,提高区间访问的性能。
image.png
Hash
哈希索引就是采用一定的hash算法,将键值换算成新的hash值,映射到对应的槽位上,然后存储在hash表中。如果两个(或多个)键值,映射到一个相同的槽位上,他们就产生了hash冲突(也称为hash碰撞),可以通过链表来解决.
image.png
Hash 索引的特点:
Hash索引只能用于对等比较(=,in),不支持范围查询(between,>,< ,…)
无法利用索引完成排序操作
查询效率高,通常只需要一次检索就可以了,效率通常要高于B+tree索引

在MySQL中,支持hash索引的是Memory引擎,而InnoDB中具有自适应hash功能,hash索引是存储引擎根据B+Tree索引在指定条件下自动构建的。

tips:具体动态变化的过程可以参考网站: https://www.cs.usfca.edu/~galles/visualization/BTree.html

🧑🏻‍💻 为什么 InnoDB 存储引擎选择使用 B+Tree 索引结构?
🙋🏻 思路:B+Tree 和二叉树、B-Tree 和 Hash 的比较
相对于二叉树,层级更少,搜索效率高;
对于B-tree,无论是叶子节点还是非叶子节点,都会保存数据,这样导致一 页中存储的键值减少,指针跟着减少,要同样保存大量数据,只能增加树的 高度,导致性能降低;
相对Hash索引,B+tree支持范围匹配及排序操作;


索引分类

image.png

在InnoDB存储引擎中,根据索引的存储形式,又可以分为以下两种:
image.png

聚集索引选取规则:
如果存在主键,主键索引就是聚集索引。
如果不存在主键,将使用第一个唯一(UNIQUE)索引作为聚集索引。
如果表没有主键,或没有合适的唯一索引,则InnoDB会自动生成一个rowid作为隐藏的聚集索引。

tips:
分辨聚集索引和非聚集索引就看叶子节点是否是整行数据;
非聚集索引 = 二级索引 = 辅助索引
通过非聚集索引查询完整的数据,会有一次回表操作;

InnoDB主键索引的B+tree叶子可以有多少个?
image.png
假设:一行数据大小为1k,一页中可以存储16行这样的数据。InnoDB的指针占用6 个字节的空间,主键即使为bigint,占用字节数为8。
思路:一个页中,指针永远比key多一个;先算非叶子节点个数,再算叶子结点大小
高度为2:非叶子节点(n 8 + (n + 1) 6 = 161024 , 算出n约为 1170)叶子结点大小(1171 16 = 18736 )
高度为3:1171 1171 16 = 21939856

索引语法

创建索引

  1. CREATE [ UNIQUE | FULLTEXT ] INDEX index_name ON table_name (index_col_name,...);

查看索引

  1. SHOW INDEX FROM table_name;

删除索引

  1. DROP INDEX index_name ON table_name;

SQL 性能分析

SQL 执行频率

MySQL 客户端连接成功后,通过 show [session|global] status 命令可以提供服务器状态信息。通过如下指令,可以查看当前数据库 的INSERT、UPDATE、DELETE、SELECT的访问频次:

  1. SHOW GLOBAL STATUS LIKE 'Com_______';

慢查询日志

慢查询日志记录了所有执行时间超过指定参数(long_query_time,单位:秒,默认10秒)的所有SQL语句的日志。
MySQL的慢查询日志默认没有开启,需要在MySQL的配置文件(/etc/my.cnf)中配置如下信息:

  1. # 开启 MYSQL 慢日志查询开关
  2. slow_query_log=1
  3. # 设置慢日志的时间为2秒,sql 语句执行时间超过2秒,就会视为慢查询,记录慢查询日志
  4. long_query_time=2

配置完毕之后,通过以下指令重新启动MySQL服务器进行测试,查看慢日志文件中记录的信息 /var/lib/mysql/localhost-slow.log

profile 详情

show profiles 能够在做SQL优化时帮助我们了解时间都耗费到哪里去了。通过have_profiling参数,能够看到当前MySQL是否支持
profile操作:

  1. SELECT @@have_profiling;

默认profiling是关闭的,可以通过set语句在session/global级别开启profiling:

  1. SET profiling=1;

执行一系列的业务SQL的操作,然后通过如下指令查看指令的执行耗时:

  1. # 查看每一条SQL的耗时基本情况
  2. show profiles;
  3. # 查看指定 query_id 的 sql 语句各个阶段的耗时情况
  4. show profile for query query_id;
  5. # 查看指定 query_id 的 sql 语句 cpu 的使用情况
  6. show profile cpu for query query_id;

参考:MySQL 中 profile

explain 执行计划

EXPLAIN 或者 DESC命令获取 MySQL 如何执行 SELECT 语句的信息,包括在 SELECT 语句执行过程中表如何连接和连接的顺序。 语法:

  1. EXPLAIN SELECT 字段列表 FROM 表名 WHERE 条件

EXPLAIN 执行计划各个字段含义:

  1. Id

select查询的序列号,表示查询中执行select子句或者是操作表的顺序(id相同,执行顺序从上到下;id不同,值越大,越先执行)。

  1. select_type

表示 SELECT 的类型,常见的取值有 SIMPLE(简单表,即不使用表连接或者子查询)、PRIMARY(主查询,即外层的查询)、
UNION(UNION 中的第二个或者后面的查询语句)、SUBQUERY(SELECT/WHERE之后包含了子查询)等

  1. type

表示连接类型,性能由好到差的连接类型为NULL、system、const、eq_ref、ref、range、 index、all 。

  1. possible_key

显示可能应用在这张表上的索引,一个或多个。

  1. Key

实际使用的索引,如果为NULL,则没有使用索引。
type 类型出现的情况(不全面,只是举例子)

  • NULL:查询时,不查询表数据才会出现,如:explain select ‘A’;
  • system:查询 MySQL 系统表
  • const:查询时,访问主键或唯一性索引
  • ref:使用非唯一性索引查询
  • index:使用普通索引,或着使用 **select count() from table_name;
    1. Key_len

表示索引中使用的字节数, 该值为索引字段最大可能长度,并非实际使用长度,在不损失精确性的前提下, 长度越短越好 。

  1. rows

MySQL认为必须要执行查询的行数,在innodb引擎的表中,是一个估计值,可能并不总是准确的。

  1. filtered

表示返回结果的行数占需读取行数的百分比, filtered 的值越大越好。

tips:重点关注 type、possible_key、key、key_len、rows 和 Extra

粗粒度:sql 执行频率、慢日志查询和 profile 详情
细粒度:explain 执行计划


索引使用

最左前缀法则

如果索引了多列(联合索引),要遵守最左前缀法则。最左前缀法则指的是查询从索引的最左列开始,并且不跳过索引中的列。 如果跳跃某一列,索引将部分失效(后面的字段索引失效)。
sql 中 where 后面字段顺序不影响最左前缀法则

初始sql

  1. create table tb_user(
  2. id int primary key auto_increment comment '主键',
  3. name varchar(50) not null comment '用户名',
  4. phone varchar(11) not null comment '手机号',
  5. email varchar(100) comment '邮箱',
  6. profession varchar(11) comment '专业',
  7. age tinyint unsigned comment '年龄',
  8. gender char(1) comment '性别 , 1: 男, 2: 女',
  9. status char(1) comment '状态',
  10. createtime datetime comment '创建时间'
  11. ) comment '系统用户表';
  12. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('吕布', '17799990000', 'lvbu666@163.com', '软件工程', 23, '1', '6', '2001-02-02 00:00:00');
  13. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('曹操', '17799990001', 'caocao666@qq.com', '通讯工程', 33, '1', '0', '2001-03-05 00:00:00');
  14. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('赵云', '17799990002', '17799990@139.com', '英语', 34, '1', '2', '2002-03-02 00:00:00');
  15. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('孙悟空', '17799990003', '17799990@sina.com', '工程造价', 54, '1', '0', '2001-07-02 00:00:00');
  16. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('花木兰', '17799990004', '19980729@sina.com', '软件工程', 23, '2', '1', '2001-04-22 00:00:00');
  17. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('大乔', '17799990005', 'daqiao666@sina.com', '舞蹈', 22, '2', '0', '2001-02-07 00:00:00');
  18. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('露娜', '17799990006', 'luna_love@sina.com', '应用数学', 24, '2', '0', '2001-02-08 00:00:00');
  19. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('程咬金', '17799990007', 'chengyaojin@163.com', '化工', 38, '1', '5', '2001-05-23 00:00:00');
  20. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('项羽', '17799990008', 'xiaoyu666@qq.com', '金属材料', 43, '1', '0', '2001-09-18 00:00:00');
  21. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('白起', '17799990009', 'baiqi666@sina.com', '机械工程及其自动化', 27, '1', '2', '2001-08-16 00:00:00');
  22. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('韩信', '17799990010', 'hanxin520@163.com', '无机非金属材料工程', 27, '1', '0', '2001-06-12 00:00:00');
  23. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('荆轲', '17799990011', 'jingke123@163.com', '会计', 29, '1', '0', '2001-05-11 00:00:00');
  24. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('兰陵王', '17799990012', 'lanlinwang666@126.com', '工程造价', 44, '1', '1', '2001-04-09 00:00:00');
  25. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('狂铁', '17799990013', 'kuangtie@sina.com', '应用数学', 43, '1', '2', '2001-04-10 00:00:00');
  26. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('貂蝉', '17799990014', '84958948374@qq.com', '软件工程', 40, '2', '3', '2001-02-12 00:00:00');
  27. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('妲己', '17799990015', '2783238293@qq.com', '软件工程', 31, '2', '0', '2001-01-30 00:00:00');
  28. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('芈月', '17799990016', 'xiaomin2001@sina.com', '工业经济', 35, '2', '0', '2000-05-03 00:00:00');
  29. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('嬴政', '17799990017', '8839434342@qq.com', '化工', 38, '1', '1', '2001-08-08 00:00:00');
  30. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('狄仁杰', '17799990018', 'jujiamlm8166@163.com', '国际贸易', 30, '1', '0', '2007-03-12 00:00:00');
  31. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('安琪拉', '17799990019', 'jdodm1h@126.com', '城市规划', 51, '2', '0', '2001-08-15 00:00:00');
  32. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('典韦', '17799990020', 'ycaunanjian@163.com', '城市规划', 52, '1', '2', '2000-04-12 00:00:00');
  33. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('廉颇', '17799990021', 'lianpo321@126.com', '土木工程', 19, '1', '3', '2002-07-18 00:00:00');
  34. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('后羿', '17799990022', 'altycj2000@139.com', '城市园林', 20, '1', '0', '2002-03-10 00:00:00');
  35. INSERT INTO tb_user (name, phone, email, profession, age, gender, status, createtime) VALUES ('姜子牙', '17799990023', '37483844@qq.com', '工程造价', 29, '1', '4', '2003-05-26 00:00:00');
  36. create index idx_user_phone on tb_user(phone);
  37. create index idx_user_name on tb_user(name);
  38. create index idx_user_pro_age_sta on tb_user(profession,age,status);

测试sql

  1. select * from tb_user where profession = '软件工程' and age = 31 and status = '0';
  2. explain select * from tb_user where profession = '软件工程' and age = 31 and status = '0';
  3. select * from tb_user where status = '0' and profession = '软件工程' and age = 31;
  4. explain select * from tb_user where status = '0' and profession = '软件工程' and age = 31;
  5. select * from tb_user where profession = '软件工程' and age = 31;
  6. explain select * from tb_user where profession = '软件工程' and age = 31;
  7. select * from tb_user where profession = '软件工程';
  8. explain select * from tb_user where profession = '软件工程';
  9. # 不符合最左前缀法则
  10. select * from tb_user where age = 31 and status = '0';
  11. explain select * from tb_user where age = 31 and status = '0';
  12. # 不符合最左前缀法则
  13. select * from tb_user where status = '0';
  14. explain select * from tb_user where status = '0';
  15. # 联合索引中,只用到了 profession 索引,而 status 不走索引
  16. select * from tb_user where profession = '软件工程' and status = '0';
  17. explain select * from tb_user where profession = '软件工程' and status = '0';

范围查询

联合索引中,出现范围查询(>,<),范围查询右侧的列索引失效
解决方案:在业务允许的情况下,>< 变成 >= <=

  1. # where 后面,由于 age>30 所以 status 不走索引
  2. select * from tb_user where profession = '软件工程' and age > 30 and status = '0';
  3. explain select * from tb_user where profession = '软件工程' and age > 30 and status = '0';
  4. # 解决方案
  5. select * from tb_user where profession = '软件工程' and age >= 30 and status = '0';
  6. explain select * from tb_user where profession = '软件工程' and age >= 30 and status = '0';


字符串不加引号

字符串类型字段使用时,不加引号, 索引将失效

  1. select * from tb_user where profession = '软件工程' and age = 31 and status = 0;
  2. explain select * from tb_user where profession = '软件工程' and age = 31 and status = 0;
  3. select * from tb_user where phone = 17799990015;
  4. explain select * from tb_user where phone = 17799990015;
  5. explain select * from tb_user where phone = '17799990015';

模糊查询

如果仅仅是尾部模糊匹配,索引不会失效。如果是头部模糊匹配,索引失效。

  1. explain select * from tb_user where profession like '软件%';
  2. explain select * from tb_user where profession like '%工程';
  3. explain select * from tb_user where profession like '%工%';

or 连接的条件

用or分割开的条件, 如果or前的条件中的列有索引,而后面的列中没有索引,那么涉及的索引都不会被用到

  1. explain select * from tb_user where id = 10 or age = '23';
  2. explain select * from tb_user where phone = '17799990009' or age = '23';

由于age没有索引,所以即使id、phone有索引,索引也会失效。所以需要针对于age也要建立索引

数据分布影响

如果MySQL评估使用索引比全表更慢,则不使用索引

  1. explain select * from tb_user where phone >= '17799990005';

tips:sql 的 where 后 is null 和 is not null 走不走索引不是固定的,是根据这个字段的数据分布有关的。

sql 提示

SQL提示,是优化数据库的一个重要手段,简单来说,就是在SQL语句中加入一些人为的提示来达到优化操作的目的(当表中某个字段有多个索引时,例如:一个组合索引一个单独的索引,sql 提示就是规定在查询时,使用的那个索引)

tips:use 和 ignore index 在 mysql 执行时,不一定执行,而 force 是强制执行。

  1. # use index:
  2. explain select * from tb_user use index (idx_user_pro_age_sta) where profession = '软件工程';
  3. # ignore index:
  4. explain select * from tb_user ignore index (idx_user_pro_age_sta) where profession = '软件工程';
  5. # force index:
  6. explain select * from tb_user force index (idx_user_pro_age_sta) where profession = '软件工程';

覆盖索引

尽量使用覆盖索引(查询使用了索引,并且需要返回的列,在该索引中已经全部能够找到),减少 select *
注意:回表查询

  1. select * from tb_user where profession = '软件工程' and age = 31 and status = 0;
  2. select id,profession from tb_user where profession = '软件工程' and age = 31 and status = 0;
  3. select id,profession,age,status from tb_user where profession = '软件工程' and age = 31 and status = 0;
  4. select id,profession,age,status,name from tb_user where profession = '软件工程' and age = 31 and status = 0;

tips:

  1. using index condition :查找使用了索引,但是需要回表查询数据
  2. using where; using index :查找使用了索引,但是需要的数据都在索引列中能找到,所以不需要回表查询数据

思考:一张表, 有四个字段(id, username, password, status), 由于数据量大, 需要对以下SQL语句进行优化, 该如何进 行才是最优方案: select id,username,password from tb_user where username = ‘xxx’;

将 username 和 password 这两个字段建立联合索引

前缀索引

当字段类型为字符串(varchar,text等)时,有时候需要索引很长的字符串,这会让索引变得很大,查询时,浪费大量的磁盘IO, 影响查询效率。此时可以只将字符串的一部分前缀,建立索引,这样可以大大节约索引空间,从而提高索引效率。

语法:

  1. create index idx_xxx on table_name(column(n));

前缀长度:
可以根据索引的选择性来决定,而选择性是指不重复的索引值(基数)和数据表的记录总数的比值,索引选择性越高则查询效率越高, 唯一索引的选择性是1,这是最好的索引选择性,性能也是最好的。

  1. select count(distinct email)/count(*) from tb_user;
  2. select count(distinct substring(email,5))/count(*) from tb_user;


单列索引与联合索引

单列索引:即一个索引只包含单个列。
联合索引:即一个索引包含了多个列。

在业务场景中,如果存在多个查询条件,考虑针对于查询字段建立索引时,建议建立联合索引,而非单列索引。
多条件联合查询时,MySQL 优化器会评估哪个字段的索引效率更高,会选择该索引完成本次查询。

image.png


索引设计原则

  1. 针对于数据量较大,且查询比较频繁的表建立索引。
  2. 针对于常作为查询条件(where)、排序(order by)、分组(group by)操作的字段建立索引。
  3. 尽量选择区分度高的列作为索引,尽量建立唯一索引,区分度越高,使用索引的效率越高。
  4. 如果是字符串类型的字段,字段的长度较长,可以针对于字段的特点,建立前缀索引。
  5. 尽量使用联合索引,减少单列索引,查询时,联合索引很多时候可以覆盖索引,节省存储空间,避免回表,提高查询效率。
  6. 要控制索引的数量,索引并不是多多益善,索引越多,维护索引结构的代价也就越大,会影响增删改的效率。
  7. 如果索引列不能存储NULL值,请在创建表时使用NOT NULL约束它。当优化器知道每列是否包含NULL值时,它可以更好地确定哪 个索引最有效地用于查询。