本文核心思想来自《高性能mysql》

性能监控

使用show profile查询剖析工具,可以指定具体的type

Information Shcema:数据库元数据

  1. +---------------------------------------+
  2. | Tables_in_information_schema |
  3. +---------------------------------------+
  4. | CHARACTER_SETS |
  5. | COLLATIONS |
  6. | COLLATION_CHARACTER_SET_APPLICABILITY |
  7. | COLUMNS |
  8. | COLUMN_PRIVILEGES |
  9. | ENGINES |
  10. | EVENTS |
  11. | FILES |
  12. | GLOBAL_STATUS |
  13. | GLOBAL_VARIABLES |
  14. | KEY_COLUMN_USAGE |
  15. | OPTIMIZER_TRACE |
  16. | PARAMETERS |
  17. | PARTITIONS |
  18. | PLUGINS |
  19. | PROCESSLIST |
  20. | PROFILING |
  21. | REFERENTIAL_CONSTRAINTS |
  22. | ROUTINES |
  23. | SCHEMATA |
  24. | SCHEMA_PRIVILEGES |
  25. | SESSION_STATUS |
  26. | SESSION_VARIABLES |
  27. | STATISTICS |
  28. | TABLES |
  29. | TABLESPACES |
  30. | TABLE_CONSTRAINTS |
  31. | TABLE_PRIVILEGES |
  32. | TRIGGERS |
  33. | USER_PRIVILEGES |
  34. | VIEWS |
  35. | INNODB_LOCKS |
  36. | INNODB_TRX |
  37. | INNODB_SYS_DATAFILES |
  38. | INNODB_FT_CONFIG |
  39. | INNODB_SYS_VIRTUAL |
  40. | INNODB_CMP |
  41. | INNODB_FT_BEING_DELETED |
  42. | INNODB_CMP_RESET |
  43. | INNODB_CMP_PER_INDEX |
  44. | INNODB_CMPMEM_RESET |
  45. | INNODB_FT_DELETED |
  46. | INNODB_BUFFER_PAGE_LRU |
  47. | INNODB_LOCK_WAITS |
  48. | INNODB_TEMP_TABLE_INFO |
  49. | INNODB_SYS_INDEXES |
  50. | INNODB_SYS_TABLES |
  51. | INNODB_SYS_FIELDS |
  52. | INNODB_CMP_PER_INDEX_RESET |
  53. | INNODB_BUFFER_PAGE |
  54. | INNODB_FT_DEFAULT_STOPWORD |
  55. | INNODB_FT_INDEX_TABLE |
  56. | INNODB_FT_INDEX_CACHE |
  57. | INNODB_SYS_TABLESPACES |
  58. | INNODB_METRICS |
  59. | INNODB_SYS_FOREIGN_COLS |
  60. | INNODB_CMPMEM |
  61. | INNODB_BUFFER_POOL_STATS |
  62. | INNODB_SYS_COLUMNS |
  63. | INNODB_SYS_FOREIGN |
  64. | INNODB_SYS_TABLESTATS |
  65. +---------------------------------------+

使用performance schema来监控性能

0、performance_schema的介绍

  1. **MySQLperformance schema 用于监控MySQL server在一个较低级别的运行过程中的资源消耗、资源等待等情况**。
  2. 特点如下:
  3. 1、提供了一种在数据库运行时实时检查server的内部执行情况的方法。performance_schema 数据库中的表使用performance_schema存储引擎。该数据库主要关注数据库运行过程中的性能相关的数据,与information_schema不同,information_schema主要关注server运行过程中的元数据信息
  4. 2performance_schema通过监视server的事件来实现监视server内部运行情况, “事件”就是server内部活动中所做的任何事情以及对应的时间消耗,利用这些信息来判断server中的相关资源消耗在了哪里?一般来说,事件可以是函数调用、操作系统的等待、SQL语句执行的阶段(如sql语句执行过程中的parsing sorting阶段)或者整个SQL语句与SQL语句集合。事件的采集可以方便的提供server中的相关存储引擎对磁盘文件、表I/O、表锁等资源的同步调用信息。<br /> 3performance_schema中的事件与写入二进制日志中的事件(描述数据修改的events)、事件计划调度程序(这是一种存储程序)的事件不同。performance_schema中的事件记录的是server执行某些活动对某些资源的消耗、耗时、这些活动执行的次数等情况。<br /> 4performance_schema中的事件只记录在本地serverperformance_schema中,其下的这些表中数据发生变化时不会被写入binlog中,也不会通过复制机制被复制到其他server中。<br /> 5 当前活跃事件、历史事件和事件摘要相关的表中记录的信息。能提供某个事件的执行次数、使用时长。进而可用于分析某个特定线程、特定对象(如mutexfile)相关联的活动。<br /> 6PERFORMANCE_SCHEMA存储引擎使用server源代码中的“检测点”来实现事件数据的收集。对于performance_schema实现机制本身的代码没有相关的单独线程来检测,这与其他功能(如复制或事件计划程序)不同<br /> 7、收集的事件数据存储在performance_schema数据库的表中。这些表可以使用SELECT语句查询,也可以使用SQL语句更新performance_schema数据库中的表记录(如动态修改performance_schemasetup_*开头的几个配置表,但要注意:配置表的更改会立即生效,这会影响数据收集)<br /> 8performance_schema的表中的数据不会持久化存储在磁盘中,而是保存在内存中,一旦服务器重启,这些数据会丢失(包括配置表在内的整个performance_schema下的所有数据)<br /> 9MySQL支持的所有平台中事件监控功能都可用,但不同平台中用于统计事件时间开销的计时器类型可能会有所差异。

1、performance schema入门

  1. mysql5.7版本中,性能模式是默认开启的,如果想要显式的关闭的话需要修改配置文件,不能直接进行修改,会报错Variable 'performance_schema' is a read only variable
  1. --查看performance_schema的属性
  2. mysql> SHOW VARIABLES LIKE 'performance_schema';
  3. +--------------------+-------+
  4. | Variable_name | Value |
  5. +--------------------+-------+
  6. | performance_schema | ON |
  7. +--------------------+-------+
  8. 1 row in set (0.01 sec)
  9. --在配置文件中修改performance_schema的属性值,on表示开启,off表示关闭
  10. [mysqld]
  11. performance_schema=ON
  12. --切换数据库
  13. use performance_schema;
  14. --查看当前数据库下的所有表,会看到有很多表存储着相关的信息
  15. show tables;
  16. --可以通过show create table tablename来查看创建表的时候的表结构
  17. mysql> show create table setup_consumers;
  18. +-----------------+---------------------------------
  19. | Table | Create Table
  20. +-----------------+---------------------------------
  21. | setup_consumers | CREATE TABLE `setup_consumers` (
  22. `NAME` varchar(64) NOT NULL,
  23. `ENABLED` enum('YES','NO') NOT NULL
  24. ) ENGINE=PERFORMANCE_SCHEMA DEFAULT CHARSET=utf8 |
  25. +-----------------+---------------------------------
  26. 1 row in set (0.00 sec)
  1. 想要搞明白后续的内容,同学们需要理解两个基本概念:
  2. instruments: 生产者,用于采集mysql中各种各样的操作产生的事件信息,对应配置表中的配置项我们可以称为监控采集配置项。
  3. consumers:消费者,对应的消费者表用于存储来自instruments采集的数据,对应配置表中的配置项我们可以称为消费存储配置项。

2、performance_schema表的分类

  1. performance_schema库下的表可以按照监视不同的纬度就行分组。
  1. --语句事件记录表,这些表记录了语句事件信息,当前语句事件表events_statements_current、历史语句事件表events_statements_history和长语句历史事件表events_statements_history_long、以及聚合后的摘要表summary,其中,summary表还可以根据帐号(account),主机(host),程序(program),线程(thread),用户(user)和全局(global)再进行细分)
  2. show tables like '%statement%';
  3. --等待事件记录表,与语句事件类型的相关记录表类似:
  4. show tables like '%wait%';
  5. --阶段事件记录表,记录语句执行的阶段事件的表
  6. show tables like '%stage%';
  7. --事务事件记录表,记录事务相关的事件的表
  8. show tables like '%transaction%';
  9. --监控文件系统层调用的表
  10. show tables like '%file%';
  11. --监视内存使用的表
  12. show tables like '%memory%';
  13. --动态对performance_schema进行配置的配置表
  14. show tables like '%setup%';

3、performance_schema的简单配置与使用

  1. 数据库刚刚初始化并启动时,并非所有instruments(事件采集项,在采集项的配置表中每一项都有一个开关字段,或为YES,或为NO)和consumers(与采集项类似,也有一个对应的事件类型保存表配置项,为YES就表示对应的表保存性能数据,为NO就表示对应的表不保存性能数据)都启用了,所以默认不会收集所有的事件,可能你需要检测的事件并没有打开,需要进行设置,可以使用如下两个语句打开对应的instrumentsconsumers(行计数可能会因MySQL版本而异)。
  1. --打开等待事件的采集器配置项开关,需要修改setup_instruments配置表中对应的采集器配置项
  2. UPDATE setup_instruments SET ENABLED = 'YES', TIMED = 'YES'where name like 'wait%';
  3. --打开等待事件的保存表配置开关,修改setup_consumers配置表中对应的配置项
  4. UPDATE setup_consumers SET ENABLED = 'YES'where name like '%wait%';
  5. --当配置完成之后可以查看当前server正在做什么,可以通过查询events_waits_current表来得知,该表中每个线程只包含一行数据,用于显示每个线程的最新监视事件
  6. select * from events_waits_current\G
  7. *************************** 1. row ***************************
  8. THREAD_ID: 11
  9. EVENT_ID: 570
  10. END_EVENT_ID: 570
  11. EVENT_NAME: wait/synch/mutex/innodb/buf_dblwr_mutex
  12. SOURCE:
  13. TIMER_START: 4508505105239280
  14. TIMER_END: 4508505105270160
  15. TIMER_WAIT: 30880
  16. SPINS: NULL
  17. OBJECT_SCHEMA: NULL
  18. OBJECT_NAME: NULL
  19. INDEX_NAME: NULL
  20. OBJECT_TYPE: NULL
  21. OBJECT_INSTANCE_BEGIN: 67918392
  22. NESTING_EVENT_ID: NULL
  23. NESTING_EVENT_TYPE: NULL
  24. OPERATION: lock
  25. NUMBER_OF_BYTES: NULL
  26. FLAGS: NULL
  27. /*该信息表示线程id为11的线程正在等待buf_dblwr_mutex锁,等待事件为30880
  28. 属性说明:
  29. id:事件来自哪个线程,事件编号是多少
  30. event_name:表示检测到的具体的内容
  31. source:表示这个检测代码在哪个源文件中以及行号
  32. timer_start:表示该事件的开始时间
  33. timer_end:表示该事件的结束时间
  34. timer_wait:表示该事件总的花费时间
  35. 注意:_current表中每个线程只保留一条记录,一旦线程完成工作,该表中不会再记录该线程的事件信息
  36. */
  37. /*
  38. _history表中记录每个线程应该执行完成的事件信息,但每个线程的事件信息只会记录10条,再多就会被覆盖,*_history_long表中记录所有线程的事件信息,但总记录数量是10000,超过就会被覆盖掉
  39. */
  40. select thread_id,event_id,event_name,timer_wait from events_waits_history order by thread_id limit 21;
  41. /*
  42. summary表提供所有事件的汇总信息,该组中的表以不同的方式汇总事件数据(如:按用户,按主机,按线程等等)。例如:要查看哪些instruments占用最多的时间,可以通过对events_waits_summary_global_by_event_name表的COUNT_STAR或SUM_TIMER_WAIT列进行查询(这两列是对事件的记录数执行COUNT(*)、事件记录的TIMER_WAIT列执行SUM(TIMER_WAIT)统计而来)
  43. */
  44. SELECT EVENT_NAME,COUNT_STAR FROM events_waits_summary_global_by_event_name ORDER BY COUNT_STAR DESC LIMIT 10;
  45. /*
  46. instance表记录了哪些类型的对象会被检测。这些对象在被server使用时,在该表中将会产生一条事件记录,例如,file_instances表列出了文件I/O操作及其关联文件名
  47. */
  48. select * from file_instances limit 20;

4、常用配置项的参数说明

1、启动选项

  1. performance_schema_consumer_events_statements_current=TRUE
  2. 是否在mysql server启动时就开启events_statements_current表的记录功能(该表记录当前的语句事件信息),启动之后也可以在setup_consumers表中使用UPDATE语句进行动态更新setup_consumers配置表中的events_statements_current配置项,默认值为TRUE
  3. performance_schema_consumer_events_statements_history=TRUE
  4. performance_schema_consumer_events_statements_current选项类似,但该选项是用于配置是否记录语句事件短历史信息,默认为TRUE
  5. performance_schema_consumer_events_stages_history_long=FALSE
  6. performance_schema_consumer_events_statements_current选项类似,但该选项是用于配置是否记录语句事件长历史信息,默认为FALSE
  7. 除了statement(语句)事件之外,还支持:wait(等待)事件、state(阶段)事件、transaction(事务)事件,他们与statement事件一样都有三个启动项分别进行配置,但这些等待事件默认未启用,如果需要在MySQL Server启动时一同启动,则通常需要写进my.cnf配置文件中
  8. performance_schema_consumer_global_instrumentation=TRUE
  9. 是否在MySQL Server启动时就开启全局表(如:mutex_instancesrwlock_instancescond_instancesfile_instancesusershostsaccountssocket_summary_by_event_namefile_summary_by_instance等大部分的全局对象计数统计和事件汇总统计信息表 )的记录功能,启动之后也可以在setup_consumers表中使用UPDATE语句进行动态更新全局配置项
  10. 默认值为TRUE
  11. performance_schema_consumer_statements_digest=TRUE
  12. 是否在MySQL Server启动时就开启events_statements_summary_by_digest 表的记录功能,启动之后也可以在setup_consumers表中使用UPDATE语句进行动态更新digest配置项
  13. 默认值为TRUE
  14. performance_schema_consumer_thread_instrumentation=TRUE
  15. 是否在MySQL Server启动时就开启
  16. events_xxx_summary_by_yyy_by_event_name表的记录功能,启动之后也可以在setup_consumers表中使用UPDATE语句进行动态更新线程配置项
  17. 默认值为TRUE
  18. performance_schema_instrument[=name]
  19. 是否在MySQL Server启动时就启用某些采集器,由于instruments配置项多达数千个,所以该配置项支持key-value模式,还支持%号进行通配等,如下:
  20. # [=name]可以指定为具体的Instruments名称(但是这样如果有多个需要指定的时候,就需要使用该选项多次),也可以使用通配符,可以指定instruments相同的前缀+通配符,也可以使用%代表所有的instruments
  21. ## 指定开启单个instruments
  22. --performance-schema-instrument= 'instrument_name=value'
  23. ## 使用通配符指定开启多个instruments
  24. --performance-schema-instrument= 'wait/synch/cond/%=COUNTED'
  25. ## 开关所有的instruments
  26. --performance-schema-instrument= '%=ON'
  27. --performance-schema-instrument= '%=OFF'
  28. 注意,这些启动选项要生效的前提是,需要设置performance_schema=ON。另外,这些启动选项虽然无法使用show variables语句查看,但我们可以通过setup_instrumentssetup_consumers表查询这些选项指定的值。

2、系统变量

  1. show variables like '%performance_schema%';
  2. --重要的属性解释
  3. performance_schema=ON
  4. /*
  5. 控制performance_schema功能的开关,要使用MySQL的performance_schema,需要在mysqld启动时启用,以启用事件收集功能
  6. 该参数在5.7.x之前支持performance_schema的版本中默认关闭,5.7.x版本开始默认开启
  7. 注意:如果mysqld在初始化performance_schema时发现无法分配任何相关的内部缓冲区,则performance_schema将自动禁用,并将performance_schema设置为OFF
  8. */
  9. performance_schema_digests_size=10000
  10. /*
  11. 控制events_statements_summary_by_digest表中的最大行数。如果产生的语句摘要信息超过此最大值,便无法继续存入该表,此时performance_schema会增加状态变量
  12. */
  13. performance_schema_events_statements_history_long_size=10000
  14. /*
  15. 控制events_statements_history_long表中的最大行数,该参数控制所有会话在events_statements_history_long表中能够存放的总事件记录数,超过这个限制之后,最早的记录将被覆盖
  16. 全局变量,只读变量,整型值,5.6.3版本引入 * 5.6.x版本中,5.6.5及其之前的版本默认为10000,5.6.6及其之后的版本默认值为-1,通常情况下,自动计算的值都是10000 * 5.7.x版本中,默认值为-1,通常情况下,自动计算的值都是10000
  17. */
  18. performance_schema_events_statements_history_size=10
  19. /*
  20. 控制events_statements_history表中单个线程(会话)的最大行数,该参数控制单个会话在events_statements_history表中能够存放的事件记录数,超过这个限制之后,单个会话最早的记录将被覆盖
  21. 全局变量,只读变量,整型值,5.6.3版本引入 * 5.6.x版本中,5.6.5及其之前的版本默认为10,5.6.6及其之后的版本默认值为-1,通常情况下,自动计算的值都是10 * 5.7.x版本中,默认值为-1,通常情况下,自动计算的值都是10
  22. 除了statement(语句)事件之外,wait(等待)事件、state(阶段)事件、transaction(事务)事件,他们与statement事件一样都有三个参数分别进行存储限制配置,有兴趣的同学自行研究,这里不再赘述
  23. */
  24. performance_schema_max_digest_length=1024
  25. /*
  26. 用于控制标准化形式的SQL语句文本在存入performance_schema时的限制长度,该变量与max_digest_length变量相关(max_digest_length变量含义请自行查阅相关资料)
  27. 全局变量,只读变量,默认值1024字节,整型值,取值范围0~1048576
  28. */
  29. performance_schema_max_sql_text_length=1024
  30. /*
  31. 控制存入events_statements_current,events_statements_history和events_statements_history_long语句事件表中的SQL_TEXT列的最大SQL长度字节数。 超出系统变量performance_schema_max_sql_text_length的部分将被丢弃,不会记录,一般情况下不需要调整该参数,除非被截断的部分与其他SQL比起来有很大差异
  32. 全局变量,只读变量,整型值,默认值为1024字节,取值范围为0~1048576,5.7.6版本引入
  33. 降低系统变量performance_schema_max_sql_text_length值可以减少内存使用,但如果汇总的SQL中,被截断部分有较大差异,会导致没有办法再对这些有较大差异的SQL进行区分。 增加该系统变量值会增加内存使用,但对于汇总SQL来讲可以更精准地区分不同的部分。
  34. */

5、重要配置表的相关说明

  1. 配置表之间存在相互关联关系,按照配置影响的先后顺序,可添加为
  1. /*
  2. performance_timers表中记录了server中有哪些可用的事件计时器
  3. 字段解释:
  4. timer_name:表示可用计时器名称,CYCLE是基于CPU周期计数器的定时器
  5. timer_frequency:表示每秒钟对应的计时器单位的数量,CYCLE计时器的换算值与CPU的频率相关、
  6. timer_resolution:计时器精度值,表示在每个计时器被调用时额外增加的值
  7. timer_overhead:表示在使用定时器获取事件时开销的最小周期值
  8. */
  9. select * from performance_timers;
  10. /*
  11. setup_timers表中记录当前使用的事件计时器信息
  12. 字段解释:
  13. name:计时器类型,对应某个事件类别
  14. timer_name:计时器类型名称
  15. */
  16. select * from setup_timers;
  17. /*
  18. setup_consumers表中列出了consumers可配置列表项
  19. 字段解释:
  20. NAME:consumers配置名称
  21. ENABLED:consumers是否启用,有效值为YES或NO,此列可以使用UPDATE语句修改。
  22. */
  23. select * from setup_consumers;
  24. /*
  25. setup_instruments 表列出了instruments 列表配置项,即代表了哪些事件支持被收集:
  26. 字段解释:
  27. NAME:instruments名称,instruments名称可能具有多个部分并形成层次结构
  28. ENABLED:instrumetns是否启用,有效值为YES或NO,此列可以使用UPDATE语句修改。如果设置为NO,则这个instruments不会被执行,不会产生任何的事件信息
  29. TIMED:instruments是否收集时间信息,有效值为YES或NO,此列可以使用UPDATE语句修改,如果设置为NO,则这个instruments不会收集时间信息
  30. */
  31. SELECT * FROM setup_instruments;
  32. /*
  33. setup_actors表的初始内容是匹配任何用户和主机,因此对于所有前台线程,默认情况下启用监视和历史事件收集功能
  34. 字段解释:
  35. HOST:与grant语句类似的主机名,一个具体的字符串名字,或使用“%”表示“任何主机”
  36. USER:一个具体的字符串名称,或使用“%”表示“任何用户”
  37. ROLE:当前未使用,MySQL 8.0中才启用角色功能
  38. ENABLED:是否启用与HOST,USER,ROLE匹配的前台线程的监控功能,有效值为:YES或NO
  39. HISTORY:是否启用与HOST, USER,ROLE匹配的前台线程的历史事件记录功能,有效值为:YES或NO
  40. */
  41. SELECT * FROM setup_actors;
  42. /*
  43. setup_objects表控制performance_schema是否监视特定对象。默认情况下,此表的最大行数为100行。
  44. 字段解释:
  45. OBJECT_TYPE:instruments类型,有效值为:“EVENT”(事件调度器事件)、“FUNCTION”(存储函数)、“PROCEDURE”(存储过程)、“TABLE”(基表)、“TRIGGER”(触发器),TABLE对象类型的配置会影响表I/O事件(wait/io/table/sql/handler instrument)和表锁事件(wait/lock/table/sql/handler instrument)的收集
  46. OBJECT_SCHEMA:某个监视类型对象涵盖的数据库名称,一个字符串名称,或“%”(表示“任何数据库”)
  47. OBJECT_NAME:某个监视类型对象涵盖的表名,一个字符串名称,或“%”(表示“任何数据库内的对象”)
  48. ENABLED:是否开启对某个类型对象的监视功能,有效值为:YES或NO。此列可以修改
  49. TIMED:是否开启对某个类型对象的时间收集功能,有效值为:YES或NO,此列可以修改
  50. */
  51. SELECT * FROM setup_objects;
  52. /*
  53. threads表对于每个server线程生成一行包含线程相关的信息,
  54. 字段解释:
  55. THREAD_ID:线程的唯一标识符(ID)
  56. NAME:与server中的线程检测代码相关联的名称(注意,这里不是instruments名称)
  57. TYPE:线程类型,有效值为:FOREGROUND、BACKGROUND。分别表示前台线程和后台线程
  58. PROCESSLIST_ID:对应INFORMATION_SCHEMA.PROCESSLIST表中的ID列。
  59. PROCESSLIST_USER:与前台线程相关联的用户名,对于后台线程为NULL。
  60. PROCESSLIST_HOST:与前台线程关联的客户端的主机名,对于后台线程为NULL。
  61. PROCESSLIST_DB:线程的默认数据库,如果没有,则为NULL。
  62. PROCESSLIST_COMMAND:对于前台线程,该值代表着当前客户端正在执行的command类型,如果是sleep则表示当前会话处于空闲状态
  63. PROCESSLIST_TIME:当前线程已处于当前线程状态的持续时间(秒)
  64. PROCESSLIST_STATE:表示线程正在做什么事情。
  65. PROCESSLIST_INFO:线程正在执行的语句,如果没有执行任何语句,则为NULL。
  66. PARENT_THREAD_ID:如果这个线程是一个子线程(由另一个线程生成),那么该字段显示其父线程ID
  67. ROLE:暂未使用
  68. INSTRUMENTED:线程执行的事件是否被检测。有效值:YES、NO
  69. HISTORY:是否记录线程的历史事件。有效值:YES、NO *
  70. THREAD_OS_ID:由操作系统层定义的线程或任务标识符(ID):
  71. */
  72. select * from threads

注意:在performance_schema库中还包含了很多其他的库和表,能对数据库的性能做完整的监控,大家需要参考官网详细了解。

6、performance_schema实践操作

  1. 基本了解了表的相关信息之后,可以通过这些表进行实际的查询操作来进行实际的分析。
  1. --1、哪类的SQL执行最多?
  2. SELECT DIGEST_TEXT,COUNT_STAR,FIRST_SEEN,LAST_SEEN FROM events_statements_summary_by_digest ORDER BY COUNT_STAR DESC
  3. --2、哪类SQL的平均响应时间最多?
  4. SELECT DIGEST_TEXT,AVG_TIMER_WAIT FROM events_statements_summary_by_digest ORDER BY COUNT_STAR DESC
  5. --3、哪类SQL排序记录数最多?
  6. SELECT DIGEST_TEXT,SUM_SORT_ROWS FROM events_statements_summary_by_digest ORDER BY COUNT_STAR DESC
  7. --4、哪类SQL扫描记录数最多?
  8. SELECT DIGEST_TEXT,SUM_ROWS_EXAMINED FROM events_statements_summary_by_digest ORDER BY COUNT_STAR DESC
  9. --5、哪类SQL使用临时表最多?
  10. SELECT DIGEST_TEXT,SUM_CREATED_TMP_TABLES,SUM_CREATED_TMP_DISK_TABLES FROM events_statements_summary_by_digest ORDER BY COUNT_STAR DESC
  11. --6、哪类SQL返回结果集最多?
  12. SELECT DIGEST_TEXT,SUM_ROWS_SENT FROM events_statements_summary_by_digest ORDER BY COUNT_STAR DESC
  13. --7、哪个表物理IO最多?
  14. SELECT file_name,event_name,SUM_NUMBER_OF_BYTES_READ,SUM_NUMBER_OF_BYTES_WRITE FROM file_summary_by_instance ORDER BY SUM_NUMBER_OF_BYTES_READ + SUM_NUMBER_OF_BYTES_WRITE DESC
  15. --8、哪个表逻辑IO最多?
  16. SELECT object_name,COUNT_READ,COUNT_WRITE,COUNT_FETCH,SUM_TIMER_WAIT FROM table_io_waits_summary_by_table ORDER BY sum_timer_wait DESC
  17. --9、哪个索引访问最多?
  18. SELECT OBJECT_NAME,INDEX_NAME,COUNT_FETCH,COUNT_INSERT,COUNT_UPDATE,COUNT_DELETE FROM table_io_waits_summary_by_index_usage ORDER BY SUM_TIMER_WAIT DESC
  19. --10、哪个索引从来没有用过?
  20. SELECT OBJECT_SCHEMA,OBJECT_NAME,INDEX_NAME FROM table_io_waits_summary_by_index_usage WHERE INDEX_NAME IS NOT NULL AND COUNT_STAR = 0 AND OBJECT_SCHEMA <> 'mysql' ORDER BY OBJECT_SCHEMA,OBJECT_NAME;
  21. --11、哪个等待事件消耗时间最多?
  22. SELECT EVENT_NAME,COUNT_STAR,SUM_TIMER_WAIT,AVG_TIMER_WAIT FROM events_waits_summary_global_by_event_name WHERE event_name != 'idle' ORDER BY SUM_TIMER_WAIT DESC
  23. --12-1、剖析某条SQL的执行情况,包括statement信息,stege信息,wait信息
  24. SELECT EVENT_ID,sql_text FROM events_statements_history WHERE sql_text LIKE '%count(*)%';
  25. --12-2、查看每个阶段的时间消耗
  26. SELECT event_id,EVENT_NAME,SOURCE,TIMER_END - TIMER_START FROM events_stages_history_long WHERE NESTING_EVENT_ID = 1553;
  27. --12-3、查看每个阶段的锁等待情况
  28. SELECT event_id,event_name,source,timer_wait,object_name,index_name,operation,nesting_event_id FROM events_waits_history_longWHERE nesting_event_id = 1553;

使用show processlist 查看连接线程数

为什么不能使用select * ?
出于性能的考虑,尽量减少不必要的IO消耗,1个是减少io量,1个是减少io次数。

Schema与数据类型优化

数据类型优化

原则

  • 更小的通常更好
  • 简单就好
  • 尽量避免null

更小的更好

尽可能使用更小的数据类型,占用磁盘、内存、缓存更少,并且处理时需要的cpu周期更少。

简单就好
  1. 整型比字符操作代价更低,因为字符比较比整形比较更复杂
  2. 使用mysql自建类型而不是字符串来存储日期、数值、Ip
    避免为null
    查询包含null的列,对mysql来说很难优化,因为可为Null的列使得索引、索引统计和值比较都更加复杂
    通常Null列改为not null带来的性能提升比较小,所有没必要去改旧表null字段,但新的表设计应当避免Null列。

细化

整数类型

合理使用tinyint,smallint,mediumint,int,big分别1,2,3,4,8字节的空间,尽量最小

string类型
  • varchar使用最小可容纳长度
  • 在5.6- ,varchar扩容会导致锁表
  • char最大255,会自动删除末尾空格,以空间换时间,读写效率都比varchar高
    blob/text类型
    blob是二进制存储,text是字符,值都当作独立对象处理。
    datetime/timestamp/date
    datetime占用8个字节,与时区无关,可保存ms, 保存时间范围更大,不要使用字符串存储日期类型
    timestamp占用4个字节,时间从1970-2038 ,精确到秒,采用整型存储,依赖数据库设置的时区,自动更新timestamp列的值
    date占用3个字节,可以保存1000到9999之间的日期
    使用枚举替代字符串类型
    mysql存储枚举值比较紧凑,会根据列表数据压缩到1-2个字节,mysql在内部会将每个值在列表中的位置保存为整数,并且在表的.frm文件中优点数字-字符串的映射关系。
    inet_aton/inet_ntoal
    保存ip最好用这个

[适当冗余]合理使用范式和反范式

范式

三范式
  1. 列不可分割
  2. 行可被惟一区分 (需要有主键)
  3. 表中不应冗余其他表中已包含的信息

三范式的最终目的就是为了减少数据冗余。
优点:

  • 范式更新通常比反范式要快
  • 当数据较好的范式化后,很少或者没有重复的数据
  • 范式化的数据越小,可以放在内存中,操作比较快

缺点:通常需要进行关联

反范式

优点:

  • 反有数据都在同一张表中,可以避免关联
  • 可以设计有郊的索引

缺点:表格中冗余较多,删除数据时会造成有些有用的信息丢失

适当冗余

被频繁使用且只能通过join1个或多个大表才能得到的独立小字段 应当考虑冗余 缺点:需要保证数据一致性

  • order表冗余商品信息,虽然没有严格遵守范式,但可以避免一部分联查。
  • 从父表冗余字段到子表来满足排序的需要

主键与字符集选择

推荐使用自增代理主键

自然主键

事物属性中的自然惟一标识

代理主键

与业务无关,无意义的数字序列
推荐使用自增的代理主键。不与业务耦合。

字符集选择

  • 拉丁字符能表示,不要使用之外的字符编码,会节省大量存储空间
  • 不存在多种语言,就没必要使用UTF-8或UNICODE,避免存储空间浪费
  • 对不同字段使用不同数据类型,来降低io操作次数并提高缓存命中率

    存储引擎选择

    ab180d421a17de2810444d9441bd30dd6f0a45299a9fc7b72083bdd06e4ee678.png

适当拆分

表中有text/json或者超级大的varchar字段且使用率低,应当拆分出去来减少io的量
优点:1. 每次按块读取时,可以多读几条,减少io次数 2. 大大提高缓存命中率

mysql执行计划

  1. 在企业的应用场景中,为了知道优化SQL语句的执行,需要查看SQL语句的具体执行过程,以加快SQL语句的执行效率。
  2. 可以使用explain+SQL语句来模拟优化器执行SQL查询语句,从而知道mysql是如何处理sql语句的。
  3. 官网地址: [https://dev.mysql.com/doc/refman/5.5/en/explain-output.html](https://dev.mysql.com/doc/refman/5.5/en/explain-output.html)

1、执行计划中包含的信息

Column Meaning
id The SELECT identifier
select_type The SELECT type
table The table for the output row
partitions The matching partitions
type The join type
possible_keys The possible indexes to choose
key The index actually chosen
key_len The length of the chosen key
ref The columns compared to the index
rows Estimate of rows to be examined
filtered Percentage of rows filtered by table condition
extra Additional information

id

select查询的序列号,包含一组数字,表示查询中执行select子句或者操作表的顺序

id号分为三种情况:

  1. 1、如果id相同,那么执行顺序从上到下
  1. explain select * from emp e join dept d on e.deptno = d.deptno join salgrade sg on e.sal between sg.losal and sg.hisal;
  1. 2、如果id不同,如果是子查询,id的序号会递增,id值越大优先级越高,越先被执行
  1. explain select * from emp e where e.deptno in (select d.deptno from dept d where d.dname = 'SALES');
  1. 3id相同和不同的,同时存在:相同的可以认为是一组,从上往下顺序执行,在所有组中,id值越大,优先级越高,越先执行
  1. explain select * from emp e join dept d on e.deptno = d.deptno join salgrade sg on e.sal between sg.losal and sg.hisal where e.deptno in (select d.deptno from dept d where d.dname = 'SALES');

select_type

主要用来分辨查询的类型,是普通查询还是联合查询还是子查询

select_type Value Meaning
SIMPLE Simple SELECT (not using UNION or subqueries)
PRIMARY Outermost SELECT
UNION Second or later SELECT statement in a UNION
DEPENDENT UNION Second or later SELECT statement in a UNION, dependent on outer query
UNION RESULT Result of a UNION.
SUBQUERY First SELECT in subquery
DEPENDENT SUBQUERY First SELECT in subquery, dependent on outer query
DERIVED Derived table
UNCACHEABLE SUBQUERY A subquery for which the result cannot be cached and must be re-evaluated for each row of the outer query
UNCACHEABLE UNION The second or later select in a UNION that belongs to an uncacheable subquery (see UNCACHEABLE SUBQUERY)
  1. --sample:简单的查询,不包含子查询和union
  2. explain select * from emp;
  3. --primary:查询中若包含任何复杂的子查询,最外层查询则被标记为Primary
  4. explain select staname,ename supname from (select ename staname,mgr from emp) t join emp on t.mgr=emp.empno ;
  5. --union:若第二个select出现在union之后,则被标记为union
  6. explain select * from emp where deptno = 10 union select * from emp where sal >2000;
  7. --dependent union:跟union类似,此处的depentent表示unionunion all联合而成的结果会受外部表影响
  8. explain select * from emp e where e.empno in ( select empno from emp where deptno = 10 union select empno from emp where sal >2000)
  9. --union result:从union表获取结果的select
  10. explain select * from emp where deptno = 10 union select * from emp where sal >2000;
  11. --subquery:在select或者where列表中包含子查询
  12. explain select * from emp where sal > (select avg(sal) from emp) ;
  13. --dependent subquery:subquery的子查询要受到外部表查询的影响
  14. explain select * from emp e where e.deptno in (select distinct deptno from dept);
  15. --DERIVED: from子句中出现的子查询,也叫做派生类,
  16. explain select staname,ename supname from (select ename staname,mgr from emp) t join emp on t.mgr=emp.empno ;
  17. --UNCACHEABLE SUBQUERY:表示使用子查询的结果不能被缓存
  18. explain select * from emp where empno = (select empno from emp where deptno=@@sort_buffer_size);
  19. --uncacheable union:表示union的查询结果不能被缓存:sql语句未验证

table

对应行正在访问哪一个表,表名或者别名,可能是临时表或者union合并结果集
1、如果是具体的表名,则表明从实际的物理表中获取数据,当然也可以是表的别名

  1. 2、表名是derivedN的形式,表示使用了idN的查询产生的衍生表
  2. 3、当有union result的时候,表名是union n1,n2等的形式,n1,n2表示参与unionid

type

type显示的是访问类型,访问类型表示我是以何种方式去访问我们的数据,最容易想的是全表扫描,直接暴力的遍历一张表去寻找需要的数据,效率非常低下,访问的类型有很多,效率从最好到最坏依次是:

system > const > eq_ref > ref > fulltext > ref_or_null > index_merge > unique_subquery > index_subquery > range > index > ALL

一般情况下,得保证查询至少达到range级别,最好能达到ref

  1. --all:全表扫描,一般情况下出现这样的sql语句而且数据量比较大的话那么就需要进行优化。
  2. explain select * from emp;
  3. --index:全索引扫描这个比all的效率要好,主要有两种情况,一种是当前的查询时覆盖索引,即我们需要的数据在索引中就可以索取,或者是使用了索引进行排序,这样就避免数据的重排序
  4. explain select empno from emp;
  5. --range:表示利用索引查询的时候限制了范围,在指定范围内进行查询,这样避免了index的全索引扫描,适用的操作符: =, <>, >, >=, <, <=, IS NULL, BETWEEN, LIKE, or IN()
  6. explain select * from emp where empno between 7000 and 7500;
  7. --index_subquery:利用索引来关联子查询,不再扫描全表
  8. explain select * from emp where emp.job in (select job from t_job);
  9. --unique_subquery:该连接类型类似与index_subquery,使用的是唯一索引
  10. explain select * from emp e where e.deptno in (select distinct deptno from dept);
  11. --index_merge:在查询过程中需要多个索引组合使用,没有模拟出来
  12. --ref_or_null:对于某个字段即需要关联条件,也需要null值的情况下,查询优化器会选择这种访问方式
  13. explain select * from emp e where e.mgr is null or e.mgr=7369;
  14. --ref:使用了非唯一性索引进行数据的查找
  15. create index idx_3 on emp(deptno);
  16. explain select * from emp e,dept d where e.deptno =d.deptno;
  17. --eq_ref :使用唯一性索引进行数据查找
  18. explain select * from emp,emp2 where emp.empno = emp2.empno;
  19. --const:这个表至多有一个匹配行,
  20. explain select * from emp where empno = 7369;
  21. --system:表只有一行记录(等于系统表),这是const类型的特例,平时不会出现

possible_keys

  1. 显示可能应用在这张表中的索引,一个或多个,查询涉及到的字段上若存在索引,则该索引将被列出,但不一定被查询实际使用
  1. explain select * from emp,dept where emp.deptno = dept.deptno and emp.deptno = 10;

key

  1. 实际使用的索引,如果为null,则没有使用索引,查询中若使用了覆盖索引,则该索引和查询的select字段重叠。
  1. explain select * from emp,dept where emp.deptno = dept.deptno and emp.deptno = 10;

key_len

表示索引中使用的字节数,可以通过key_len计算查询中使用的索引长度,在不损失精度的情况下长度越短越好。

  1. explain select * from emp,dept where emp.deptno = dept.deptno and emp.deptno = 10;

ref

显示索引的哪一列被使用了,如果可能的话,是一个常数

  1. explain select * from emp,dept where emp.deptno = dept.deptno and emp.deptno = 10;

rows

根据表的统计信息及索引使用情况,大致估算出找出所需记录需要读取的行数,此参数很重要,直接反应的sql找了多少数据,在完成目的的情况下越少越好

  1. explain select * from emp;

extra

包含额外的信息。

  1. --using filesort:说明mysql无法利用索引进行排序,只能利用排序算法进行排序,会消耗额外的位置
  2. explain select * from emp order by sal;
  3. --using temporary:建立临时表来保存中间结果,查询完成之后把临时表删除
  4. explain select ename,count(*) from emp where deptno = 10 group by ename;
  5. --using index:这个表示当前的查询时覆盖索引的,直接从索引中读取数据,而不用访问数据表。如果同时出现using where 表名索引被用来执行索引键值的查找,如果没有,表面索引被用来读取数据,而不是真的查找
  6. explain select deptno,count(*) from emp group by deptno limit 10;
  7. --using where:使用where进行条件过滤
  8. explain select * from t_user where id = 1;
  9. --using join buffer:使用连接缓存,情况没有模拟出来
  10. --impossible wherewhere语句的结果总是false
  11. explain select * from emp where empno = 7469;