MySQL 压测工具 mysqlslap sysbench

1、基准测试

数据库的基准测试是对数据库的性能指标进行定量的、可复现的、可对比的测试。基准测试与压力测试 基准测试可以理解为针对系统的一种压力测试。但基准测试不关心业务逻辑，更加简单、直接、易于测试，数据可以由工具生成，不要求真实；而压力测试一般考虑业务逻辑(如购物车业务)，要求真实的数据。

基准测试的作用

对于多数Web应用，整个系统的瓶颈在于数据库；原因很简单：Web应用中的其他因素，例如网络带宽、负载均衡节点、应用服务器（包括CPU、内存、硬盘灯、连接数等）、缓存，都很容易通过水平的扩展（俗称加机器）来实现性能的提高。而对于MySQL，由于数据一致性的要求，无法通过增加机器来分散向数据库写数据带来的压力；虽然可以通过前置缓存（Redis等）、读写分离、分库分表来减轻压力，但是与系统其它组件的水平扩展相比，受到了太多的限制。而对数据库的基准测试的作用，就是分析在当前的配置下（包括硬件配置、OS、数据库设置等），数据库的性能表现，从而找出MySQL的性能阈值，并根据实际系统的要求调整配置。

基准测试的指标

常见的数据库指标包括：TPS/QPS：衡量吞吐量。响应时间：包括平均响应时间、最小响应时间、最大响应时间、时间百分比等，其中时间百分比参考意义较大，如前95%的请求的最大响应时间。。并发量：同时处理的查询请求的数量。

基准测试的分类

对MySQL的基准测试，有如下两种思路：
（1）针对整个系统的基准测试：通过http请求进行测试，如通过浏览器、APP或postman等测试工具。该方案的优点是能够更好的针对整个系统，测试结果更加准确；缺点是设计复杂实现困难。
（2）只针对MySQL的基准测试：优点和缺点与针对整个系统的测试恰好相反。在针对MySQL进行基准测试时，一般使用专门的工具进行，例如mysqlslap、sysbench等。其中，sysbench比mysqlslap更通用、更强大，且更适合Innodb（因为模拟了许多Innodb的IO特性）。

2、MySQL自带的压力测试工具 mysqlslap

mysqlslap是mysql自带的基准测试工具，该工具查询数据，语法简单，灵活容易使用。该工具可以模拟多个客户端同时并发的向服务器发出查询更新，给出了性能测试数据而且提供了多种引擎的性能比较。mysqlslap为mysql性能优化前后提供了直观的验证依据，系统运维和DBA人员应该掌握一些常见的压力测试工具，才能准确的掌握线上数据库支撑的用户流量上限及其抗压性等问题。

A.更改其默认的最大连接数

在对MySQL进行压力测试之前，需要更改其默认的最大连接数，如下：

  1. [root@mysql ~]# vim /etc/my.cnf
  2. ................
  3. [mysqld]
  4. max_connections=1024
  5. [root@mysql ~]# systemctl restart mysqld

查看最大连接数

  1. mysql> show variables like 'max_connections';
  2. +-----------------+-------+
  3. | Variable_name   | Value |
  4. +-----------------+-------+
  5. | max_connections | 1024  |
  6. +-----------------+--------+
  7. 1 row in set (0.00 sec)

进行压力测试：

  1. [root@mysql ~]# mysqlslap --defaults-file=/etc/my.cnf --concurrency=100,200 --iterations=1 --number-int-cols=20 --number-char-cols=30 \
  2. --auto-generate-sql --auto-generate-sql-add-autoincrement --auto-generate-sql-load-type=mixed --engine=myisam,innodb --number-of-queries=2000 -uroot -p123 --verbose

上述命令测试说明：模拟测试两次读写并发，第一次100，第二次200，自动生成SQL脚本，测试表包含20个init字段，30个char字段，每次执行2000查询请求。测试引擎分别是myisam，innodb。（上述选项中有很多都是默认值，可以省略，如果想要了解各个选项的解释，可以使用mysqlslap —help进行查询）。
测试结果说明：

  • Myisam第一次100客户端同时发起增查用0.557/s,第二次200客户端同时发起增查用0.522/s
  • Innodb第一次100客户端同时发起增查用0.256/s,第二次200客户端同时发起增查用0.303/s

可以根据实际需求，一点点的加大并发数量进行压力测试。**

3、使用第三方sysbench工具进行压力测试

A.sysbench简介

sysbench是跨平台的基准测试工具，支持多线程，支持多种数据库；主要包括以下几种测试：

  1. cpu性能
  2. 磁盘io性能
  3. 调度程序性能
  4. 内存分配及传输速度
  5. POSIX线程性能
  6. 数据库性能(OLTP基准测试)

    B.安装sysbench工具

    yum安装

    1. [root@mysql ~]# yum -y install epel-release #安装第三方epel源
    2. [root@mysql ~]# yum -y install sysbench #安装sysbench工具
    3. [root@mysql ~]# sysbench --version #确定工具已安装
    4. sysbench 1.0.17
    sysbench可以进行以下测试：
  • CPU 运算性能测试
  • 磁盘 IO 性能测试
  • 调度程序性能测试
  • 内存分配及传输速度测试
  • POSIX 线程性能测试

数据库性能测试（OLTP 基准测试，需要通过 /usr/share/sysbench/ 目录中的 Lua 脚本执行，例如 oltp_read_only.lua 脚本执行只读测试）。
sysbench 还可以通过运行命令时指定自己的 Lua 脚本来自定义测试。

源码安装

1.下载解压

  1. wget https://github.com/akopytov/sysbench/archive/1.0.zip -O "sysbench-1.0.zip"
  2. unzip sysbench-1.0.zip
  3. cd sysbench-1.0

2.安装依赖

  1. yum install automake libtool –y

3.安装

安装之前，确保位于之前解压的sysbench目录中。

  1. ./autogen.sh
  2. ./configure
  3. export LD_LIBRARY_PATH=/usr/local/mysql/include #这里换成机器中mysql路径下的include
  4. make && make install

4.安装成功

  1. [root@test sysbench-1.0]# sysbench --version
  2. sysbench 1.0.9

C.查看sysbench工具的帮助选项

  1. [root@mysql ~]# sysbench --help
  2. Usage:
  3. sysbench [options]... [testname] [command]
  4. Commands implemented by most tests: prepare run cleanup help # 可用的命令，四个
  5. General options: # 通用选项
  6. --threads=N 要使用的线程数，默认 1 个 [1]
  7. --events=N 最大允许的事件个数 [0]
  8. --time=N 最大的总执行时间，以秒为单位 [10]
  9. --forced-shutdown=STRING 在 --time 时间限制到达后，强制关闭之前等待的秒数，默认“off”禁用（number of seconds to wait after the --time limit before forcing shutdown, or 'off' to disable） [off]
  10. --thread-stack-size=SIZE 每个线程的堆栈大小 [64K]
  11. --rate=N 平均传输速率。0 则无限制 [0]
  12. --report-interval=N 以秒为单位定期报告具有指定间隔的中间统计信息 0 禁用中间报告 [0]
  13. --report-checkpoints=[LIST,...] 转储完整的统计信息并在指定的时间点重置所有计数器。参数是一个逗号分隔的值列表，表示从测试开始经过这个时间量时必须执行报告检查点（以秒为单位）。报告检查点默认关闭。 []
  14. --debug[=on|off] 打印更多 debug 信息 [off]
  15. --validate[=on|off] 尽可能执行验证检查 [off]
  16. --help[=on|off] 显示帮助信息并退出 [off]
  17. --version[=on|off] 显示版本信息并退出 [off]
  18. --config-file=FILENAME 包含命令行选项的文件
  19. --tx-rate=N 废弃，改用 --rate [0]
  20. --max-requests=N 废弃，改用 --events [0]
  21. --max-time=N 废弃，改用 --time [0]
  22. --num-threads=N 废弃，改用 --threads [1]
  23. Pseudo-Random Numbers Generator options: # 伪随机数发生器选项
  24. --rand-type=STRING random numbers distribution {uniform,gaussian,special,pareto} [special]
  25. --rand-spec-iter=N number of iterations used for numbers generation [12]
  26. --rand-spec-pct=N percentage of values to be treated as 'special' (for special distribution) [1]
  27. --rand-spec-res=N percentage of 'special' values to use (for special distribution) [75]
  28. --rand-seed=N seed for random number generator. When 0, the current time is used as a RNG seed. [0]
  29. --rand-pareto-h=N parameter h for pareto distribution [0.2]
  30. Log options: # 日志选项
  31. --verbosity=N verbosity level {5 - debug, 0 - only critical messages} [3]
  32. --percentile=N percentile to calculate in latency statistics (1-100). Use the special value of 0 to disable percentile calculations [95]
  33. --histogram[=on|off] print latency histogram in report [off]
  34. General database options: # 通用的数据库选项
  35. --db-driver=STRING 指定要使用的数据库驱动程序 ('help' to get list of available drivers)
  36. --db-ps-mode=STRING prepared statements usage mode {auto, disable} [auto]
  37. --db-debug[=on|off] print database-specific debug information [off]
  38. Compiled-in database drivers: # 內建的数据库驱动程序，默认支持 MySQL 和 PostgreSQL
  39. mysql - MySQL driver
  40. pgsql - PostgreSQL driver
  41. mysql options: # MySQL 数据库专用选项
  42. --mysql-host=[LIST,...] MySQL server host [localhost]
  43. --mysql-port=[LIST,...] MySQL server port [3306]
  44. --mysql-socket=[LIST,...] MySQL socket
  45. --mysql-user=STRING MySQL user [sbtest]
  46. --mysql-password=STRING MySQL password []
  47. --mysql-db=STRING MySQL database name [sbtest]
  48. --mysql-ssl[=on|off] use SSL connections, if available in the client library [off]
  49. --mysql-ssl-cipher=STRING use specific cipher for SSL connections []
  50. --mysql-compression[=on|off] use compression, if available in the client library [off]
  51. --mysql-debug[=on|off] trace all client library calls [off]
  52. --mysql-ignore-errors=[LIST,...] list of errors to ignore, or "all" [1213,1020,1205]
  53. --mysql-dry-run[=on|off] Dry run, pretend that all MySQL client API calls are successful without executing them [off]
  54. pgsql options: # PostgreSQL 数据库专用选项
  55. --pgsql-host=STRING PostgreSQL server host [localhost]
  56. --pgsql-port=N PostgreSQL server port [5432]
  57. --pgsql-user=STRING PostgreSQL user [sbtest]
  58. --pgsql-password=STRING PostgreSQL password []
  59. --pgsql-db=STRING PostgreSQL database name [sbtest]
  60. Compiled-in tests: # 內建测试类型
  61. fileio - File I/O test
  62. cpu - CPU performance test
  63. memory - Memory functions speed test
  64. threads - Threads subsystem performance test
  65. mutex - Mutex performance test
  66. See 'sysbench <testname> help' for a list of options for each test.

MySQL执行参数

1.—oltp-test-mode：执行模式

包括simple、nontrx和complex，默认是complex。simple模式下只测试简单的查询；nontrx不仅测试查询，还测试插入更新等，但是不使用事务；complex模式下测试最全面，会测试增删改查，而且会使用事务。可以根据自己的需要选择测试模式。

2.—oltp-tables-count：测试的表数量

根据实际情况选择3.—oltp-table-size：测试的表的大小，根据实际情况选择

4.—threads：客户端的并发连接数

5.—time：测试执行的时间，单位是秒

该值不要太短，可以选择120

6.—report-interval：生成报告的时间间隔

单位是秒，如10

D.sysbench简单使用示例

1.准备数据

  1. sysbench ./tests/include/oltp_legacy/oltp.lua --mysql-host=192.168.10.10 --mysql-port=3306 --mysql-user=root --mysql-password=123456 --oltp-test-mode=complex --oltp-tables-count=10 --oltp-table-size=100000 --threads=10 --time=120 --report-interval=10 prepare

其中，执行模式为complex，使用了10个表，每个表有10万条数据，客户端的并发线程数为10，执行时间为120秒，每10秒生成一次报告。

2.执行测试

将测试结果导出到文件中，便于后续分析。

  1. sysbench ./tests/include/oltp_legacy/oltp.lua --mysql-host=192.168.10.10 --mysql-port=3306 --mysql-user=root --mysql-password=123456 --oltp-test-mode=complex --oltp-tables-count=10 --oltp-table-size=100000 --threads=10 --time=120 --report-interval=10 run >>/home/test/mysysbench.log

3.清理数据

执行完测试后，清理数据，否则后面的测试会受到影响。

  1. sysbench ./tests/include/oltp_legacy/oltp.lua --mysql-host=192.168.10.10 --mysql-port=3306 --mysql-user=root --mysql-password=123456 cleanup

4.测试结果分析

测试结束后，查看输出文件，其中比较重要的信息包括：queries：查询总数及qps transactions：事务总数及tps Latency-95th percentile：前95%的请求的最大响应时间。

E.sysbench测试MySQL数据库性能

1）准备测试数据

  1. #查看sysbench自带的lua脚本使用方法
  2. [root@mysql ~]# sysbench /usr/share/sysbench/oltp_common.lua help
  3. #必须创建sbtest库，sbtest是sysbench默认使用的库名
  4. [root@mysql ~]# mysqladmin -uroot -p123 create sbtest;
  5. #然后，准备测试所用的表，这些测试表放在测试库sbtest中。这里使用的lua脚本为/usr/share/sysbench/oltp_common.lua。
  6. [root@mysql ~]# sysbench --mysql-host=127.0.0.1 \
  7. --mysql-port=3306 \
  8. --mysql-user=root \
  9. --mysql-password=123 \
  10. /usr/share/sysbench/oltp_common.lua \
  11. --tables=10 \
  12. --table_size=100000 \
  13. prepare
  14. #其中--tables=10表示创建10个测试表，
  15. #--table_size=100000表示每个表中插入10W行数据，
  16. #prepare表示这是准备数的过程。

2）确认测试数据以存在

  1. [root@mysql ~]# mysql -uroot -p123 sbtest; #登录到sbtest库
  2. mysql> show tables; #查看相应的表
  3. +------------------+
  4. | Tables_in_sbtest |
  5. +------------------+
  6. | sbtest1          |
  7. | sbtest10         |
  8. | sbtest2          |
  9. | sbtest3          |
  10. | sbtest4          |
  11. | sbtest5          |
  12. | sbtest6          |
  13. | sbtest7          |
  14. | sbtest8          |
  15. | sbtest9          |
  16. +------------------+
  17. 10 rows in set (0.00 sec)
  1. mysql> select count(*) from sbtest1; #随机选择一个表，确认其有100000条数据
  2. +----------+
  3. | count(*) |
  4. +----------+
  5. | 100000   |
  6. +----------+
  7. 1 row in set (0.01 sec)

3）数据库测试和结果分析

稍微修改下之前准备数据的语句，就可以拿来测试了。需要注意的是，之前使用的lua脚本为oltp_common.lua，它是一个通用脚本，是被其它lua脚本调用的，它不能直接拿来测试。
所以，这里用oltp_read_write.lua脚本来做读、写测试。还有很多其它类型的测试，比如只读测试、只写测试、删除测试、大批量插入测试等等。可找到对应的lua脚本进行调用即可。

  1. #执行测试命令如下：
  2. [root@mysql ~]# sysbench --threads=4 \
  3. --time=20 \
  4. --report-interval=5 \
  5. --mysql-host=127.0.0.1 \
  6. --mysql-port=3306 \
  7. --mysql-user=root \
  8. --mysql-password=123 \
  9. /usr/share/sysbench/oltp_read_write.lua \
  10. --tables=10 \
  11. --table_size=100000 \
  12. run

上述命令返回的结果如下：

  1. [root@mysql ~]# sysbench --threads=4 --time=20 --report-interval=5 --mysql-host=127.0.0.1 --mysql-port=3306 --mysql-user=root --mysql-password=123 /usr/share/sysbench/oltp_read_write.lua --tables=10 --table_size=100000 run
  2. sysbench 1.0.17 (using system LuaJIT 2.0.4)
  3. Running the test with following options:
  4. Number of threads: 4
  5. Report intermediate results every 5 second(s)
  6. Initializing random number generator from current time
  7. Initializing worker threads...
  8. Threads started!
  9. #以下是每5秒返回一次的结果，统计的指标包括：
  10. # 线程数、tps(每秒事务数)、qps(每秒查询数)、
  11. # 每秒的读/写/其它次数、延迟、每秒错误数、每秒重连次数
  12. [ 5s ] thds: 4 tps: 1040.21 qps: 20815.65 (r/w/o: 14573.17/4161.25/2081.22) lat (ms,95%): 7.17 err/s: 0.00 reconn/s: 0.00
  13. [ 10s ] thds: 4 tps: 1083.34 qps: 21667.15 (r/w/o: 15165.93/4334.55/2166.68) lat (ms,95%): 6.55 err/s: 0.00 reconn/s: 0.00
  14. [ 15s ] thds: 4 tps: 1121.57 qps: 22429.09 (r/w/o: 15700.64/4485.30/2243.15) lat (ms,95%): 6.55 err/s: 0.00 reconn/s: 0.00
  15. [ 20s ] thds: 4 tps: 1141.69 qps: 22831.98 (r/w/o: 15982.65/4566.16/2283.18) lat (ms,95%): 6.09 err/s: 0.00 reconn/s: 0.00
  16. SQL statistics:
  17. queries performed:
  18. read: 307146 # 执行的读操作数量
  19. write: 87756 # 执行的写操作数量
  20. other: 43878 # 执行的其它操作数量
  21. total: 438780
  22. transactions: 21939 (1096.57 per sec.) # 执行事务的平均速率
  23. queries: 438780 (21931.37 per sec.) # 平均每秒能执行多少次查询
  24. ignored errors: 0 (0.00 per sec.)
  25. reconnects: 0 (0.00 per sec.)
  26. General statistics:
  27. total time: 20.0055s # 总消耗时间
  28. total number of events: 21939 # 总请求数量(读、写、其它)
  29. Latency (ms):
  30. min: 1.39
  31. avg: 3.64
  32. max: 192.05
  33. 95th percentile: 6.67 # 采样计算的平均延迟
  34. sum: 79964.26
  35. Threads fairness:
  36. events (avg/stddev): 5484.7500/15.12
  37. execution time (avg/stddev): 19.9911/0.00

F.cpu/io/内存等测试

sysbench内置的几个测试指标如下：

  1. [root@mysql ~]# sysbench --help
  2. .......... # 省略部分内容
  3. Compiled-in tests:
  4. fileio - File I/O test
  5. cpu - CPU performance test
  6. memory - Memory functions speed test
  7. threads - Threads subsystem performance test
  8. mutex - Mutex performance test

可以直接help输出测试方法，例如，fileio测试：

  1. [root@mysql ~]# sysbench fileio help
  2. sysbench 1.0.17 (using system LuaJIT 2.0.4)
  3. fileio options:
  4. --file-num=N number of files to create [128]
  5. --file-block-size=N block size to use in all IO operations [16384]
  6. --file-total-size=SIZE total size of files to create [2G]
  7. --file-test-mode=STRING test mode {seqwr, seqrewr, seqrd, rndrd, rndwr, rndrw}
  8. --file-io-mode=STRING file operations mode {sync,async,mmap} [sync]
  9. --file-async-backlog=N number of asynchronous operatons to queue per thread [128]
  10. --file-extra-flags=[LIST,...] list of additional flags to use to open files {sync,dsync,direct} []
  11. --file-fsync-freq=N do fsync() after this number of requests (0 - don't use fsync()) [100]
  12. --file-fsync-all[=on|off] do fsync() after each write operation [off]
  13. --file-fsync-end[=on|off] do fsync() at the end of test [on]
  14. --file-fsync-mode=STRING which method to use for synchronization {fsync, fdatasync} [fsync]
  15. --file-merged-requests=N merge at most this number of IO requests if possible (0 - don't merge) [0]
  16. --file-rw-ratio=N reads/writes ratio for combined test [1.5]

1）测试io性能

例如，创建5个文件，总共2G，每个文件大概400M。

  1. [root@mysql ~]# sysbench fileio --file-num=5 --file-total-size=2G prepare
  2. [root@mysql ~]# ll -lh test*
  3. -rw------- 1 root root 410M May 26 16:05 test_file.0
  4. -rw------- 1 root root 410M May 26 16:05 test_file.1
  5. -rw------- 1 root root 410M May 26 16:05 test_file.2
  6. -rw------- 1 root root 410M May 26 16:05 test_file.3
  7. -rw------- 1 root root 410M May 26 16:05 test_file.4

然后运行测试：

  1. [root@mysql ~]# sysbench --events=5000 \
  2. --threads=16 \
  3. fileio \
  4. --file-num=5 \
  5. --file-total-size=2G \
  6. --file-test-mode=rndrw \
  7. --file-fsync-freq=0 \
  8. --file-block-size=16384 \
  9. run

返回的结果如下：

  1. Running the test with following options:
  2. Number of threads: 16
  3. Initializing random number generator from current time
  4. Extra file open flags: (none)
  5. 5 files, 409.6MiB each
  6. 2GiB total file size
  7. Block size 16KiB
  8. Number of IO requests: 5000
  9. Read/Write ratio for combined random IO test: 1.50
  10. Calling fsync() at the end of test, Enabled.
  11. Using synchronous I/O mode
  12. Doing random r/w test
  13. Initializing worker threads...
  14. Threads started!
  15. File operations:
  16. reads/s: 9899.03
  17. writes/s: 6621.38
  18. fsyncs/s: 264.33
  19. Throughput: # 吞吐量
  20. read, MiB/s: 154.66 #表示读带宽
  21. written, MiB/s: 103.46 #表示写的带宽
  22. General statistics:
  23. total time: 0.3014s
  24. total number of events: 5000
  25. Latency (ms):
  26. min: 0.00
  27. avg: 0.81
  28. max: 53.56
  29. 95th percentile: 4.10
  30. sum: 4030.48
  31. Threads fairness:
  32. events (avg/stddev): 312.5000/27.64
  33. execution time (avg/stddev): 0.2519/0.02

2）测试cpu性能

  1. [root@mysql ~]# sysbench cpu --threads=40 --events=10000 --cpu-max-prime=20000 run