一条更新语句的执行流程

事实上,更新语句和查询语句在执行流程上并没有什么大的不同,依旧会走一遍Server 层的各个组件。
image.png 下面,我以一条简单的 SQL update T set c=c+1 where ID=2; 为例:

  1. 依旧是客户端通过连接器连接MySQL
  2. 连接器做身份认证和权限信息管理
  3. 更新语句会将目标表 T 在查询缓存中的缓存全部清空
  4. 分析器做词法、语法、语义分析
  5. 优化器优化 SQL 执行效率
  6. 执行器负责执行

大致上的流程就是这样子,但是更新语句和查询语句最主要的区别还是在于两个日志系统 redo log(重做日志) 和 bin log(归档日志)。

redo log

简介

总所周知,MySQL(InnoDB) 并不是像 Rddis 那样的内存型数据库,它的数据文件都是存储在硬盘上的,而且每次 MySQL 的从硬盘中获取都是获取整个内存页(默认16kb),那么就存在一个问题,如果每一次的操作都需要先在磁盘中找到对应的记录,然后再更新,整个过程的IO 成本、查找成本都很高。为了解决这个问题,MySQL 提供了一种 WAL(Write-Ahead Logging) 技术,它的关键点在于先写日志,再批量写入磁盘。
具体来讲,当有一条记录需要更新的时候,InnoDB 引擎就会先把记录写到 redo log 里面,并更新内存,这个时候更新就算完成了。同时,InnoDB 引擎会在适当的时候,将这个操作记录更新到磁盘里面。
redo log 是 InnoDB 特有的日志文件。

数据结构

InnoDB 的 redo log 是固定大小的,比如可以配置为一组 4 个文件,每个文件的大小是 1GB,那么这块“粉板”总共就可以记录 4GB 的操作。从头开始写,写到末尾就又回到开头循环写,如下面这个图所示。
image.png
write pos 是当前记录的位置,一边写一边后移,写到第 3 号文件末尾后就回到 0 号文件开头。checkpoint 是当前要擦除的位置,也是往后推移并且循环的,擦除记录前要把记录更新到数据文件。
write pos 和 checkpoint 之间的是 redo log 上还空着的部分,可以用来记录新的操作。如果 write pos 追上 checkpoint,表示 redo log 满了,这时候不能再执行新的更新,得停下来先擦掉一些记录,把 checkpoint 推进一下。
有了 redo log,InnoDB 就可以保证即使数据库发生异常重启,之前提交的记录都不会丢失,这个能力称为 crash-safe。

bin log

简介

redo log 是 InnoDB 专有的日志,但是从MySQL 的逻辑架构可知,MySQL主要分为 Server 层和存储引擎层,那么Server 有没有自己专属的日志呢?当然是有的,这就是我们接下来要介绍的——bin log。
那么为什么MySQL会出现两个日志呢?因为最开始 MySQL 里并没有 InnoDB 引擎。MySQL 自带的引擎是 MyISAM,但是 MyISAM 没有 crash-safe 的能力,binlog 日志只能用于归档。而 InnoDB 是另一个公司以插件形式引入 MySQL 的,既然只依靠 binlog 是没有 crash-safe 能力的,所以 InnoDB 使用另外一套日志系统——也就是 redo log 来实现 crash-safe 能力。

bin log 和 redo log 的区别

  1. redo log 是 InnoDB 引擎特有的;binlog 是 MySQL 的 Server 层实现的,所有引擎都可以使用;
  2. redo log 是物理日志,记录的是“在某个数据页上做了什么修改”;binlog 是逻辑日志,有两种模式, row 模式会记录行的内容(更新前和更新后),statement 格式会记录 sql 语句;
  3. redo log 是循环写的,空间固定会用完;binlog 是可以追加写入的。“追加写”是指 binlog 文件写到一定大小后会切换到下一个,并不会覆盖以前的日志。

    Update 语句会对日志做什么操作

    依旧是以 update T set c=c+1 where ID=2; 这一条SQL为例:

  4. 执行器先找引擎取 ID=2 这一行。ID 是主键,引擎直接用树搜索找到这一行。如果 ID=2 这一行所在的数据页本来就在内存中,就直接返回给执行器;否则,需要先从磁盘读入内存,然后再返回。

  5. 执行器拿到引擎给的行数据,把这个值加上 1,比如原来是 N,现在就是 N+1,得到新的一行数据,再调用引擎接口写入这行新数据。
  6. 引擎将这行新数据更新到内存中,同时将这个更新操作记录到 redo log 里面,此时 redo log 处于 prepare 状态。然后告知执行器执行完成了,随时可以提交事务。
  7. 执行器生成这个操作的 binlog,并把 binlog 写入磁盘。
  8. 执行器调用引擎的提交事务接口,引擎把刚刚写入的 redo log 改成提交(commit)状态,更新完成。

这里我给出这个 update 语句的执行流程图,图中浅色框表示是在 InnoDB 内部执行的,深色框表示是在执行器中执行的。可以看到将信息写入 redo log 的过程分为了两个阶段:prepare 和 commit,这就是redo log 的两阶段提交。
image.png

两阶段提交

两阶段提交存在的目的是为了保证两个日志之间的逻辑一致。
换句话说,如果我们不采用两阶段提交会发生什么情况?依旧以 update T set c=c+1 where ID=2; 这一条SQL为例:
如果先保存 bin log,再保存 redo log:假设在保存完 bin log 之后数据库发生 crash,那么由于redo log 还没有写,对应的事务也没有提交,因此在原数据库中 c 这一行还是原来的值 N,但是如果使用 bin log 来恢复数据就不一样了,回复过后的数据库中 c 的值应该是 N + 1;
如果先保存 redo log,再保存 bin log:假设值保存完redo log 之后数据库发生 crash,由于redo log 已经写入,事务也已经提交,因此,原数据库中 c 的值应该是 N + 1,而使用 bin log 恢复数据之后,恢复后的数据库中 c 的值应该是 N。
综上所述,如果不使用两阶段提交,MySQL无法保证在 crash 场景下 redo log 和bin log 的一致性问题,那么两阶段提交是怎么保证这两个日志的一致性问题的呢?
首先比较重要的一点,在写入 redo log 之前,会顺便记录XID,即当前事务id。在写入binlog时,也会写入XID。因此存在以下三种情况:

  1. 如果在写入redo log之前崩溃,那么此时redo log与binlog中都没有,是一致的情况,崩溃也无所谓。
  2. 如果在写入redo log prepare阶段后立马崩溃,之后会在崩恢复时,由于redo log没有被标记为commit。于是拿着redo log中的XID去bin log中查找,此时肯定是找不到的,那么执行回滚操作。
  3. 如果在写入bin log后立马崩溃,在恢复时,由redo log中的XID可以找到对应的bin log,这个时候直接提交即可。

总的来说,在崩溃恢复后,只要 redo log不是处于commit阶段,那么就拿着redo log中的XID去bin log中寻找,找得到就提交,否则就回滚。在这样的机制下,两阶段提交能在崩溃恢复时,能够对提交中断的事务进行补偿,来确保redo log与binlog的数据一致性。
两阶段提交的必要性
也许有人会说,这个概率是不是很低,平时也没有什么动不动就需要恢复临时库的场景呀?
但是其实不是的,不只是误操作后需要用这个过程来恢复数据。当你需要扩容的时候,也就是需要再多搭建一些备库来增加系统的读能力的时候,现在常见的做法也是用全量备份加上应用 binlog 来实现的,这个“不一致”就会导致你的线上出现主从数据库不一致的情况。

小结

物理日志 redo log 和逻辑日志 binlog,redo log 用于保证 crash-safe 能力。innodb_flush_log_at_trx_commit 这个参数设置成 1 的时候,表示每次事务的 redo log 都直接持久化到磁盘。这个参数我建议你设置成 1,这样可以保证 MySQL 异常重启之后数据不丢失。
sync_binlog 这个参数设置成 1 的时候,表示每次事务的 binlog 都持久化到磁盘。这个参数我也建议你设置成 1,这样可以保证 MySQL 异常重启之后 binlog 不丢失。