共计 6457 个字符，预计需要花费 17 分钟才能阅读完成。
简介：日志是 MySQL 数据库的重要组成部分，记录着数据库运行期间各种状态信息，次要包含谬误日志、查问日志、慢查问日志、事务日志、二进制日志几大类。在此重点关注二进制日志 bin log 和事务日志(包含 redo log 和 undo log)。
一、概念
redo log、undo log&bin log
重做日志（redo log）、回滚日志（undo log）、二进制日志（binlog）的基本概念。
redo log 是物理日志，undo log 和 binlog 是逻辑日志；
binlog 二进制日志是 server 层的无论 MySQL 用什么引擎都会有的，次要是作主从复制，工夫点复原应用；
redo log 重做日志是 InnoDB 存储引擎层的，用来保障事务平安；
undo log 回滚日志保留了事务产生之前的数据的一个版本，能够用于回滚，同时能够提供多版本并发管制下的读（MVCC），也即非锁定读。
crash-safe
InnoDB 就能够保障即便数据库产生异样重启，之前提交的记录都不会失落，这个能力称为 crash-safe。
举个列子：当咱们批改的时候，写完内存了（buffer），但数据还没真正写到磁盘的时候。此时咱们的数据库挂了，咱们能够对数据进行复原。
二、bin log
binlog 用于记录数据库执行的写入性操作 (不包含查问) 信息，以二进制的模式保留在磁盘中。binlog 是 mysql 的逻辑日志，并且由 Server 层进行记录，应用任何存储引擎的 mysql 数据库都会记录 binlog 日志。能够简略的了解为它存储着每条变更的 SQL 语句。
能够通过 binlog 来对数据进行复原；
binlog 能够用于主从复制中，从库利用主库上的 binlog 进行重播，实现主从同步。用于数据库的基于工夫点、位点等的还原操作。binlog 的模式分三种：Statement、Row、Mixed；
binlog 是通过追加的形式进行写入的，能够通过 max_binlog_size 参数设置每个 binlog 文件的大小，当文件大小达到给定值之后，会生成新的文件来保留日志；
逻辑日志：能够简略了解为记录的就是 sql 语句；
物理日志：mysql 数据最终是保留在数据页中的，物理日志记录的就是数据页变更。
binlog 应用场景
在理论利用中，binlog 的次要应用场景有两个，别离是 主从复制 和 数据恢复。
主从复制：在 Master 端开启 binlog，而后将 binlog 发送到各个 Slave 端，Slave 端重放 binlog 从而达到主从数据统一。
数据恢复：通过应用 mysqlbinlog 工具来复原数据。
binlog 刷盘机会
对于 InnoDB 存储引擎而言，只有在事务提交时才会记录 biglog，此时记录还在内存中，那么 biglog 是什么时候刷到磁盘中的呢？mysql 通过 sync_binlog 参数管制 biglog 的刷盘机会，取值范畴是 0-N：
0：不去强制要求，由零碎自行判断何时写入磁盘；
1：每次 commit 的时候都要将 binlog 写入磁盘；
N：每 N 个事务，才会将 binlog 写入磁盘。
从下面能够看出，sync_binlog 最平安的是设置是 1，这也是 MySQL 5.7.7 之后版本的默认值。然而设置一个大一些的值能够晋升数据库性能，因而理论状况下也能够将值适当调大，就义肯定的一致性来获取更好的性能。
bin-log 三种模式
Statement 模式
每一条批改数据的 sql 都会记录到 master 的 binlog 中，slave 在复制的时候，sql 过程会解析成和原来在 master 端执行时的雷同的 sql 再执行。
长处：在 statement 模式下首先就是解决了 row 模式的毛病，不须要记录每一行数据的变动，从而缩小了 binlog 的日志量，节俭了 I/O 以及存储资源，进步性能。因为它只须要记录在 master 上执行的语句的细节以及执行语句的上下文信息。
毛病：在 statement 模式下，因为它是记录的执行语句，所以，为了让这些语句在 slave 端也能正确执行，那么它还必须记录每条语句在执行的时候的一些相干信息，即上下文信息，以保障所有语句在 slave 端和在 master 端执行后果雷同。另外就是，因为 MySQL 当初倒退比拟快，很多新性能一直的退出，使 MySQL 的复制遇到了不小的挑战，天然复制的时候波及到越简单的内容，bug 也就越容易呈现。在 statement 中，目前曾经发现不少状况会造成 MySQL 的复制呈现问题，次要是在批改数据的时候应用了某些特定的函数或者性能才会呈现，比方：sleep() 函数在有些版本中就不能被正确复制，在存储过程中应用了 last_insert_id() 函数，可能会使 slave 和 master 上失去不统一的 id 等等。因为 row 模式是基于每一行来记录变动的，所以不会呈现相似的问题。
Row 模式
日志中会记录每一行数据被批改的模式，而后在 slave 端再对雷同的数据进行批改。row 模式只记录要批改的数据，只有 value，不会有 sql 多表关联的状况。
长处：在 row 模式下，binlog 中能够不记录执行的 sql 语句的上下文相干的信息，仅仅只须要记录哪一条记录被批改了，批改成什么样了，所以 row 的日志内容会十分分明的记录下每一行数据的批改细节，非常容易了解。而且不会呈现某些特定状况下的存储过程和 function，以及 trigger 的调用和触发无奈被正确复制问题。
毛病：在 row 模式下，当所有执行语句记录到日志中的时候，都将以每行记录的批改来记录，这样可能会产生大量的日志内容。
Mixed 模式
基于 STATMENT 和 ROW 两种模式的混合复制(mixed-based replication, MBR)，个别的复制应用 STATEMENT 模式保留 binlog，对于 STATEMENT 模式无奈复制的操作应用 ROW 模式保留 binlog。比方遇到表构造变更的时候就会以 statement 模式来记录，如果 SQL 语句的确就是 update 或者 delete 等批改数据的语句，那么还是会记录所有行的变更即采纳 ROW 模式。
bin log 生命周期
事务提交的时候，一次性将事务中的 sql 语句（一个事务可能对应多个 sql 语句）依照肯定的格局记录到 binlog 中，这里与 redo log 很显著的差别就是 redo log 并不一定是在事务提交的时候才刷新到磁盘，而是在事务开始之后就开始逐渐写入磁盘。binlog 的默认保留工夫是由参数 expire_logs_days 配置的，对于非流动的日志文件，在生成工夫超过 expire_logs_days 配置的天数之后，会被主动删除。
三、redo log
redo log 是物理日志，记录着每次在某个页上做了什么批改。写 redo log 也是须要写磁盘的，但它的益处就是程序 IO（咱们都晓得程序 IO 比随机 IO 快十分多）。写入的速度很快。
为什么须要 redo log？
咱们都晓得，事务的四大个性外面有一个是 持久性，具体来说就是只有事务提交胜利，那么对数据库做的批改就被永恒保留下来了，不可能因为任何起因再回到原来的状态。
那么 mysql 是如何保障一致性的呢？最简略的做法是在每次事务提交的时候，将该事务波及批改的数据页全副刷新到磁盘中。然而这么做会有重大的性能问题，次要体现在两个方面：
因为 Innodb 是以 页 为单位进行磁盘交互的，而一个事务很可能只批改一个数据页外面的几个字节，这个时候将残缺的数据页刷到磁盘的话，太浪费资源了！
一个事务可能波及批改多个数据页，并且这些数据页在物理上并不间断，应用随机 IO 写入性能太差！
因而 mysql 设计了 redo log，具体来说就是只记录事务对数据页做了哪些批改，这样就能完满地解决性能问题了(相对而言文件更小并且是程序 IO)。
redo log 基本概念
redo log 包含两局部：一个是内存中的日志缓冲 (redo log buffer)，另一个是磁盘上的日志文件(redo logfile)。mysql 每执行一条 DML 语句，先将记录写入 redo log buffer，后续某个工夫点再一次性将多个操作记录写到 redo log file。这种 先写日志，再写磁盘 的技术就是 MySQL 里常常说到的 WAL(Write-Ahead Logging) 技术。在计算机操作系统中，用户空间(user space) 下的缓冲区数据个别状况下是无奈间接写入磁盘的，两头必须通过操作系统内核空间 (kernel space) 缓冲区(OS Buffer)。因而，redo log buffer 写入 redo logfile 实际上是先写入 OS Buffer，而后再通过零碎调用 fsync() 将其刷到 redo log file 中。
mysql 反对三种将 redo log buffer 写入 redo log file 的机会，能够通过 innodb_flush_log_at_trx_commit 参数配置，各参数值含意如下：
0：提早写。不会在事务提交时立刻将 redo log buffer 写入到 os buffer，而是每秒写入 os buffer，而后立刻写入到 redo log file，也就是每秒刷盘；
1：实时写，实时刷。每次事务提交都会将 redo log buffer 写入 os buffer，而后立刻写入 redo log file。数据可能及时入盘，然而每次事务提交都会刷盘，效率较低；
2：实时写，延时刷。每次事务提交都将 redo log buffer 写入 os buffer，而后每秒将 os buffer 写入 redo log file。
redo log 记录模式
后面说过，redo log 实际上记录数据页的变更，而这种变更记录是没必要全副保留，因而 redo log 实现上采纳了大小固定，循环写入的形式，当写到结尾时，会回到结尾循环写日志
在 innodb 中，既有 redo log 须要刷盘，还有 数据页 也须要刷盘，redo log 存在的意义次要就是升高对 数据页 刷盘的要求 **。在上图中，write pos 示意 redo log 以后记录的 LSN (逻辑序列号)地位，check point 示意 数据页更改记录 刷盘后对应 redo log 所处的 LSN(逻辑序列号)地位。write pos 到 check point 之间的局部是 redo log 空着的局部，用于记录新的记录；check point 到 write pos 之间是 redo log 待落盘的数据页更改记录。当 write pos 追上 check point 时，会先推动 check point 向前挪动，空出地位再记录新的日志。启动 innodb 的时候，不论上次是失常敞开还是异样敞开，总是会进行复原操作。因为 redo log 记录的是数据页的物理变化，因而复原的时候速度比逻辑日志 (如 binlog) 要快很多。重启 innodb 时，首先会查看磁盘中数据页的 LSN，如果数据页的 LSN 小于日志中的 LSN，则会从 checkpoint 开始复原。还有一种状况，在宕机前正处于 checkpoint 的刷盘过程，且数据页的刷盘进度超过了日志页的刷盘进度，此时会呈现数据页中记录的 LSN 大于日志中的 LSN，这时超出日志进度的局部将不会重做，因为这自身就示意曾经做过的事件，无需再重做。
redo log 与 binlog 区别
由 binlog 和 redo log 的区别可知：binlog 日志只用于归档，只依附 binlog 是没有 crash-safe 能力的。但只有 redo log 也不行，因为 redo log 是 InnoDB 特有的，且日志上的记录落盘后会被笼罩掉。因而须要 binlog 和 redo log 二者同时记录，能力保障当数据库产生宕机重启时，数据不会失落。
四、undo log
数据库事务四大个性中有一个是 原子性，具体来说就是 原子性是指对数据库的一系列操作，要么全副胜利，要么全副失败，不可能呈现局部胜利的状况。实际上，原子性 底层就是通过 undo log 实现的。undo log 次要记录了数据的逻辑变动，比方一条 INSERT 语句，对应一条 DELETE 的 undo log，对于每个 UPDATE 语句，对应一条相同的 UPDATE 的 undo log，这样在产生谬误时，就能回滚到事务之前的数据状态。同时，undo log 也是 MVCC(多版本并发管制)实现的要害。
次要作用
保留了事务产生之前的数据的一个版本，能够用于回滚；
同时能够提供多版本并发管制下的读（MVCC），也即非锁定读。
生命周期
事务开始之前，将以后事务版本生成 undo log，undo log 也会产生 redo log 来保障 undo log 的可靠性。
当事务提交之后，undo log 并不能立马被删除，而是放入待清理的链表。
由 purge 线程判断是否有其它事务在应用 undo 段中表的上一个事务之前的版本信息，从而决定是否能够清理 undo log 的日志空间。
存储内容
undo log 存储的是逻辑格局的日志，保留了事务产生之前的上一个版本的数据，能够用于回滚。当一个旧的事务须要读取数据时，为了能读取到老版本的数据，须要顺着 undo 链找到满足其可见性的记录。
存储地位
默认状况下，undo 文件是保留在共享表空间的，也即 ibdatafile 文件中，当数据库中产生一些大的事务性操作的时候，要生成大量的 undo log 信息，这些信息全副保留在共享表空间中，因而共享表空间可能会变得很大，默认状况下，也就是 undo log 应用共享表空间的时候，被“撑大”的共享表空间是不会、也不能主动膨胀的。因而，MySQL5.7 之后的“独立 undo 表空间”的配置就显得很有必要了。
五、两阶段提交
MySQL 通过两阶段提交来保障 redo log 和 binlog 的数据是统一的。
MySQL 最开始是没有 InnoDB 引擎的，binlog 日志位于 Server 层，只是用于归档和主从复制，自身不具备 crash safe 的能力。而 InnoDB 依附 redo log 具备了 crash safe 的能力，redo log 和 bin log 同时记录，就须要保障两者的一致性。两个 log 的写入流程是：
写入 redo log-> 事务状态设置为 prepare-> 写入 bin log-> 提交事务 -> 批改 redo log 事务状态为 commit
将 redo log 的写入拆成了两个步骤：prepare 和 commit，先 prepare 后 commit，这个称为两段提交。
那么为什么须要两个段提交呢？redo log 和 binlog 是两种不同的日志，就相似于分布式中的多节点提交申请，须要保障事务的一致性。redo log 和 binlog 有一个公共字段 XID，代表事务 ID。当参数 innodb_support_xa 关上时，在执行事务的第一条 SQL 时候会去注册 XA，依据第一条 SQL 的 query id 拼凑 XID 数据，而后存储在事务对象中。
如果两个日志单纯的离开提交，则可能会引发一些问题，如果简略离开提交，那么对于一条更新语句执行，有两种状况：
先写 binlog，后写 redo log：如果 binlog 写入了，在写 redo log 之前数据库宕机。那么在重启复原的时候，通过 binlog 复原了数据没问题。然而因为 redo log 没有写入，这个事务应该有效，也就是原库中就不应该有这条语句对应的更新。然而通过 binlog 复原数据后，数据库中就多了这条更新
先写 redo log，后写 binlog：如果 redo log 写入了，在写 binlog 之前数据库宕机。那么在重启复原的时候，通过 binlog 复原从库，那么绝对于主库来说，从库就少了这条更新
采取了两段提交之后，怎么做 crash 复原呢？如果在写入 binlog 之前宕机了，那么事务须要回滚；如果事务 commit 之前宕机了，那么此时 binlog cache 中的数据可能还没有刷盘，那么验证 binlog 的完整性：到 redo log 中找到最近事务的 XID，依据这个 XID 到 binlog 中去找（XID Event），如果找到了，阐明在 binlog 中对应事务曾经提交，那么提交 redo log 中事务即可；否则须要回滚事务。
例子：
update T set c=c+1 where ID=2;
下图是这个 update 语句的执行流程图，图中绿色框示意是在 InnoDB 外部执行的，灰色框示意是在执行器中执行的。
