MySQL 常用备份工具流程解析

这里先说一下 binlog 备份，它只是把 binlog 又复制了一份，并且需要在逻辑备份或者物理备份的基础上才能进行数据恢复，无法单独进行数据恢复。

（1）逻辑备份：mysqldump

mysqldump 备份出的文件就是 sql 文件，其核心就是对每个表执行 select ，然后转化成相应的 insert 语句。mysqldump 的备份流程大致如下：

从上面可以看出在 mysqldump 备份期间，备份到某个数据库时，该数据库下的表都会处于只读状态，无法对表进行任何变更，直到该库下的表备份完毕，这对于线上环境一般是无法接受的。若是指定了--master-data或者 --dump-slave 则会在备份开始时加全局读锁（FLUSH TABLES WITH READ LOCK），直到备份结束。当然我们可以选一个从库进行备份，这样就不会影响线上业务。另外使用 mysqldump 备份还有一个大的好处，因为备份出来的是 sql 语句，所以它支持跨平台和跨版本的数据迁移或者恢复，这是物理备份无法做到的。

但是也正是因为 mysqldump 备份出来的是 sql 语句，在使用时要更加注意，否则可能会酿成大祸。例如，使用 mysqldump 常见的问题有：

所以使用 mysqldump 时一定要了解各个选项的作用，以及确认备份出来的 sql 文件里会有什么操作，会对现有数据造成什么影响。

Mydumper 原理与 Mysqldump 原理类似，大的区别是引入了多线程备份，每个备份线程备份一部分表，当然并发粒度可以到行级，达到多线程备份的目的。这里不再单独介绍。

（2）物理备份：Percona XtraBackup

Percona XtraBackup 是 Percona 公司开发的一个用于 MySQL 数据库物理热备的备份工具，是基于 InnoDB 的崩溃恢复功能来实现的。它的基本工作原理如下：

Percona XtraBackup 在进行恢复时会应用拷贝的 redo log ，应用已提交的事务，回滚未提交的事物，将数据库恢复到一致性状态。因为 Percona XtraBackup 备份出来的是物理文件，所以在使用备份出的文件进行恢复或者迁移时，不会像 mysqldump 那样会存在很多问题。

使用 XtraBackup 备份时根据备份参数设置不同，对数据库的变更会造成不同程度的影响，具体影响会在下文分析。

（3）备份工具对比

通过对比发现，XtraBackup 具有对数据库影响小，且能快速恢复的优点，在日常备份中是；mysqldump 使用相对更加灵活，但是使用是要注意对数据库原有数据的影响。

1.2 备份策略

备份策略主要有：全量备份和增量备份，再加上 binlog 备份。

目前去哪儿网数据库备份主要采用 XtraBackup 全量备份 +binlog 备份。数据库的重要级别不同，全量备份的频率不同。备份程序主要架构如下：

说明：

二、 XtraBackup备份流程解析

Percona XtraBackup 是目前备份 MySQL 使用广泛的工具。在备份过程中，数据库可以进行正常的读写或者其他变更操作，但是偶尔也会遇见备份引起的元数据锁，或提交事务时发现被 binlog lock 阻塞等情况。下面我们就看一下 Percona XtraBackup 的备份流程和加锁时机。

说明：以下对 Percona XtraBackup 的分析都是基于 2.4.23 的版本，其他版本会略有差别，但是关键步骤基本相同。

2.1 拷贝redo日志

InnoDB: Number of pools: 1# 下面的3028328就是开始拷贝的lsn211214 09:56:09 >> log scanned up to (3028328)InnoDB: Opened 4 undo tablespacesInnoDB: 0 undo tablespaces made activextrabackup: Generating a list of tablespaces

2.2 拷贝 ibd 文件

在拷贝 ibd 文件之前，会先扫描数据库的数据文件目录，获取 ibdata1 ，undo tablespaces 及所有的 ibd 文件列表，并会记录相应的 space id ，因为在恢复时需要这些 space id 来找到对应 doublewrite buffer 里页面的内容，以及对应的 redo log 条目。然后开始循环拷贝 ibdata1，undo tablespaces 及所有的 ibd 文件。
这里可通过设置-- parallel 进行多线程备份，提高物理文件的拷贝效率。不设置则默认为 1 。

2.3 拷贝非 ibd 文件

在所有 ibd 文件拷贝完成后，XtraBackup 开始备份非 ibd 文件。这一部分的逻辑比较复杂，因为备份非 ibd 文件前需要加锁，具体是否会加锁主要受到--no-lock 参数设置的影响。

2.3.1 no-lock 选项参数说明

若是设置了--no-lock 为 TRUE ，则不会使用 "FLUSH TABLES WITH READ LOCK" 去加全局读锁，但是若备份过程中对 non-InnoDB 表执行了 DDL 或者 DML 操作， 这会导致备份的不一致，恢复出来的数据就会有问题。所以是不建议将--no-lock为 TRUE ，默认值是 FALSE ，也就是在不指定该选项的情况下会在备份非 ibd 文件前加全局读锁。

下面我们结合源码来看看判断是否加全局锁这部分的具体流程逻辑：

/* 备份非ibd文件函数入口 */backup_start(){/* opt_no_lock指的是--no-lock参数 */if (!opt_no_lock) {/* 如果设置--safe-slave-backup为TRUE，则会会执行"STOP SLAVE SQL_THREAD"关闭SQL线程，并等待Slave_open_temp_tables变量为0。*/if (opt_safe_slave_backup) {if (!wait_for_safe_slave(mysql_connection)) {return(false);}}/* 调用backup_files函数备份非ibd文件，加了全局读锁还会调用一次。这一次，实际上针对的是--rsync方式 */if (!backup_files(fil_path_to_mysql_datadir, true)) {return(false);} history_lock_time = time(NULL);/* 加全局读锁 */if (!lock_tables_maybe(mysql_connection,opt_backup_lock_timeout,opt_backup_lock_retry_count)) {return(false);}}/* 备份非ibd文件 */if (!backup_files(fil_path_to_mysql_datadir, false)) {return(false);} ......

总结来看：

1）若--no-lock为FALSE（默认值），则先施加全局读锁，然后再进行拷贝文件，另外若 --safe-slave-backup 设置为TRUE ，则会在加全局锁之前关闭SQL_THREAD线程；

2）若--no-lock为TRUE，则不会施加锁，直接进行拷贝文件。

2.3.2 加锁处理逻辑

加锁的逻辑主要由lock_tables_maybe实现,先看一下lock_tables_maybe源代码，如下：

/* 加全局锁程序入口 */lock_tables_maybe(MYSQL *connection, int timeout, int retry_count){/* 若已经执行了 LOCK TABLES FOR BACKUP / FLUSH TABLES WITH READ LOCK ，或者指定了 --lock-ddl-per-table 选项，返回成功，*/if (tables_locked || opt_lock_ddl_per_table) {return(true);}/* 若支持备份锁则执行 "LOCK TABLES FOR BACKUP" 加锁 */if (have_backup_locks) {return lock_tables_for_backup(connection, timeout, retry_count);} /* 设置加锁超时时间 */if (have_lock_wait_timeout) {char query[200]; ut_snprintf(query, sizeof(query),"SET SESSION lock_wait_timeout=%d", timeout); xb_mysql_query(connection, query, false);}/* flush tables */if (!opt_lock_wait_timeout && !opt_kill_long_queries_timeout) {msg_ts("Executing FLUSH NO_WRITE_TO_BINLOG TABLES...\n");xb_mysql_query(connection,"FLUSH NO_WRITE_TO_BINLOG TABLES", false);}/* 判断等待加锁时间是否超时，若超时返回FALSE。*/if (opt_lock_wait_timeout) {if (!wait_for_no_updates(connection, opt_lock_wait_timeout,opt_lock_wait_threshold)) {return(false);}} msg_ts("Executing FLUSH TABLES WITH READ LOCK...\n");/* 若等待了 kill-long-queries-timeout 参数设置的时间后，阻塞加锁的事务还没结束，xtrbackup会将其kill */if (opt_kill_long_queries_timeout) {start_query_killer();}/* 判断galera-info选项设置 */if (have_galera_enabled) {xb_mysql_query(connection,"SET SESSION wsrep_causal_reads=0", false);}/* 加全局读锁 */xb_mysql_query(connection, "FLUSH TABLES WITH READ LOCK", false); if (opt_kill_long_queries_timeout) {stop_query_killer();} tables_locked = true; return(true);}

1）若备份实例上已经加锁（ LOCK TABLES FOR BACKUP / FLUSH TABLES WITH READ LOCK）或者设置lock-ddl-per-table 则直接返回；

2）若支持备份锁，则执行LOCK TABLES FOR BACKUP；

3）若不支持备份锁，则执行 FLUSH TABLES WITH READ LOCK。根据相应选项设置，在执行该操作前会判断是否有执行中的DDL/DML，以及等待超时时间，是否kill 对应的未结束的事务等。

从上文中我们还看到一个参数--safe-slave-backup ，该参数的主要作用是：

若是在从库执行的备份操作时设置了该参数，可以防止因从库同步主库操作，而导致XtraBackup长时间请求不到锁而造成备份失败。

若是设置了 --safe-slave-backup 为TRUE，那么会执行"STOP SLAVE SQL_THREAD"，并等待Slave_open_temp_tables 为零才开始拷贝非 ibd 文件，Slave_open_temp_tables  为零说明SQL thread执行的事务都已经完成，这样就能保证备份的一致性。并且此时也不会有在执行的事务阻塞 XtraBackup 施加全局锁。

2.4 备份slave和binlog信息

备份完非 ibd 文件后，将会备份 slave 和 binlog 信息。

1. 如果命令行中指定了--slave-info ，则会执行 SHOW SLAVE STATUS 获取复制的相关信息并记录到xtrabackup_slave_info 文件中，主要包含从库同步到的主库的 binlog 位点（Relay_Master_Log_File，Exec_Master_Log_Pos）或者 GTID 值（Executed_Gtid_Set）等。下面是基于 GTID 复制备份时xtrabackup_slave_info 文件记录的复制相关信息：

SET GLOBAL gtid_purged='6b7bda9f-15f0-11ec-ba14-fa163ea367a4:1-83, 9841546e-15f0-11ec-9557-fa163e736db4:1';CHANGE MASTER TO MASTER_AUTO_POSITION=1

mysql-bin.000004 2004 6b7bda9f-15f0-11ec-ba14-fa163ea367a4:1-83,9841546e-15f0-11ec-9557-fa163e736db4:1

需要注意，在支持备份锁的实例上备份，指定了 --slave-info 或--binlog-info 均会先施加 binlog 备份锁（ LOCK BINLOG FOR BACKUP），这会阻塞任何会更改 binlog 位点的操作。

2.5 备份结束

备份完数据库的所有文件和binlog等相关信息，备份工作就基本完成了，之后主要执行的操作如下：

1）执行"FLUSH NO_WRITE_TO_BINLOG ENGINE LOGS",将所有的redo log刷盘；

2）停止redo log复制线程；

3）释放全局读锁（备份锁），binlog锁；

4）开启SQL_THREAD；

5）拷贝ib_buffer_pool和ib_lru_dump文件；

6）生成配置文件backup-my.cnf；

7）打印备份信息到xtrabackup_info文件，这些信息主要包含备份时使用的参数信息，备份起止时间，binlog位点信息，以及将会回到的lsn点。

下面是xtrabackup_info记录的部分内容：

uuid = 057349b8-5c81-11ec-9595-fa163e736db4name =tool_name = xtrabackuptool_command = --defaults-file=/home/3308/etc/my.cnf --user=ivan --password=... --host=127.0.0.1 --port=3308 --backup --binlog-info=ON --target-dir=/home/backuptool_version = 2.4.7ibbackup_version = 2.4.7server_version = 5.7.26-29-log#备份开始时间start_time = 2021-12-14 09:56:09#备份结束时间end_time = 2021-12-14 09:56:15lock_time = #binlog，GTID信息binlog_pos = filename 'mysql-bin.000004', position '71128', GTID of the last change '6b7bda9f-15f0-11ec-ba14-fa163ea367a4:1-83,9841546e-15f0-11ec-9557-fa163e736db4:1-232'innodb_from_lsn = # 恢复时会恢复到该lsn的状态innodb_to_lsn = 2941006partial = Nincremental = Nformat = filecompact = Ncompressed = Nencrypted = N

三、Percona XtraBackup和锁相关的参数与操作

3.1 相关参数

# 执行LOCK TABLES FOR BACKUP 施加备份锁，阻止DDL操作18:00:33 Executing LOCK TABLES FOR BACKUP...xtrabackup version 2.4.23 based on MySQL server 5.7.34 Linux (x86_64)

# 开始对所有innodb表施加元数据锁17:17:21 Initializing MDL on all current tables.17:17:21 Locking MDL for `mysql`.`engine_cost`...17:17:21 Locking MDL for `test`.`promotion_poi`17:17:21 >> log scanned up to (17361493)xtrabackup: Generating a list of tablespaces## 开始备份innodb表......## 开始备份非innodb表# 释放元数据锁17:17:41 Unlocking MDL for all tables 17:17:41 completed OK!