xtrabackup使用指南 Innodb数据备份工具

本文涉及的产品
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
简介:

Xtrabackup使用指南 InnoDB数据备份工具


Xtrabackup是一个对InnoDB做数据备份的工具,支持在线热备份(备份时不影响数据读写,也就是不加锁),是商业备份工具InnoDB Hotbackup的一个很好的替代品


一、Xtrabackup介绍 

A、Xtrabackup是什么 

Xtrabackup是一个对InnoDB做数据备份的工具,支持在线热备份(备份时不影响数据读写),是商业备份工具InnoDB Hotbackup的一个很好的替代品。 

Xtrabackup有两个主要的工具:xtrabackup、innobackupex 

1、xtrabackup只能备份InnoDB和XtraDB两种数据表,而不能备份MyISAM数据表 
2、innobackupex是参考了InnoDB Hotbackup的innoback脚本修改而来的.innobackupex是一个perl脚本封装,封装了xtrabackup。主要是为了方便的 同时备份InnoDB和MyISAM引擎的表,但innobackupex在处理myisam时需要加一个读锁。并且加入了一些使用的选项。

如slave-info可以记录备份恢 复后,作为slave需要的一些信息,根据这些信息,可以很方便的利用备份来重做slave。 


3、官方文档:http://www.percona.com/docs/wiki/percona-xtrabackup:start 

B、Xtrabackup可以做什么 

1,在线(热)备份整个库的InnoDB、 XtraDB表 
2,在xtrabackup的上一次整库备份基础上做增量备份(innodb only) 
 3,以流的形式产生备份,可以直接保存到远程机器上(本机硬盘空间不足时很有用) 

MySQL数据库本身提供的工具并不支持真正的增量备份,二进制日志恢复是point-in-time(时间点)的恢复而不是增量备份。


Xtrabackup工具支持对InnoDB存储引擎的增量备份,工作原理如下: 

(1)首先完成一个完全备份,并记录下此时检查点的LSN(Log Sequence Number)。 
(2)在进程增量备份时,比较表空间中每个页的LSN是否大于上次备份时的LSN,如果是,则备份该页,同时记录当前检查点的LSN。 

首先,在logfile中找到并记录最后一个checkpoint(“last checkpoint LSN”),然后开始从LSN的位置开始拷贝InnoDB的logfile到xtrabackup_logfile;接着,开始拷贝全部的数据文 件.ibd;在拷贝全部数据文件结束之后,才停止拷贝logfile。 

因为logfile里面记录全部的数据修改情况,所以,即时在备份过程中数据文件被修改过了,恢复时仍然能够通过解析xtrabackup_logfile保持数据的一致。 

C、Xtrabackup备份原理 

XtraBackup基于InnoDB的crash-recovery功能。它会复制innodb的data file,由于不锁表,复制出来的数据是不一致的,在恢复的时候使用crash-recovery,使得数据恢复一致。 

InnoDB维护了一个redo log,又称为transaction log,事务日志,它包含了innodb数据的所有改动情况。当InnoDB启动的时候,它会先去检查data file和transaction log,并且会做二步操作: 

XtraBackup在备份的时候, 一页一页地复制innodb的数据,而且不锁定表,与此同时,XtraBackup还有另外一个线程监视着transactions log,一旦log发生变化,就把变化过的log pages复制走。为什么要急着复制走呢? 因为transactions log文件大小有限,写满之后,就会从头再开始写,所以新数据可能会覆盖到旧的数据。 

在prepare过程中,XtraBackup使用复制到的transactions log对备份出来的innodb data file进行crash recovery。 

D、实现细节 

XtraBackup以read-write模式打开innodb的数据文件,然后对其进行复制。其实它不会修改此文件。也就是说,运行 XtraBackup的用户,必须对innodb的数据文件具有读写权限。之所以采用read-write模式是因为XtraBackup采用了其内置的 innodb库来打开文件,而innodb库打开文件的时候就是rw的。 

XtraBackup要从文件系统中复制大量的数据,所以它尽可能地使用posix_fadvise(),来告诉OS不要缓存读取到的数据,从 而提升性能。因为这些数据不会重用到了,OS却没有这么聪明。如果要缓存一下的话,几个G的数据,会对OS的虚拟内存造成很大的压力,其它进程,比如 mysqld很有可能被swap出去,这样系统就会受到很大影响了。 

在备份innodb page的过程中,XtraBackup每次读写1MB的数据,1MB/16KB=64个page。这个不可配置。读1MB数据之 后,XtraBackup一页一页地遍历这1MB数据,使用innodb的buf_page_is_corrupted()函数检查此页的数据是否正常, 如果数据不正常,就重新读取这一页,最多重新读取10次,如果还是失败,备份就失败了,退出。在复制transactions log的时候,每次读写512KB的数据。同样不可以配置。 

  二、Xtrabackup安装 

本文通过源码方式安装Xtrabackup,最新的版本是1.6. 

Xtrabackup与一般的源码构建方式不同,它采用的在MySQL源代码上打补丁的构建方式。下载的源码包比较大就是是因为这个包里打包了编译需要的两个MySQL Source,一个5.1.56,一个5.5.10。 

安装:percona-xtrabackup

http://douya.blog.51cto.com/6173221/1591995 
 


 

三.Xtrabackup的备份与恢复使用 

  A、Xtrabackup常用参数选项如下: 

--defaults-file=# 


默认配置文件的路径,如果不该参数,xtrabackup将从依次从以下位置查找配置文件/etc/my.cnf、/etc/mysql/my.cnf、/usr/local/etc/my.cnf、~/.my.cnf,

并读取配置文件中的[mysqld]和[xtrabackup]配置段。

[mysqld]中只需要指定datadir、innodb_data_home_dir、innodb_data_file_path、innodb_log_group_home_dir、innodb_log_files_in_group、innodb_log_file_size6个参数即可让xtrabackup正常工作。 


--defaults-extra-file=# 
如果使用了该参数,在读取了全局配置文件之后,会再读取这里指定的配置文件 

--target-dir=name 
备份文件的存放目录路径 

--backup 
实施备份到target-dir 

--prepare 
实施对备份文件进行恢复前的准备(生成InnoDB log file) 

--print-param 
打印备份或恢复时需要的参数 

--use-memory=# 
该参数在 prepare 的时候使用,控制prepare时innodb实例使用的内存量 

--suspend-at-end 
在target-dir目录下产生一个xtrabackup_suspended文件,将xtrabackup进程挂起,不停地将数据文件的变化同步到备份文件,直到用户手工删除xtrabackup_suspended文件 

--throttle=# 
每秒IO次数,限制backup时使用的I/O操作量,使备份对数据库正常业务的影响最小化 

--log-stream 
该参数在backup的时候使用,将xtrabackup_logfile的内容输出到标准输出,使用该参数时会自动使用suspend-at-end参数,innobackupex脚本的stream 模式会使用该参数。 

--incremental-lsn=name 
增量备份时只拷贝LSN比该参数指定值新的ibd pages,前次备份到了哪个LSN可以看前次备份集的xtrabackup_checkpoints文件 

--incremental-basedir=name 
该参数在backup的时候使用,备份比该参数指定位置的备份集新的idb pages 

--incremental-dir=name 
该参数在prepare的时候使用,指定prepare时产生的.delta 文件和日志文件的存放路径 

--tables=name 
在备份file-per-table类型的数据文件时使用,使用正则表达式指定需要备份的innodb表 

--datadir=name 
MySQL数据库的数据文件目录。 

B、普通备份方式 


  a)普通备份(全量备份) 

  **以下是percona-xtrabackup-2.1.7 旧版本**


第一次只是备份innodb的表文件(.ibd) 

1
2
#mkdir -p /data0/backup/mysql  
#xtrabackup_55  --defaults-file=/data0/mysql/my.cnf --backup --target-dir=/data0/backup/mysql/ --user=root --password=123456  --socket=/tmp/mysql.sock

 

注意:此版本xtrabackup只备份数据文件,并不备份数据表结构(.frm),所以还要执行以下的prepare,以便xtrabackup恢复的时候使用。(此时的两次prepare主要是用来同步innodb的日志文件, ib_logfie0,ib_logfile2,以及.frm表结构) 


第二次需要 执行两次prepare,保持 数据一致性(innodb日志和我们备份的日志达成一致)。

第二次备份了innodb数据的日志以及表结构

1
2
3
4
5
6
first :
#xtrabackup_55  --defaults-file=/data0/mysql/my.cnf --use-memory=500M --prepare --target-dir=/data0/backup/mysql/
--user=root --password=123456  --socket=/tmp/mysql.sock
second :
#xtrabackup_55  --defaults-file=/data0/mysql/my.cnf --use-memory=500M --prepare --target-dir=/data0/backup/mysql/
--user=root --password=123456  --socket=/tmp/mysql.sock



**以下是 percona-xtrabackup-2..3.4 新版本的方法**:


第一步执行:

1
2
3
#mkdir -p /data0/backup/mysql  
#xtrabackup_55  --defaults-file=/data0/mysql/my.cnf --backup --target-dir=/data0/backup/mysql/
  --user=root --password=123456  --socket=/tmp/mysql.sock

注意:此版本第一次会备份.ibd数据文件,以及.frm表结构文件

 

第二步:prepare 只需同步innodb的日志文件,使恢复可用

1
2
3
4
5
6
first :
#xtrabackup_55  --defaults-file=/data0/mysql/my.cnf --use-memory=500M --prepare --target-dir=/data0/backup/mysql/
--user=root --password=123456  --socket=/tmp/mysql.sock 
second :
#xtrabackup_55  --defaults-file=/data0/mysql/my.cnf --use-memory=500M --prepare --target-dir=/data0/backup/mysql/
--user=root --password=123456  --socket=/tmp/mysql.sock


修改数据目录权限 

1
#chown -R mysql:mysql /data0/mysql/data


重启MySQL 

1
#/data0/mysql/mysql restart



b)增量备份 

增量备份优点: 

1、数据库太大没有足够的空间全量备份,作增量备份有效节省空间,且效率高。 
2、支持热备份。备份过程不锁表,不受时间限制,不影响用户使用。 
3、每日备份只产生少量数据,远程备份传输更方便。同时节省空间。 
4、备份恢复基于文件操作,降低直接对数据库操作风险。 
5、备份效率更高,恢复效率更高。 



增量备份步骤:


先做一次完整备份,增量备份需要以此为基础 ,但是此时不需要prepare,称为原始备份

#建立备份目录 

1
2
3
  mkdir  -pv {mon,tue,wed}           
  xtrabackup --defaults- file = /usr/local/mysql/my .cnf --backup 
  --target- dir = /usr/local/mysql/backup/mon/      第一次做个全备份
1
2
3
  xtrabackup_56 --defaults- file = /usr/local/mysql/my .cnf --backup --target- dir = /usr/local/mysql/backup/
tue
/  --incremental-basedir= /usr/local/mysql/backup/mon/   以mon为基础,将差异进行增量备份
1
2
3
  xtrabackup_56 --defaults- file = /usr/local/mysql/my .cnf --backup --target- dir = /usr/local/mysql/backup/
wed
/  --incremental-basedir= /usr/local/mysql/backup/tue/    以tue为基础,将差异进行增量备份


增量恢复步骤: 


step1:

准备原始备份、

1
xtrabackup --prepare  --apply-log-only --target- dir = /usr/local/mysql/backup/mon


step2:

根据需要将增量备份合并到原始备份。

1
2
3
4
xtrabackup --prepare --apply-log-only --target- dir = /usr/local/mysql/backup/mon 
--incremental- dir = /usr/local/mysql/backup/tue
xtrabackup --prepare --apply-log-only --target- dir = /usr/local/mysql/backup/mon
  --incremental- dir = /usr/local/mysql/backup/wed

step3:

为合并后的结果进行执行prepare,得到最终备份

1
2
3
xtrabackup --prepare --target- dir = /usr/local/mysql/backup/mon  
 
此时恢复准备完毕,ib_logfile0,ib_logfile1 也出现了,此时是一个完整的数据

 

删除默认数据目录中对应的数据文件并复制备份的数据文件到默认数据目录 

1
2
rm  /usr/local/mysql/data/db1/ *      ***再备份一次 ,很重要***
cp  /usr/local/mysql/backup/mon/db1/ *    /usr/local/mysql/data/db1/


修改数据目录权限 

1
chown  -R mysql:mysql  /data0/mysql/data



重启MySQL 

1
/data0/mysql/mysql  restart


 



      本文转自crazy_charles 51CTO博客,原文链接:http://blog.51cto.com/douya/1602598,如需转载请自行联系原作者





相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
10月前
|
SQL 关系型数据库 MySQL
InnoDB数据恢复的工具——TwinDB介绍
TwinDB是一款专门用于InnoDB数据恢复的工具,它还有一个名字叫undrop for InnoDB。
626 0
|
存储 缓存 算法
innodb文件分析工具innodb_ruby
innodb文件分析工具innodb_ruby的基本使用介绍,帮助更了解Innodb存储引擎的内部结构
248 0
innodb文件分析工具innodb_ruby
|
关系型数据库 MySQL C++
MySQL InnoDB inno_space 工具介绍
**什么是inno_space?** [inno_space ](./https://github.com/baotiao/inno_space) 是一个可以直接访问InnoDB 内部文件的命令行工具, 可以打印出文件的内部结构. Jeremy Cole 用ruby 写了一个类似的工具, 不过不支持MySQL 8.0, 并且ruby 编译以及改动起来特别麻烦, 所以用cpp 重写了一个.
339 0
MySQL InnoDB inno_space 工具介绍
|
关系型数据库 测试技术 C++
innblock 工具| InnoDB page观察利器
innblock | InnoDB page观察利器 特别鸣谢 笔者是知数堂早期学员,最初有写这么一个工具的想法也得到叶金荣老师的认可和鼓励,这个想法也整整耗掉了好几个晚上的休息时间,这里再次感谢叶金荣老师对工具审核,叶老师的经验和学识是每一位学员宝贵的财富。
1111 0