MySQL 通过 binlog 恢复数据
13

目的

通过了解 binlog 日志的相关配置,简单掌握通过 binlog 对数据库进行数据恢复操作;

mysql 日志文件

任何成熟软件都会有一套成熟的日志系统,当软件出现问题时,这些日志就是查询问题来源的宝库。同样,mysql 也不例外,也会有一系列日志记录 mysql 的运行状态。

mysql 主要有以下几种日志:

  • 错误日志:记录 mysql 运行过程中的错误信息
  • 一般查询日志:记录mysql正在运行的语句,包括查询、修改、更新等的每条sql
  • 慢查询日志:记录查询比较耗时的SQL语句
  • binlog日志:记录数据修改记录,包括创建表、数据更新等

这些日志均需要在my.cnf文件进行配置,如果不知道mysql的配置文件路径,可以使用mysql命令进行查找,

mysql --verbose --help|grep -A 1 'Default options’ #该命令会罗列出my.cnf顺序查找的路径。

binlog日志

binlog就是binary log,二进制日志文件,记录所有数据库更新语句,包括表更新和记录更新,即数据操纵语言(DML),binlog主要用于数据恢复和配置主从复制等;

  • 数据恢复:当数据库误删或者发生不可描述的事情时,可以通过binlog恢复到某个时间点的数据。
  • 主从复制:当有数据库更新之后,主库通过binlog记录并通知从库进行更新,从而保证主从数据库数据一致;

mysql按照功能分为服务层模块和存储引擎层模块,服务层负责客户端连接、SQL语句处理优化等操作,存储引擎层负责数据的存储和查询;binlog属于服务层模块的日志,即引擎无关性,所有数据引擎的数据更改都会记录binlog日志。当数据库发生崩溃时,如果使用InnoDB引擎,binlog日志还可以检验InnoDB的redo日志的commit情况。

binlog日志开启

日志开启方式:

1、添加配置

log_bin=ON
log_bin_basename=/path/bin-log
log_bin_index=/path/bin-log.index

2、仅仅设置log-bin参数

 log-bin=/path/bin-log

当开启binlog日志之后,mysql会创建一个 log_bin_index指定的 .index 文件和多个二进制日志文件,index中按顺序记录了mysql使用的所有binlog文件。binlog日志则会以指定的名称(或默认值) 加自增的数字作为后缀,ex:bin-log.000001,当发生下述三种情况时,binlog日志便会进行重建:

文件大小达到max_binlog_size参数的值
执行 flush logs命令
重启mysql服务

binlog 日志格式

通过参数binlog_format参数的值,可以设置binlog的格式,可选值有 statement、row、mixed

  • statement格式:记录数据库执行的原始SQL语句
  • row格式:记录具体的行的修改,这个为目前默认值
  • mixed格式:因为上边两种格式各有优缺点,所以就出现了mixed格式

binlog日志查看工具:mysqlbinlog

因为binlog是二进制文件,不能像其他文件一样,直接打开查看。但mysql提供了binlog查看工具mysqlbinlog,可以解析二进制文件。当然不同格式的日志解析结果是不一样的;

  1. statement格式日志,执行mysqlbinlog /path/bin-log.000001,可以直接看到原始执行的SQL语句
  2. row格式日志,则可读性没有那么好,但仍可通过参数使文档更加可读 mysqlbinlog -v /path/bin-log.000001

mysqlbinlog两对非常重要的参数

  1. --start-datetime --stop-datetime 解析某一个时间段内的binlog;
  2. --start-position --stop-position 解析在两个position之间的binlog;

使用binlog恢复数据:

使用binlog恢复数据,本质上就是通过binlog找到所有DML操作,去掉错误的SQL语句,然后重走一遍长征路,就可以将数据恢复;

线下实操:

  1. 创建数据表并插入初始值
    CREATE TABLE `users` (
              `id` int(11) unsigned NOT NULL AUTO_INCREMENT,
              `name` varchar(255) DEFAULT NULL,
              `age` int(8) DEFAULT NULL,
              PRIMARY KEY (`id`)
     ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;
     INSERT INTO `users` (`id`, `name`, `age`)
        VALUES
            (null, '姓名一', 5);
  2. 找到上一次全量备份的数据库和binlog的position(ps:当然也可以通过时间进行恢复)。此处以目前状态作为备份的初始值,
    mysqldump -uroot -p T > /path/xxx.sql;   # 备份数据库
    show master status;   # 查看当前的position位置,此时值为154
  3. 插入多条记录

    INSERT INTO `users` (`id`, `name`, `age`)
    VALUES
     (null, '姓名二', 13),
     (null, '姓名三', 14),
     (null, '姓名四', 15),
     (null, '姓名五', 16),
     (null, '姓名六', 17);
  4. 进行误操作,并且在误操作之后又插入几条数据
    update users set age = 5;
    INSERT INTO `users` (`id`, `name`, `age`)
    VALUES
    (null, '姓名七', 16),
    (null, '姓名八', 18);
  5. 发现误操作之后,进行数据恢复,首先停止mysql对外的服务,利用备份数据恢复到上次数据;
  6. 通过mysqlbinlog命令对二进制文件进行分析,分析发现
    误操作发生在position为706位置,且上次正常操作的结束位置在513
    在1152到结尾位置有正常执行的SQL执行
  7. 通过mysqlbinlog命令从binlog日志中导出可执行的SQL文件,并将数据导入到mysql
    mysqlbinlog --start-position=154  --stop-position=513  bin-log.000001 > /path/bak.sql;
    mysql -uroot -p < /path/bak.sql;
  8. 跳过错误的更新语句,再通过步骤7的逻辑把后续正常语句重新跑一遍,完成数据恢复工作

小结

无论什么时间,数据库发生崩溃都会令人愁眉紧锁,心烦意乱。binlog可以说是在各种情况下,数据库崩溃、数据丢失之后的一粒后悔药,本文通过线下环境,简单的对数据库进行了一次数据恢复实验,如有不对,还请指教

参考文章

http://www.ywnds.com/?p=12839
https://zhuanlan.zhihu.com/p/33504555

《L02 从零构建论坛系统》
以构建论坛项目 LaraBBS 为线索,展开对 Laravel 框架的全面学习。应用程序架构思路贴近 Laravel 框架的设计哲学。
《L03 构架 API 服务器》
你将学到如 RESTFul 设计风格、PostMan 的使用、OAuth 流程,JWT 概念及使用 和 API 开发相关的进阶知识。
讨论数量: 4
Uknow

楼主,
请教一下我的ubuntu系统 有多个 mysql.cnf 比如:
/etc/mysql/mysql.cnf (有几行内容),
/etc/mysql/mysql.conf.d/mysqld.cnf(内容比较多,
/etc/mysql/conf.d/mysql.cnf(空的),
我应该在哪个里面去配置呢?

2个月前
lufeijun1234

@Uknow 如果这个是命令结果罗列的顺序,那就应该是第一个,建议通过修改配置重启mysql的方式检验一遍

2个月前
BradStevens

github 上见过几个 mysql flashback 的工具,也是读取 binlog 文件,然后恢复数据的

2个月前
lufeijun1234

@BradStevens OK,mark一下,学习了

2个月前

请勿发布不友善或者负能量的内容。与人为善,比聪明更重要!