MySQL閃回原理與實戰
DBA或開發人員，有時會誤刪或者誤更新數據，如果是線上環境並且影響較大，就需要能快速回滾。傳統恢復方法是利用備份重搭實例，再應用去除錯誤sql后的binlog來恢復數據。此法費時費力，甚至需要停機維護，並不適合快速回滾。也有團隊利用LVM快照來縮短恢復時間，但快照的缺點是會影響mysql的性能。
MySQL閃回(flashback)利用binlog直接進行回滾，能快速恢復且不用停機。本文將介紹閃回原理，給出筆者的實戰經驗，並對現存的閃回工具作比較。
開胃菜
某天，小明因種種原因，誤刪了大批線上用戶表的數據。他急忙找到公司DBA請求幫助，“客服電話已被打爆，大量用戶投訴無法登陸，領導非常惱火。請問多久能恢復數據？”DBA一臉懵逼，沉默十秒后，伸出一根手指。“你的意思是一分鍾就能恢復？太好了。”小明終於有些放松，露出了一絲笑容。“不，我們中有個人將會離開公司。”DBA沉痛的說道。
勿讓悲劇發生，盡早將此文轉給公司DBA。
閃回原理
binlog概述
MySQL binlog以event的形式，記錄了MySQL server從啟用binlog以來所有的變更信息，能夠幫助重現這之間的所有變化。MySQL引入binlog主要有兩個目的：一是為了主從復制；二是某些備份還原操作后需要重新應用binlog。
有三種可選的binlog格式，各有優缺點：
- statement：基於SQL語句的模式，binlog數據量小，但是某些語句和函數在復制過程可能導致數據不一致甚至出錯；
- row：基於行的模式，記錄的是行的完整變化。很安全，但是binlog會比其他兩種模式大很多；
- mixed：混合模式，根據語句來選用是statement還是row模式；
利用binlog閃回，需要將binlog格式設置為row。row模式下，一條使用innodb的insert會產生如下格式的binlog：
# at 1129
#161225 23:15:38 server id 3773306082 end_log_pos 1197 Query thread_id=1903021 exec_time=0 error_code=0
SET TIMESTAMP=1482678938/*!*/;
BEGIN
/*!*/;
# at 1197
#161225 23:15:38 server id 3773306082 end_log_pos 1245 Table_map: `test`.`user` mapped to number 290
# at 1245
#161225 23:15:38 server id 3773306082 end_log_pos 1352 Write_rows: table id 290 flags: STMT_END_F
BINLOG '
muJfWBPiFOjgMAAAAN0EAAAAACIBAAAAAAEABHRlc3QABHVzZXIAAwMPEQMeAAAC
muJfWB7iFOjgawAAAEgFAAAAACIBAAAAAAEAAgAD//gBAAAABuWwj+i1tVhK1hH4AgAAAAblsI/p
krFYStYg+AMAAAAG5bCP5a2ZWE/onPgEAAAABuWwj+adjlhNeAD4BQAAAAJ0dFhRYJM=
'/*!*/;
# at 1352
#161225 23:15:38 server id 3773306082 end_log_pos 1379 Xid = 5327954
COMMIT/*!*/;
閃回原理
既然binlog以event形式記錄了所有的變更信息，那么我們把需要回滾的event，從后往前回滾回去即可。
binlog2sql
從MySQL binlog解析出你要的SQL。根據不同選項，你可以得到原始SQL、回滾SQL、去除主鍵的INSERT SQL等。
用途
- 數據快速回滾(閃回)
- 主從切換后新master丟數據的修復
- 從binlog生成標准SQL，帶來的衍生功能
項目狀態
正常維護。應用於部分公司線上環境。線上環境的操作，請在對MySQL相當熟悉的同學指導下進行
- 已測試環境
- Python 2.6, 2.7, 3.4
- MySQL 5.6
安裝
shell> git clone https://github.com/danfengcao/binlog2sql.git && cd binlog2sql
shell> pip install -r requirements.txt
git與pip的安裝問題請自行搜索解決。
使用
MySQL server必須設置以下參數:
[mysqld]
server_id = 1
log_bin = /var/log/mysql/mysql-bin.log
max_binlog_size = 1G
binlog_format = row
binlog_row_image = full
user需要的最小權限集合：
select, super/replication client, replication slave
建議授權
GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO
權限說明
- select：需要讀取server端information_schema.COLUMNS表，獲取表結構的元信息，拼接成可視化的sql語句
- super/replication client：兩個權限都可以，需要執行'SHOW MASTER STATUS', 獲取server端的binlog列表
- replication slave：通過BINLOG_DUMP協議獲取binlog內容的權限
基本用法
解析出標准SQL
shell> python binlog2sql.py -h127.0.0.1 -P3306 -uadmin -p'admin' -dtest -t test3 test4 --start-file='mysql-bin.000002' 輸出： INSERT INTO `test`.`test3`(`addtime`, `data`, `id`) VALUES ('2016-12-10 13:03:38', 'english', 4); #start 570 end 736 UPDATE `test`.`test3` SET `addtime`='2016-12-10 12:00:00', `data`='中文', `id`=3 WHERE `addtime`='2016-12-10 13:03:22' AND `data`='中文' AND `id`=3 LIMIT 1; #start 763 end 954 DELETE FROM `test`.`test3` WHERE `addtime`='2016-12-10 13:03:38' AND `data`='english' AND `id`=4 LIMIT 1; #start 981 end 1147
解析出回滾SQL
shell> python binlog2sql.py --flashback -h127.0.0.1 -P3306 -uadmin -p'admin' -dtest -ttest3 --start-file='mysql-bin.000002' --start-position=763 --stop-position=1147 輸出： INSERT INTO `test`.`test3`(`addtime`, `data`, `id`) VALUES ('2016-12-10 13:03:38', 'english', 4); #start 981 end 1147 UPDATE `test`.`test3` SET `addtime`='2016-12-10 13:03:22', `data`='中文', `id`=3 WHERE `addtime`='2016-12-10 12:00:00' AND `data`='中文' AND `id`=3 LIMIT 1; #start 763 end 954
選項
mysql連接配置
-h host; -P port; -u user; -p password
解析模式
--stop-never 持續解析binlog。可選。，默認False，同步至執行命令時最新的binlog位置。
-K, --no-primary-key 對INSERT語句去除主鍵。可選。默認False
-B, --flashback 生成回滾SQL，可解析大文件，不受內存限制。可選。默認False。與stop-never或no-primary-key不能同時添加。
--back-interval -B模式下，每打印一千行回滾SQL，加一句SLEEP多少秒，如不想加SLEEP，請設為0。可選。默認1.0。
解析范圍控制
--start-file 起始解析文件，只需文件名，無需全路徑 。必須。
--start-position/--start-pos 起始解析位置。可選。默認為start-file的起始位置。
--stop-file/--end-file 終止解析文件。可選。默認為start-file同一個文件。若解析模式為stop-never，此選項失效。
--stop-position/--end-pos 終止解析位置。可選。默認為stop-file的最末位置；若解析模式為stop-never，此選項失效。
--start-datetime 起始解析時間，格式'%Y-%m-%d %H:%M:%S'。可選。默認不過濾。
--stop-datetime 終止解析時間，格式'%Y-%m-%d %H:%M:%S'。可選。默認不過濾。
對象過濾
-d, --databases 只解析目標db的sql，多個庫用空格隔開，如-d db1 db2。可選。默認為空。
-t, --tables 只解析目標table的sql，多張表用空格隔開，如-t tbl1 tbl2。可選。默認為空。
--only-dml 只解析dml，忽略ddl。可選。默認False。
--sql-type 只解析指定類型，支持INSERT, UPDATE, DELETE。多個類型用空格隔開，如--sql-type INSERT DELETE。可選。默認為增刪改都解析。用了此參數但沒填任何類型，則三者都不解析。
應用案例
誤刪整張表數據，需要緊急回滾
閃回詳細介紹可參見example目錄下《閃回原理與實戰》example/mysql-flashback-priciple-and-practice.md
test庫tbl表原有數據
mysql> select * from tbl; +----+--------+---------------------+ | id | name | addtime | +----+--------+---------------------+ | 1 | 小趙 | 2016-12-10 00:04:33 | | 2 | 小錢 | 2016-12-10 00:04:48 | | 3 | 小孫 | 2016-12-13 20:25:00 | | 4 | 小李 | 2016-12-12 00:00:00 | +----+--------+---------------------+ 4 rows in set (0.00 sec) mysql> delete from tbl; Query OK, 4 rows affected (0.00 sec) 20:28時，tbl表誤操作被清空 mysql> select * from tbl; Empty set (0.00 sec)
恢復數據步驟：
-
登錄mysql，查看目前的binlog文件
mysql> show master status; +------------------+-----------+ | Log_name | File_size | +------------------+-----------+ | mysql-bin.000051 | 967 | | mysql-bin.000052 | 965 | +------------------+-----------+ -
最新的binlog文件是mysql-bin.000052，我們再定位誤操作SQL的binlog位置。誤操作人只能知道大致的誤操作時間，我們根據大致時間過濾數據。
shell> python binlog2sql/binlog2sql.py -h127.0.0.1 -P3306 -uadmin -p'admin' -dtest -ttbl --start-file='mysql-bin.000052' --start-datetime='2016-12-13 20:25:00' --stop-datetime='2016-12-13 20:30:00' 輸出： INSERT INTO `test`.`tbl`(`addtime`, `id`, `name`) VALUES ('2016-12-13 20:26:00', 4, '小李'); #start 317 end 487 time 2016-12-13 20:26:26 UPDATE `test`.`tbl` SET `addtime`='2016-12-12 00:00:00', `id`=4, `name`='小李' WHERE `addtime`='2016-12-13 20:26:00' AND `id`=4 AND `name`='小李' LIMIT 1; #start 514 end 701 time 2016-12-13 20:27:07 DELETE FROM `test`.`tbl` WHERE `addtime`='2016-12-10 00:04:33' AND `id`=1 AND `name`='小趙' LIMIT 1; #start 728 end 938 time 2016-12-13 20:28:05 DELETE FROM `test`.`tbl` WHERE `addtime`='2016-12-10 00:04:48' AND `id`=2 AND `name`='小錢' LIMIT 1; #start 728 end 938 time 2016-12-13 20:28:05 DELETE FROM `test`.`tbl` WHERE `addtime`='2016-12-13 20:25:00' AND `id`=3 AND `name`='小孫' LIMIT 1; #start 728 end 938 time 2016-12-13 20:28:05 DELETE FROM `test`.`tbl` WHERE `addtime`='2016-12-12 00:00:00' AND `id`=4 AND `name`='小李' LIMIT 1; #start 728 end 938 time 2016-12-13 20:28:05 -
我們得到了誤操作sql的准確位置在728-938之間，再根據位置進一步過濾，使用flashback模式生成回滾sql，檢查回滾sql是否正確(注：真實環境下，此步經常會進一步篩選出需要的sql。結合grep、編輯器等)
shell> python binlog2sql/binlog2sql.py -h127.0.0.1 -P3306 -uadmin -p'admin' -dtest -ttbl --start-file='mysql-bin.000052' --start-position=3346 --stop-position=3556 -B > rollback.sql | cat 輸出： INSERT INTO `test`.`tbl`(`addtime`, `id`, `name`) VALUES ('2016-12-12 00:00:00', 4, '小李'); #start 728 end 938 time 2016-12-13 20:28:05 INSERT INTO `test`.`tbl`(`addtime`, `id`, `name`) VALUES ('2016-12-13 20:25:00', 3, '小孫'); #start 728 end 938 time 2016-12-13 20:28:05 INSERT INTO `test`.`tbl`(`addtime`, `id`, `name`) VALUES ('2016-12-10 00:04:48', 2, '小錢'); #start 728 end 938 time 2016-12-13 20:28:05 INSERT INTO `test`.`tbl`(`addtime`, `id`, `name`) VALUES ('2016-12-10 00:04:33', 1, '小趙'); #start 728 end 938 time 2016-12-13 20:28:05 -
確認回滾sql正確，執行回滾語句。登錄mysql確認，數據回滾成功。
shell> mysql -h127.0.0.1 -P3306 -uadmin -p'admin' < rollback.sql mysql> select * from tbl; +----+--------+---------------------+ | id | name | addtime | +----+--------+---------------------+ | 1 | 小趙 | 2016-12-10 00:04:33 | | 2 | 小錢 | 2016-12-10 00:04:48 | | 3 | 小孫 | 2016-12-13 20:25:00 | | 4 | 小李 | 2016-12-12 00:00:00 | +----+--------+---------------------+
限制（對比mysqlbinlog）
- mysql server必須開啟，離線模式下不能解析
- 參數 binlog_row_image 必須為FULL，暫不支持MINIMAL
- 解析速度不如mysqlbinlog
優點（對比mysqlbinlog）
- 純Python開發，安裝與使用都很簡單
- 自帶flashback、no-primary-key解析模式，無需再裝補丁
- flashback模式下，更適合閃回實戰
- 解析為標准SQL，方便理解、篩選
- 代碼容易改造，可以支持更多個性化解析
親測很好用，記錄下以防萬一。
參考：https://github.com/danfengcao/binlog2sql
-END-
