使用binlog2sql恢復數據

 binlog2sql 是一款比較常用的數據恢復工具，可以通過它從MySQL binlog解析出你要的SQL，並根據不同選項，可以得到原始SQL、回滾SQL、去除主鍵的INSERT SQL等。主要用途如下：

• 數據快速回滾(閃回)
• 主從切換后新master丟數據的修復
• 從binlog生成標准SQL，帶來的衍生功能

1、 系統環境准備

1.1 安裝git

該項目分享與git上，可以直接從git上獲取，因此可以先安裝git

yum install  -y  pip 

1.2 安裝python

因binlog2sql依賴於python2.7或python3.4+版本，如果本機python版本較低，則無法使用。安裝或升級python的方法可以參考 《python安裝及升級》

1.3 安裝pip

如果系統中沒有安裝pip，則需要先安裝pip,因為后續需要用pip安裝python所需的包。安裝方法可以參考歷史文章中的 《一分鍾搞定pip安裝》

1.4 binlog2sql下載及依賴包安裝

binlog2sql可以部署在其他機器上，而不是必須部署在mysql服務端上

git clone https://github.com/danfengcao/binlog2sql.git && cd binlog2sql
pip install -r requirements.txt

2、 MySQL環境准備

2.1 參數設置

MySQL server必須設置以下參數

[mysqld]
server_id = 128
log_bin = /data/mysql/mysql3306/logs/mysql-bin
max_binlog_size = 512M
binlog_format = row
binlog_row_image = full   # 默認值，可以不顯式設置

2.2  創建恢復賬號

因binlog2sql是通過模擬從庫的方式獲取binlog，所以，數據庫賬號權限至少需設置為從庫所需的權限。

--  創建用戶
mysql> create  user  data_rec@'192.168.56.%'  identified by 'xxxxxxxx';
Query OK, 0 rows affected (0.01 sec)

--  授權
mysql> GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO data_rec@'192.168.56.%';
Query OK, 0 rows affected (0.00 sec)

權限說明：

• select：需要讀取server端information_schema.COLUMNS表，獲取表結構的元信息，拼接成可視化的sql語句
• super/replication client：兩個權限都可以，需要執行'SHOW MASTER STATUS', 獲取server端的binlog列表
• replication slave：通過BINLOG_DUMP協議獲取binlog內容的權限

2.3  創建測試表及數據

mysql> use testdb;
Database changed
mysql> create table t_test1 (id int primary key  auto_increment ,c_name  varchar(20), c_num  int );
Query OK, 0 rows affected (0.02 sec)

mysql> insert into  t_test1(c_name,c_num) values('aaaa',10),('abcc',15),('bacess',9),('andd',10);
Query OK, 4 rows affected (0.03 sec)
Records: 4  Duplicates: 0  Warnings: 0

mysql> insert into  t_test1(c_name,c_num) values('bbbaa',1),('dc',5),('vgcess',29),('hdgd',0);
Query OK, 4 rows affected (0.01 sec)
Records: 4  Duplicates: 0  Warnings: 0

 2.4  模擬誤刪除數據

mysql> select now();
+---------------------+
| now()               |
+---------------------+
| 2020-09-18 16:29:08 |
+---------------------+
1 row in set (0.00 sec)

mysql> delete from  t_test1;
Query OK, 8 rows affected (0.00 sec)

mysql> select now();
+---------------------+
| now()               |
+---------------------+
| 2020-09-18 16:29:26 |
+---------------------+
1 row in set (0.00 sec)

3 binlog2sql恢復數據

3.1  生成恢復SQL

因知道大概誤刪除的時間，因此通過解析對應時間的binlog恢復出指定庫表的數據，生成的結果是用於恢復的sql

python binlog2sql.py  --flashback  -h 192.168.56.128 -udata_rec -p'xxxxxxxx' -d testdb  -t t_test1  --start-file='mysql-bin.000003' --start-datetime='2020-09-18 16:29:08' --stop-datetime='2020-09-18 16:30:00'  >/tmp/rec.sql

結果內容如下

3.2 恢復數據

mysql> select  * from t_test1;
Empty set (0.00 sec)

mysql> source /tmp/rec.sql;
Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.01 sec)

Query OK, 1 row affected (0.00 sec)

Query OK, 1 row affected (0.00 sec)

mysql> select  * from t_test1;
+----+--------+-------+
| id | c_name | c_num |
+----+--------+-------+
|  1 | aaaa   |    10 |
|  2 | abcc   |    15 |
|  3 | bacess |     9 |
|  4 | andd   |    10 |
|  5 | bbbaa  |     1 |
|  6 | dc     |     5 |
|  7 | vgcess |    29 |
|  8 | hdgd   |     0 |
+----+--------+-------+
8 rows in set (0.00 sec)

 數據已恢復。

 4 使用說明

參考原文鏈接：https://github.com/danfengcao/binlog2sql

4.1  解析模式

--stop-never 持續解析binlog。可選。默認False，同步至執行命令時最新的binlog位置。一般情況下解析單個binlog即可，但是如果需要回退的表之后有操作，則可能需要持續解析

-K, --no-primary-key 對INSERT語句去除主鍵。可選。默認False。

-B, --flashback 生成回滾SQL，可解析大文件，不受內存限制。可選。默認False。與stop-never或no-primary-key不能同時添加。該情況用的較多

--back-interval -B模式下，每打印一千行回滾SQL，加一句SLEEP多少秒，如不想加SLEEP，請設為0。可選。默認1.0。

4.2 解析范圍控制

--start-file 起始解析文件，只需文件名，無需全路徑 ，必選參數。即指定對應的binlog起始文件名

--start-position/--start-pos 起始解析位置。可選。默認為start-file的起始位置。

--stop-file/--end-file 終止解析文件。可選。默認為start-file同一個文件。若解析模式為stop-never，此選項失效。

--stop-position/--end-pos 終止解析位置。可選。默認為stop-file的最末位置；若解析模式為stop-never，此選項失效。

--start-datetime 起始解析時間，格式'%Y-%m-%d %H:%M:%S'。可選。默認不過濾。

--stop-datetime 終止解析時間，格式'%Y-%m-%d %H:%M:%S'。可選。默認不過濾。

4.3 對象過濾

-d, --databases 只解析目標db的sql，多個庫用空格隔開，如-d db1 db2。可選。默認為空。

-t, --tables 只解析目標table的sql，多張表用空格隔開，如-t tbl1 tbl2。可選。默認為空。

--only-dml 只解析dml，忽略ddl。可選。默認False。

--sql-type 只解析指定類型，支持INSERT, UPDATE, DELETE。多個類型用空格隔開，如--sql-type INSERT DELETE。可選。默認為增刪改都解析。用了此參數但沒填任何類型，則三者都不解析。

 

 

想了解更多內容或參與技術交流可以關注微信公眾號【數據庫干貨鋪】或進技術交流群溝通。