最近在梳理數據庫集群的相關操作,現在花點時間整理一下關於mysql數據庫集群的操作總結,恰好你又在看這一塊,供一份參考。本次系列終結大概包括以下內容:多數據庫安裝、mycat部署安裝、數據庫之讀寫分離主從復制、數據庫之雙主多重、數據庫分庫分表。每一個點,有可能會對應一篇或者多篇文章,由於還要繼續上班工作,所以本系列分享預計持續時間需要10天左右,有興趣的您可以持續關注。我是一個菜鳥,如果寫的不好的地方,望多多指點和包涵。
好了,不逼逼了,直接進入本次的主題:mycat的數據集群方式有很多種,比如:主從復制、多主多重等等,本次先從最簡單的主從復制開始說起。
主從復制,其實我前段時間也整理了一篇文章,那是在liux環境的設置,有興趣的可以了解了解https://www.cnblogs.com/xiaoXuZhi/p/xyh_mysqlsynchro.html。其實liux和Windows的mysql主從設置在本質上一樣的,只是有點細微的不同,本次主要是針對windows環境的一個完整的流程搭建,所以也在專門梳理一下主從復制。
一、mysql主從復制簡介
原理:
-
master服務器將數據的改變記錄二進制binlog日志,當master上的數據發生改變時,則將其改變寫入二進制日志中;
-
slave服務器會在一定時間間隔內對master二進制日志進行探測其是否發生改變,如果發生改變,則開始一個I/OThread請求master二進制事件
-
同時主節點為每個I/O線程啟動一個dump線程,用於向其發送二進制事件,並保存至從節點本地的中繼日志中,從節點將啟動SQL線程從中繼日志中讀取二進制日志,在本地重放,使得其數據和主節點的保持一致,最后I/OThread和SQLThread將進入睡眠狀態,等待下一次被喚醒。
-
從庫會生成兩個線程,一個I/O線程,一個SQL線程;
-
I/O線程會去請求主庫的binlog,並將得到的binlog寫到本地的relay-log(中繼日志)文件中;
-
主庫會生成一個log dump線程,用來給從庫I/O線程傳binlog;
-
SQL線程,會讀取relay log文件中的日志,並解析成sql語句逐一執行;
概述:
-
從庫會生成兩個線程,一個I/O線程,一個SQL線程;
-
I/O線程會去請求主庫的binlog,並將得到的binlog寫到本地的relay-log(中繼日志)文件中;
-
主庫會生成一個log dump線程,用來給從庫I/O線程傳binlog;
-
SQL線程,會讀取relay log文件中的日志,並解析成sql語句逐一執行;
二、前期配置文件准備
服務器說明:
我在本機啟動了多個數據庫實例,具體的每一個實例如下:
-
² 主數據庫:192.168.1.88:3306
-
² 從數據庫1:192.168.1.88:3307
-
² 從數據庫2:192.168.1.88:3308
通過前面的對主從復制的介紹,我們知道主從復制其實最終是通過日志文件來進行交互,那么具體的日志文件怎么開啟?具體的同步策略如何設置?下面將簡單的介紹,一步一步的走下去。
主從同步的配置文件都是在數據庫安裝目錄的下的更目錄的my.ini(liux是my.cnf)文件,在前一篇文章關於mysql多實例安裝中也提到了這個文件,這個次是直接在上面做配置新增即可,具體的配置文件如下,具體的配置參數值可以根據實際需要進行修正:
主數據庫的3306中的 my.ini配置文件如下:
[Client] port = 3306 [mysqld] #設置3306端口 port = 3306 # 設置mysql的安裝目錄 basedir=C:\Program Files (x86)\MySQL\MySQL Server 5.7 # 設置mysql數據庫的數據的存放目錄 datadir=C:\Program Files (x86)\MySQL\MySQL Server 5.7\data # 允許最大連接數 max_connections=200 # 服務端使用的字符集默認為8比特編碼的latin1字符集 character-set-server=utf8 # 創建新表時將使用的默認存儲引擎 default-storage-engine=INNODB # 主從復制設置 # 設置服務id,注意改id值在同一個數據庫集群中要保持唯一 server-id = 3306 # 寫入磁盤策略 該參數的有效值有 0、1、2 # 0:事務提交時,不將重做日志緩沖寫入磁盤。因此如果 MySQL 發生宕機,那么就有可能丟失一部分事務。 # 1:事務提交時,會將重做日志緩沖寫入磁盤,並且立即刷新(fsync())。保證一定持久化到了硬盤中。 # 2:事務提交時,會將重做日志緩沖寫入磁盤,但是不會立即進行刷新操作。此時若操作系統發生宕機,也可能會丟失一部分數據。 # 可以看到,只有1才能真正地保證事務的持久性,但是由於刷新操作 fsync() 是阻塞的,性能會明顯地下降。如果不在乎事務丟失,,0和2能獲得更高的性能。 # 默認值為1,在實際使用過程中,為了效率,我們一般會在設置為2 innodb_flush_log_at_trx_commit=2 # 開啟binlog日志同步功能 # 這個參數直接影響mysql的性能和完整性。 # sync_binlog=0 當事務提交后,Mysql僅僅是將binlog_cache中的數據寫入binlog文件,但不執行fsync之類的磁盤,同步指令通知文件系統將緩存刷新到磁盤,而讓Filesystem自行決定什么時候來做同步,這個是性能最好的。 # sync_binlog=n,在進行n次事務提交以后,Mysql將執行一次fsync之類的磁盤同步指令,通知文件系統將Binlog文件緩存刷新到磁盤。 # Mysql中默認的設置是sync_binlog=0,即不做任何強制性的磁盤刷新指令,這時性能是最好的,但風險也是最大的。一旦系統Crash,在文件系統緩存中的所有Binlog信息都會丟失。 # 可根據自身項目的數據要求,進行靈活的設置 sync_binlog=0 # 二進制日志保留天數 expire_logs_days=180 # binlog日志文件名(可以任意命名) log-bin=mysql-bin # 同步的數據庫設置方式有兩種: # binlog_do_db:設置需要同步的數據庫 # binlog-ignore-db:設置不需要同步的數據庫 # 其中兩者只需要設置一個即可,根據我們平時的項目情況,都是設置binlog-ignore-db 排除不需要同步的一些系統級數據 # 這樣設置有一個好處就是:如果業務數據庫有新增,那么也不需要再次來更新設置該配置 # 兩種設置方式,都可以多條數據 #同步的數據庫,除此之外別的不同步(和下面binlog-ignore-db二選一) # binlog_do_db=testdb #不同步數據庫,除此之外都同步 binlog-ignore-db = information_schema binlog-ignore-db = mysql binlog-ignore-db = performance_schema binlog-ignore-db = sys [mysql] # 設置mysql客戶端默認字符集 default-character-set=utf8
從數據庫的my.ini配置都很簡單了,只需要配置server-id,binlog-do-db,binlog-ignore-db即可。
其中的server-id必須配置
binlog-do-db,binlog-ignore-db可根據實際需要設置,如果是主設置的數據庫全部同步到從,那么這兩個值就沒必要設置了,如果從只同步主的某一些庫,那么需要設置,在數據項目中,絕大部分都不需要設置的。
從數據庫的3307中的 my.ini配置文件如下:
[Client] port = 3307 [mysqld] #設置3307端口 port = 3307 server-id = 3307 # 設置mysql的安裝目錄 basedir=C:\Program Files (x86)\MySQL\MySQL Server 5.7.2 # 設置mysql數據庫的數據的存放目錄 datadir=C:\Program Files (x86)\MySQL\MySQL Server 5.7.2\data # 允許最大連接數 max_connections=200 # 服務端使用的字符集默認為8比特編碼的latin1字符集 character-set-server=utf8 # 創建新表時將使用的默認存儲引擎 default-storage-engine=INNODB [mysql] # 設置mysql客戶端默認字符集 default-character-set=utf8
從數據庫的3308中的 my.ini配置文件如下:
[Client] port = 3308 [mysqld] #設置3308端口 port = 3308 server-id = 3308 # 設置mysql的安裝目錄 basedir=C:\Program Files (x86)\MySQL\MySQL Server 5.7.2 # 設置mysql數據庫的數據的存放目錄 datadir=C:\Program Files (x86)\MySQL\MySQL Server 5.7.2\data # 允許最大連接數 max_connections=200 # 服務端使用的字符集默認為8比特編碼的latin1字符集 character-set-server=utf8 # 創建新表時將使用的默認存儲引擎 default-storage-engine=INNODB [mysql] # 設置mysql客戶端默認字符集 default-character-set=utf8
三、主數據庫創建同步賬號
在處理前,由於上面剛剛設置了數據庫的配置文件,為了能夠生效,首先是重啟一下主數據庫。只需要執行如下兩個命令即可:
net stop mysql
net start mysql
創建主數據用戶同步使用的賬號:
-
登錄數據庫:mysql -uroot -pxuyuanhong -P 3306
-
創建數據同步用戶slaveData:
CREATE USER 'slaveData'@'%' IDENTIFIED BY '用戶登錄密碼';
- 設置權限:
GRANT REPLICATION SLAVE ON *.* to 'slaveData'@'%' identified by '用戶登錄密碼';
- 刷新權限:FLUSH PRIVILEGES;
- 查看主機狀態:show master status;
四、從數據庫同步設置
前置條件:從數據庫同步設置,只以數據庫3307為例來說明:
從數據設置前,也還是按照主數據設置一樣,先重啟一下。只需要執行如下兩個命令即可:
net stop mysql3307
net start mysql3307
登錄從數據庫:
mysql -uroot -pxuyuanhong -P 3307
執行手動同步命令:
CHANGE MASTER TO MASTER_HOST='192.168.3.205',MASTER_PORT=3306,MASTER_USER='slaveData',MASTER_PASSWORD='xuyuanhong',MASTER_LOG_FILE='mysql-bin.000001',MASTER_LOG_POS=844;
其中的參數值說明:
-
master_host:主數據庫IP地址
-
master_user:主數據庫連接用戶名
-
master_password:主數據量連接密碼
-
master_port:主數據端口
-
master_log_file:開始同步的主數據庫日志名稱,主數據庫show master status
-
隊列的Flie列數據
-
master_log_pos:開始同步的主數據庫日志開始位置,主數據庫show master status
-
隊列的Position列數據
啟動主從同步:
start slave;
查看主從同步狀態
show slave status\G;
主從同步狀態結果圖如下:如果Slave_IO_Running: Yes,Slave_SQL_Running: Yes時說明兩個線程已啟動,主從復制配置成功。
主從同步設置失敗如何處理
主從狀態的結果Slave_IO_Running: Yes,Slave_SQL_Running不都為true,那么需要根據提示結果,重新設置。重新設置的流程如下:
-
停止slave:stop slave;
-
重置slave:reset slave;
-
重復上面的:執行手動同步命令開始流程
五、sql同步執行失敗后不再同步處理
主從同步在實際使用過程中,如果處理的不好,可能會導致同步失敗,比如:從數據庫也在做新增操作,如果有自增主鍵約束,那么就可能導致同步失敗。因為主從同步最終目的是實現數據的一致性,所有當某一項同步失敗,那么就不會再做后同步處理。那么如果出現同步失敗后又該如何處理呢?
在實際處理過程中,大概有兩種處理方式:
1、主從數據差異小,並且不管最終數據的一致性,那么可以設置直接跳過同步出差的日志,繼續同步后續數據,具體操作命令如下:
第一步:停止主從同步
stop slave;
第二步:跳過錯誤的日志位置,繼續后續同步,后面的數字可變
set global sql_slave_skip_counter =1;
第三步:繼續開啟主從同步
start slave;
2、如果主從數據差異大,並且要求主從數據完全一致,那么需要:重新做主從,完全同步。
第一步:刪除從數據庫,將主數據庫備份到從數據庫(確保主從數據完全一致)
第二步:按照上面的流程,重新配置主從同步
六、自我一些總結
1、 主從同步數據庫,一定要注意讀寫分離。從數據庫做讀操作,不要做寫操作,最好直接只給從數據庫讀權限,不給寫權限
2、 數據庫設置主從同步賬號時,最好創建專門的賬號用來做主從同步
有關mysql的主從同步就分享到這兒了,下一篇將和大家一起分享mycat的多安裝配置、主從同步、讀寫分離等知識點,有興趣的小伙伴,可以持續關注,謝謝!
END
為了更高的交流,歡迎大家關注我的公眾號,掃描下面二維碼即可關注,謝謝: