mysql分表之后怎么平滑上線?


分表的目的

項目開發中,我們的數據庫數據越來越大,隨之而來的是單個表中數據太多。以至於查詢數據變慢,而且由於表的鎖機制導致應用操作也受到嚴重影響,出現了數據庫性能瓶頸。

當出現這種情況時,我們可以考慮分表,即將單個數據庫表進行拆分,拆分成多個數據表,然后用戶訪問的時候,根據一定的算法,讓用戶訪問不同的表,這樣數據分散到多個數據表中,減少了單個數據表的訪問壓力。提升了數據庫訪問性能。

舉個栗子

舉個栗子
舉個栗子

比如咱們最常見的用戶表(user表)

id user_id 其他字段
主鍵id 用戶id 其他字段

咱們一般都會用user_id去查詢對應的用戶信息,但是隨着業務的增長,這張表會越來越大,甚至上億,嚴重影響了查詢性能。 所以咱們就會對這張表進行分表處理,分到多張表減小查詢壓力

分表策略

以分10張表為例(具體分多少張表 根據實際情況來估算) 首先咱們建10張表 user1、user2、user3。。。。。user10

一般情況下,我們都會用作為索引的字段(user_id)進行取模處理。想分多少張表,就按照多少取模,比如這個case就是10

$table_name = $user_id % 10;

按照上面的取模公式

  • user_id為1295的會落在user5里面
  • user_id為8634的會落在user4里面
  • 。。。。。。。

每次CURD根據上面查找表的策略進行就行了,這個問題不大,我們暫且先不多說。

已經上線的運行中的表怎么辦?

其實上面的方法大家應該都知道怎么用,但是有個問題,已經上線了的表怎么辦?那張表的數據在線上是一直被查找或者改變的。如何能夠進行平滑的分表,並且讓用戶無感知呢?

方法1

直接上線,提前寫個腳本,腳本內容是把舊表(user)的數據同步到user1表到user10表,一上線了趕緊執行

這種方法明顯是行不通的,主要是存在以下問題

  • 如果執行過程中腳本有問題怎么辦?代碼全部回滾?
  • 腳本把把舊表(user)的數據同步到user1表到user10表,這個腳本得執行多久? 如果是1個小時,那么這段時間線上和這張表相關的業務都是不正常的

這顯然是行不通的,對線上影響很大。

方法2

先寫個同步數據的腳本,腳本內容是把舊表(user)的數據同步到user1表到user10表,腳本同步完了再上線。

這個方法看起來友好了一些,不過也存在一些問題。

  • 腳本同步完,立即上線,這兩件事之間是有一些時間差的,這個時間差中線上表可能有一些改動,這些改動怎么辦?

以上兩種方法看起來貌似都行不通,所以看來得來點不一樣的了。咱們直接看結論。

步驟1 上線雙寫

首先咱們把雙寫上線了,什么意思呢?比如user_id=123,對於增加,刪除,修改操作來說,咱們既操作user表,也操作user_id=123對應的user3表。

function modify($user_id){  //包含增加,刪除,修改操作
  modify_user();  //modify user表
  $table_name = $user_id % 10;
  modify_user($table_name) //modify對應的分表
}

因為查詢的部分還是在user表中查詢的,所以上面的操作對線上用戶是無任何影響的。

步驟2 全量同步

寫一個全量同步user表到user1-user10的表,最好找個低峰期執行腳本,以防萬一影響user表的查詢

這一步執行之后,因為咱們之前上線了雙寫(見步驟1),所以user表和user1-user10表之間的數據已經是完全一致的了。

步驟3 查詢新表數據

將查詢的部分改到user1-user10

因為前面兩個步驟咱們已經保證了user表和各個分表之間的數據完全一致性,所以直接把查詢的部分改掉是沒有任何問題的

如果按照以上步驟執行,那么對線上的數據是沒有任何影響的,而且我們線上就是這么操作了,經過了多次實踐確保不會出問題,放心使用即可。如果這篇文章幫助到了你,記得點個贊哦。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM