單表60億記錄等大數據場景的MySQL優化和運維之道

此文是根據楊尚剛在【QCON高可用架構群】中，針對MySQL在單表海量記錄等場景下，業界廣泛關注的MySQL問題的經驗分享整理而成，轉發請注明出處。

楊尚剛，美圖公司數據庫高級DBA，負責美圖后端數據存儲平台建設和架構設計。前新浪高級數據庫工程師，負責新浪微博核心數據庫架構改造優化，以及數據庫相關的服務器存儲選型設計。

前言

MySQL數據庫大家應該都很熟悉，而且隨着前幾年的阿里的去IOE，MySQL逐漸引起更多人的重視。

MySQL歷史

• 1979年，Monty Widenius寫了最初的版本，96年發布1.0
• 1995-2000年，MySQL AB成立，引入BDB
• 2000年4月，集成MyISAM和replication
• 2001年，Heikki Tuuri向MySQL建議集成InnoDB
• 2003發布5.0，提供了視圖、存儲過程等功能
• 2008年，MySQL AB被Sun收購，09年推出5.1
• 2009年4月，Oracle收購Sun，2010年12月推出5.5
• 2013年2月推出5.6 GA，5.7開發中

MySQL的優點

• 使用簡單
• 開源免費
• 擴展性“好”，在一定階段擴展性好
• 社區活躍
• 性能可以滿足互聯網存儲和性能需求，離不開硬件支持

上面這幾個因素也是大多數公司選擇考慮MySQL的原因。不過MySQL本身存在的問題和限制也很多，有些問題點也經常被其他數據庫吐槽或鄙視

MySQL存在的問題

• 優化器對復雜SQL支持不好
• 對SQL標准支持不好
• 大規模集群方案不成熟，主要指中間件
• ID生成器，全局自增ID
• 異步邏輯復制，數據安全性問題
• Online DDL
• HA方案不完善
• 備份和恢復方案還是比較復雜，需要依賴外部組件
• 展現給用戶信息過少，排查問題困難
• 眾多分支，讓人難以選擇

看到了剛才講的MySQL的優勢和劣勢，可以看到MySQL面臨的問題還是遠大於它的優勢的,很多問題也是我們實際需要在運維中優化解決的，這也是 MySQL DBA的一方面價值所在。並且MySQL的不斷發展也離不開社區支持，比如Google最早提交的半同步patch，后來也合並到官方主線。 Facebook Twitter等也都開源了內部使用MySQL分支版本，包含了他們內部使用的patch和特性。

數據庫開發規范

數據庫開發規范定義：開發規范是針對內部開發的一系列建議或規則, 由DBA制定(如果有DBA的話)。

開發規范本身也包含幾部分：基本命名和約束規范，字段設計規范，索引規范，使用規范。

規范存在意義

• 保證線上數據庫schema規范
• 減少出問題概率
• 方便自動化管理
• 規范需要長期堅持，對開發和DBA是一個雙贏的事情

想想沒有開發規范，有的開發寫出各種全表掃描的SQL語句或者各種奇葩SQL語句，我們之前就看過開發寫的SQL 可以打印出好幾頁紙。這種造成業務本身不穩定，也會讓DBA天天忙於各種救火。

基本命名和約束規范

• 表字符集選擇UTF8 ，如果需要存儲emoj表情，需要使用UTF8mb4(MySQL 5.5.3以后支持)
• 存儲引擎使用InnoDB
• 變長字符串盡量使用varchar varbinary
• 不在數據庫中存儲圖片、文件等
• 單表數據量控制在1億以下
• 庫名、表名、字段名不使用保留字
• 庫名、表名、字段名、索引名使用小寫字母，以下划線分割 ，需要見名知意
• 庫表名不要設計過長，盡可能用最少的字符表達出表的用途

字段規范

• 所有字段均定義為NOT NULL ，除非你真的想存Null
• 字段類型在滿足需求條件下越小越好，使用UNSIGNED存儲非負整數 ，實際使用時候存儲負數場景不多
• 使用TIMESTAMP存儲時間
• 使用varchar存儲變長字符串 ，當然要注意varchar(M)里的M指的是字符數不是字節數；使用UNSIGNED INT存儲IPv4 地址而不是CHAR(15) ，這種方式只能存儲IPv4，存儲不了IPv6
• 使用DECIMAL存儲精確浮點數，用float有的時候會有問題
• 少用blob text

關於為什么定義不使用Null的原因

* 1.浪費存儲空間，因為InnoDB需要有額外一個字節存儲

* 2.表內默認值Null過多會影響優化器選擇執行計划

關於使用datatime和timestamp，現在在5.6.4之后又有了變化，使用二者存儲在存儲空間上大差距越來越小 ，並且本身datatime存儲范圍就比timestamp大很多，timestamp只能存儲到2038年

索引規范

• 單個索引字段數不超過5，單表索引數量不超過5，索引設計遵循B+ Tree索引最左前綴匹配原則
• 選擇區分度高的列作為索引
• 建立的索引能覆蓋80%主要的查詢，不求全，解決問題的主要矛盾
• DML和order by和group by字段要建立合適的索引
• 避免索引的隱式轉換
• 避免冗余索引

關於索引規范，一定要記住索引這個東西是一把雙刃劍，在加速讀的同時也引入了很多額外的寫入和鎖，降低寫入能力，這也是為什么要控制索引數原因。之前看到過不少人給表里每個字段都建了索引，其實對查詢可能起不到什么作用。

冗余索引例子

• idx_abc(a,b,c)
• idx_a(a) 冗余
• idx_ab(a,b) 冗余

隱式轉換例子

字段:remark varchar(50) NOT Null

MySQL>SELECT id, gift_code FROM gift WHERE deal_id = 640 AND remark=115127; 1 row in set (0.14 sec)

MySQL>SELECT id, gift_code FROM pool_gift WHEREdeal_id = 640 AND remark=‘115127’; 1 row in set (0.005 sec)

字段定義為varchar，但傳入的值是個int，就會導致全表掃描，要求程序端要做好類型檢查

SQL類規范

• 盡量不使用存儲過程、觸發器、函數等
• 避免使用大表的JOIN，MySQL優化器對join優化策略過於簡單
• 避免在數據庫中進行數學運算和其他大量計算任務
• SQL合並，主要是指的DML時候多個value合並，減少和數據庫交互
• 合理的分頁，尤其大分頁
• UPDATE、DELETE語句不使用LIMIT ，容易造成主從不一致

數據庫運維規范

運維規范主要內容

• SQL審核，DDL審核和操作時間，尤其是OnlineDDL
• 高危操作檢查，Drop前做好數據備份
• 權限控制和審計
• 日志分析，主要是指的MySQL慢日志和錯誤日志
• 高可用方案
• 數據備份方案

版本選擇

• MySQL社區版，用戶群體最大
• MySQL企業版，收費
• Percona Server版，新特性多
• MariaDB版，國內用戶不多

建議選擇優先級為：MySQL社區版 > Percona Server > MariaDB > MySQL 企業版

不過現在如果大家使用RDS服務，基本還以社區版為主

Online DDL問題

原生MySQL執行DDL時需要鎖表，且鎖表期間業務是無法寫入數據的，對服務影響很大，MySQL對這方面的支持是比較差的。大表做DDL對DBA來說是很痛苦的，相信很多人經歷過。如何做到Online DDL呢，是不是就無解了呢？當然不是！

上面表格里提到的 Facebook OSC和5.6 OSC也是目前兩種比較靠譜的方案

MySQL 5.6的OSC方案還是解決不了DDL的時候到從庫延時的問題，所以現在建議使用Facebook OSC這種思路更優雅

下圖是Facebook OSC的思路

后來Percona公司根據Facebook OSC思路，用perl重寫了一版，就是我們現在用得很多的pt-online-schema-change，軟件本身非常成熟，支持目前主流版本。

使用pt-online-schema-change的優點有：

• 1.無阻塞寫入
• 2.完善的條件檢測和延時負載策略控制

值得一提的是，騰訊互娛的DBA在內部分支上也實現了Online DDL，之前測試過確實不錯，速度快，原理是通過修改InnoDB存儲格式來實現。

使用pt-online-schema-change的限制有：

• 改表時間會比較長(相比直接alter table改表)
• 修改的表需要有唯一鍵或主鍵
• 在同一端口上的並發修改不能太多

可用性

關於可用性，我們今天分享一種無縫切主庫方案，可以用於日常切換，使用思路也比較簡單

在正常條件下如何無縫去做主庫切換，核心思路是讓新主庫和從庫停在相同位置，主要依賴slave start until 語句，結合雙主結構，考慮自增問題。

MySQL集群方案：

• 集群方案主要是如何組織MySQL實例的方案
• 主流方案核心依然采用的是MySQL原生的復制方案
• 原生主從同步肯定存在着性能和安全性問題

MySQL半同步復制：

現在也有一些理論上可用性更高的其它方案

• Percona XtraDB Cluster(沒有足夠的把控力度，不建議上)
• MySQL Cluster(有官方支持，不過實際用的不多)

紅框內是目前大家使用比較多的部署結構和方案。當然異常層面的HA也有很多第三方工具支持，比如MHA、MMM等，推薦使用MHA

sharding拆分問題

• Sharding is very complex, so itʼs best not to shard until itʼs obvious that you will actually need to!
• sharding是按照一定規則數據重新分布的方式
• 主要解決單機寫入壓力過大和容量問題
• 主要有垂直拆分和水平拆分兩種方式
• 拆分要適度，切勿過度拆分
• 有中間層控制拆分邏輯最好，否則拆分過細管理成本會很高

曾經管理的單表最大60億＋，單表數據文件大小1TB＋，人有時候就要懶一些

上圖是水平拆分和垂直拆分的示意圖

數據庫備份

首先要保證的，最核心的是數據庫數據安全性。數據安全都保障不了的情況下談其他的指標(如性能等)，其實意義就不大了。

備份的意義是什么呢?

• 數據恢復！
• 數據恢復！
• 數據恢復！

目前備份方式的幾個緯度：

• 全量備份 VS 增量備份
• 熱備 VS 冷備
• 物理備份 VS 邏輯備份
• 延時備份
• 全量binlog備份

建議方式：

• 熱備＋物理備份
• 核心業務：延時備份＋邏輯備份
• 全量binlog備份

借用一下某大型互聯網公司做的備份系統數據：一年7000＋次擴容，一年12＋次數據恢復，日志量每天3TB，數據總量2PB，每天備份數據量百TB級，全年備份36萬次，備份成功了99.9%。

主要做的幾點：

• 備份策略集中式調度管理
• xtrabackup熱備
• 備份結果統計分析
• 備份數據一致性校驗
• 采用分布式文件系統存儲備份

備份系統采用分布式文件系統原因：

• 解決存儲分配的問題
• 解決存儲NFS備份效率低下問題
• 存儲集中式管理
• 數據可靠性更好

使用分布式文件系統優化點：

* Pbzip壓縮，降低多副本存儲帶來的存儲成本，降低網絡帶寬消耗

* 元數據節點HA，提高備份集群的可用性

* erasure code方案調研

數據恢復方案

目前的MySQL數據恢復方案主要還是基於備份來恢復，可見備份的重要性。比如我今天下午15點刪除了線上一張表，該如何恢復呢？首先確認刪除語 句，然后用備份擴容實例啟動，假設備份時間點是凌晨3點，就還需要把凌晨3點到現在關於這個表的binlog導出來，然后應用到新擴容的實例上，確認好恢 復的時間點，然后把刪除表的數據導出來應用到線上。

性能優化

復制優化

MySQL復制：

• 是MySQL應用得最普遍的應用技術，擴展成本低
• 邏輯復制
• 單線程問題，從庫延時問題
• 可以做備份或讀復制

問題很多，但是能解決基本問題

上圖是MySQL復制原理圖，紅框內就是MySQL一直被人詬病的單線程問題

單線程問題也是MySQL主從延時的一個重要原因，單線程解決方案：

• 官方5.6+多線程方案
• Tungsten為代表的第三方並行復制工具
• sharding

上圖是MySQL5.6 目前實現的並行復制原理圖，是基於庫級別的復制，所以如果你只有一個庫，使用這個意義不大

當然MySQL也認識到5.6這種並行的瓶頸所在，所以在5.7引入了另外一種並行復制方式，基於logical timestamp的並行復制，並行復制不再受限於庫的個數，效率會大大提升

上圖是5.7的logical timestamp的復制原理圖

剛才我也提到MySQL原來只支持異步復制，這種數據安全性是非常差的，所以后來引入了半同步復制，從5.5開始支持

上圖是原生異步復制和半同步復制的區別。可以看到半同步通過從庫返回ACK這種方式確認從庫收到數據，數據安全性大大提高

在5.7之后，半同步也可以配置你指定多個從庫參與半同步復制，之前版本都是默認一個從庫

對於半同步復制效率問題有一個小的優化，就是使用5.6+的mysqlbinlog以daemon方式作為從庫，同步效率會好很多

關於更安全的復制，MySQL 5.7也是有方案的，方案名叫Group replication 官方多主方案，基於Corosync實現

主從延時問題

原因：一般都會做讀寫分離，其實從庫壓力反而比主庫大／從庫讀寫壓力大非常容易導致延時。

解決方案：

• 首先定位延時瓶頸
• 如果是IO壓力，可以通過升級硬件解決，比如替換SSD等
• 如果IO和CPU都不是瓶頸，非常有可能是SQL單線程問題，解決方案可以考慮剛才提到的並行復制方案
• 如果還有問題，可以考慮sharding拆分方案

提到延時不得不提到很坑人的Seconds behind master，使用過MySQL的應該很熟悉

這個值的源碼里算法

long time_diff= ((long)(time(0) – mi->rli.last_master_timestamp) – mi->clock_diff_with_master);

Secondsbehindmaster來判斷延時不可靠，在網絡抖動或者一些特殊參數配置情況下，會造成這個值是0但其實延時很大了。通過heartbeat表插入時間戳這種機制判斷延時是更靠譜的

復制注意點：

• Binlog格式，建議都采用row格式，數據一致性更好
• Replication filter應用

主從數據一致性問題：

• row格式下的數據恢復問題

InnoDB優化

成熟開源事務存儲引擎，支持ACID，支持事務四個隔離級別，更好的數據安全性，高性能高並發，MVCC，細粒度鎖，支持O_DIRECT。

主要優化參數：

• innodbfileper_table =1
• innodbbufferpool_size，根據數據量和內存合理設置
• innodbflushlog_attrxcommit= 0 1 2
• innodblogfile_size，可以設置大一些
• innodbpagesize
• Innodbflushmethod = o_direct
• innodbundodirectory 放到高速設備(5.6＋)
• innodbbufferpool_dump
• atshutdown ，bufferpool dump (5.6+)

上圖是5.5 4G的redo log和5.6 設置大於4G redo log文件性能對比，可以看到穩定性更好了。innodblogfile_size設置還是很有意義的

InnoDB比較好的特性：

• Bufferpool預熱和動態調整大小，動態調整大小需要5.7支持
• Page size自定義調整，適應目前硬件
• InnoDB壓縮，大大降低數據容量，一般可以壓縮50%，節省存儲空間和IO，用CPU換空間
• Transportable tablespaces，遷移ibd文件，用於快速單表恢復
• Memcached API，full text，GIS等

InnoDB在SSD上的優化：

• 在5.5以上，提高innodbwriteiothreads和innodbreadiothreads
• innodbiocapacity需要調大
• 日志文件和redo放到機械硬盤，undo放到SSD，建議這樣，但必要性不大
• atomic write,不需要Double Write Buffer
• InnoDB壓縮
• 單機多實例

也要搞清楚InnoDB哪些文件是順序讀寫，哪些是隨機讀寫

隨機讀寫：

• datadir
• innodbdata file_path
• innodbundo directory

順序讀寫：

• innodbloggrouphomedir
• log-bin

InnoDB VS MyISAM：

• 數據安全性至關重要，InnoDB完勝，曾經遇到過一次90G的MyISAM表repair，花了兩天時間，如果在線上幾乎不可忍受
• 並發度高
• MySQL 5.5默認引擎改為InnoDB，標志着MyISAM時代的落幕

TokuDB：

• 支持事務 ACID 特性，支持多版本控制(MVCC)
• 基於Fractal Tree Index，非常適合寫入密集場景
• 高壓縮比，原生支持Online DDL
• 主流分支都支持，收費轉開源 。目前可以和InnoDB媲美的存儲引擎

目前主流使用TokuDB主要是看中了它的高壓縮比，Tokudb有三種壓縮方式：quicklz、zlib、lzma，壓縮比依次更高。現在很多使用zabbix的后端數據表都采用的TokuDB，寫入性能好，壓縮比高。

下圖是我之前做的測試對比和InnoDB

上圖是sysbench測試的和InnoDB性能對比圖，可以看到TokuDB在測試過程中寫入穩定性是非常好的。

tokudb存在的問題：

• 官方分支還沒很好的支持
• 熱備方案問題，目前只有企業版才有
• 還是有bug的，版本更新比較快，不建議在核心業務上用

比如我們之前遇到過一個問題：TokuDB的內部狀態顯示上一次完成的checkpoint時間是“Jul 17 12:04:11 2014”，距離當時發現現在都快5個月了，結果堆積了大量redo log不能刪除，后來只能重啟實例，結果重啟還花了七八個小時

MySQL優化相關的case

Query cache，MySQL內置的查詢加速緩存，理念是好的,但設計不夠合理，有點out。

鎖的粒度非常大MySQL 5.6默認已經關閉

When the query cache helps, it can help a lot. When it hurts, it can hurt a lot.明顯前半句已經沒有太大用處，在高並發下非常容易遇到瓶頸。

關於事務隔離級別 ，InnoDB默認隔離級別是可重復讀級別，當然InnoDB雖然是設置的可重復讀，但是也是解決了幻讀的，建議改成讀已提交級別，可以滿足大多數場景需求，有利於更高的並發，修改transaction-isolation。

上圖是一個比較經典的死鎖case，有興趣可以測試下

關於SSD

關於SSD，還是提一下吧。某知名大V說過“最近10年對數據庫性能影響最大的是閃存”，穩定性和性能可靠性已經得到大規模驗證，多塊SATA SSD做Raid5，推薦使用。采用PCIe SSD，主流雲平台都提供SSD雲硬盤支持。

最后說一下大家關注的單表60億記錄問題，表里數據也是線上比較核心的。

先說下當時情況，表結構比較簡單，都是bigint這種整型，索引比較多，應該有2-3個，單表行數60億＋，單表容量1.2TB左右，當然內部肯定是有碎片的。

形成原因：歷史遺留問題，按照我們前面講的開發規范，這個應該早拆分了，當然不拆有幾個原因：

1. 性能未遇到瓶頸 ，主要原因
2. DBA比較“懶“
3. 想看看InnoDB的極限，挑戰一下。不過風險也是很大的，想想如果在一個1.2TB表上加個字段加個索引，那感覺絕對酸爽。還有就是單表恢復的問題，恢復時間不可控。

我們后續做的優化 ，采用了剛才提到的TokuDB，單表容量在InnoDB下1TB+，使用Tokudb的lzma壓縮到80GB，壓縮效果非常好。這樣也解決了單表過大恢復時間問題，也支持online DDL，基本達到我們預期。

今天講的主要針對MySQL本身優化和規范性質的東西，還有一些比較好的運維經驗，希望大家能有所收獲。今天這些內容是為后續數據庫做平台化的基礎。我今天分享就到這里，謝謝大家。

QA

Q1：use schema;select * from table; 和select * from schema.table;兩種寫法有什么不一樣嗎？會對主從同步有影響嗎？

對於主從復制來說執行效率上差別不大，不過在使用replication filter時候這種情況需要小心，應該要使用ReplicateWildIgnoreTable這種參數，如果不使用帶wildignore，第一種方式會有問題，過濾不起作用。

Q2：對於用於MySQL的ssd，測試方式和ssd的參數配置方面，有沒有好的建議？主要針對ssd的配置哈

關於SATA SSD配置參數，建議使用Raid5，想更保險使用Raid50，更土豪使用Raid 10

上圖是主要的參數優化，性能提升最大的是第一個修改調度算法的

Q3：數據庫規范已制定好，如何保證開發人員必須按照規范來開發？

關於數據庫規范實施問題，也是有兩個方面吧，第一、定期給開發培訓開發規范，讓開發能更了解。第二、還是在流程上規范，比如把我們日常通用的建表和字段策略固化到程序，做成自動化審核系統。這兩方面結合 效果會比較好。

Q4：如何最大限度提高innodb的命中率？

這個問題前提是你的數據要有熱點，讀寫熱點要有交集，否則命中率很難提高。在有熱點的前提下，也要求你的你的內存要足夠大，能夠存更多的熱點數據。盡量不要做一些可能污染bufferpool的操作，比如全表掃描這種。

Q5：主從復制的情況下，如果有CAS這樣的需求，是不是只能強制連主庫？因為有延遲的存在，如果讀寫不在一起的話，會有臟數據。

如果有CAS需求，確實還是直接讀主庫好一些，因為異步復制還是會有延遲的。只要SQL優化的比較好，讀寫都在主庫也是沒什么問題的。

Q6：關於開發規范，是否有必要買國標?

這個國標是什么東西，不太了解。不過從字面看，國標應該也是偏學術方面的，在具體工程實施時候未必能用好。

Q7：主從集群能不能再細化一點那？不知道這樣問合適不？

看具體哪方面吧。主從集群每個小集群一般都是采用一主多從方式，每個小集群對應特定的一組業務。然后監控備份和HA都是在每個小集群實現。

Q8：如何跟蹤數據庫table某個字段值發生變化？

追蹤字段值變化可以通過分析row格式binlog好一些。比如以前同事就是通過自己開發的工具來解析row格式binlog，跟蹤數據行變化。

Q9：對超大表水平拆分，在使用MySQL中間件方面有什么建議和經驗分享？

對於超大表水平拆分，在中間件上經驗不是很多，早期人肉搞過幾次。也使用過自己研發的數據庫中間件，不過線上應用的規模不大。關於目前眾多的開源中間件里，360的atlas是目前還不錯的，他們公司內部應用的比較多。

Q10：我們用的MySQL proxy做讀負載，但是少量數據壓力下並沒有負載，請問有這回事嗎？

少量數據壓力下，並沒有負載 ，這個沒測試過，不好評價

Q11：對於binlog格式，為什么只推薦row，而不用網上大部分文章推薦的Mix ？

這個主要是考慮數據復制的可靠性，row更好。mixed含義是指如果有一些容易導致主從不一致的SQL ，比如包含UUID函數的這種，轉換為row。既然要革命，就搞的徹底一些。這種mix的中間狀態最坑人了。

Q12： 讀寫分離，一般是在程序里做，還是用proxy ，用proxy的話一般用哪個？

這個還是獨立寫程序好一些，與程序解耦方便后期維護。proxy國內目前開源的比較多，選擇也要慎重。

Q13： 我想問一下關於mysql線程池相關的問題，什么情況下適合使用線程池，相關的參數應該如何配置，老師有這方面的最佳實踐沒有？

線程池這個我也沒測試過。從原理上來說，短鏈接更適合用線程池方式，減少建立連接的消耗。這個方面的最佳配置，我還沒測試過，后面測試有進展可以再聊聊。

Q14： 誤刪數據這種，數據恢復流程是怎么樣的(從庫也被同步刪除的情況)？

看你刪除數據的情況，如果只是一張表，單表在幾GB或幾十GB。如果能有延時備份，對於數據恢復速度是很有好處的。恢復流程可以參考我剛才分享的部 分。目前的MySQL數據恢復方案主要還是基於備份來恢復 ，可見備份的重要性。比如我今天下午15點刪除了線上一張表，該如何恢復呢。首先確認刪除語句，然后用備份擴容實例啟動，假設備份時間點是凌晨3點。就還 需要把凌晨3點到現在關於這個表的binlog導出來，然后應用到新擴容的實例上。確認好恢復的時間點，然后把刪除表的數據導出來應用到線上。

Q15： 關於備份，binlog備份自然不用說了，物理備份有很多方式，有沒有推薦的一種，邏輯備份在量大的時候恢復速度比較慢，一般用在什么場景？

物理備份采用xtrabackup熱備方案比較好。邏輯備份一般用在單表恢復效果會非常好。比如你刪了一個2G表，但你總數據量2T，用物理備份就會要慢了，邏輯備份就非常有用了。