項目中常用的MySQL 優化

本文我們來談談項目中常用的MySQL優化方法，共19條，具體如下：

一、EXPLAIN

做MySQL優化，我們要善用EXPLAIN查看SQL執行計划。

下面來個簡單的示例，標注（1、2、3、4、5）我們要重點關注的數據：

• type列，連接類型。一個好的SQL語句至少要達到range級別。杜絕出現all級別。

• key列，使用到的索引名。如果沒有選擇索引，值是NULL。可以采取強制索引方式

• key_len列，索引長度。

• rows列，掃描行數。該值是個預估值。

• extra列，詳細說明。注意，常見的不太友好的值，如下：Using filesort，Using temporary。

二、SQL 語句中 IN 包含的值不應過多 

　　MySQL對於IN做了相應的優化，即將IN中的常量全部存儲在一個數組里面，而且這個數組是排好序的。但是如果數值較多，產生的消耗也是比較大的。再例如：select id from t where num in(1,2,3) 對於連續的數值，能用between就不要用in了；再或者使用連接來替換。

三、SELECT語句務必指明字段名稱

　　SELECT*增加很多不必要的消耗（CPU、IO、內存、網絡帶寬）；增加了使用覆蓋索引的可能性；當表結構發生改變時，前斷也需要更新。所以要求直接在select后面接上字段名。

四、當只需要一條數據的時候，使用limit 1

　　這是為了使EXPLAIN中type列達到const類型

五、如果排序字段沒有用到索引，就盡量少排序

六、如果限制條件中其他字段沒有索引，盡量少用or

　　or兩邊的字段中，如果有一個不是索引字段，而其他條件也不是索引字段，會造成該查詢不走索引的情況。很多時候使用union all或者是union（必要的時候）的方式來代替“or”會得到更好的效果。

七、盡量用 union all 代替 union

　　union和union all的差異主要是前者需要將結果集合並后再進行唯一性過濾操作，這就會涉及到排序，增加大量的CPU運算，加大資源消耗及延遲。當然，union all的前提條件是兩個結果集沒有重復數據。

八、不使用ORDER BY RAND()

select id from `dynamic` order by rand() limit 1000;

上面的SQL語句，可優化為：

select id from `dynamic` t1 join (select rand() * (select max(id) from `dynamic`) as nid) t2 on t1.id > t2.nidlimit 1000;

九、區分in和exists、not in和not exists

select * from 表A where id in (select id from 表B)

上面SQL語句相當於

select * from 表A where exists(select * from 表B where 表B.id=表A.id)

　　區分in和exists主要是造成了驅動順序的改變（這是性能變化的關鍵），如果是exists，那么以外層表為驅動表，先被訪問，如果是IN，那么先執行子查詢。所以IN適合於外表大而內表小的情況；EXISTS適合於外表小而內表大的情況。

　　關於not in和not exists，推薦使用not exists，不僅僅是效率問題，not in可能存在邏輯問題。如何高效的寫出一個替代not exists的SQL語句？

原SQL語句：

select colname … from A表 where a.id not in (select b.id from B表)

高效的SQL語句：

select colname … from A表 Left join B表 on where a.id = b.id where b.id is null

　　取出的結果集如下圖表示，A表不在B表中的數據：

十、使用合理的分頁方式以提高分頁的效率

select id,name from product limit 866613, 20

　　使用上述SQL語句做分頁的時候，可能有人會發現，隨着表數據量的增加，直接使用limit分頁查詢會越來越慢。

　　優化的方法如下：可以取前一頁的最大行數的id，然后根據這個最大的id來限制下一頁的起點。比如此列中，上一頁最大的id是866612。SQL可以采用如下的寫法：

select id,name from product where id> 866612 limit 20

十一、分段查詢

　　在一些用戶選擇頁面中，可能一些用戶選擇的時間范圍過大，造成查詢緩慢。主要的原因是掃描行數過多。這個時候可以通過程序，分段進行查詢，循環遍歷，將結果合並處理進行展示。

　　如下圖這個SQL語句，掃描的行數成百萬級以上的時候就可以使用分段查詢：

十二、避免在 where 子句中對字段進行 null 值判斷

　　對於null的判斷會導致引擎放棄使用索引而進行全表掃描。

十三、不建議使用%前綴模糊查詢

　　例如LIKE“%name”或者LIKE“%name%”，這種查詢會導致索引失效而進行全表掃描。但是可以使用LIKE “name%”。

　　那如何查詢%name%？

　　如下圖所示，雖然給secret字段添加了索引，但在explain結果並沒有使用：

　　那么如何解決這個問題呢，答案：使用全文索引。 

　　在我們查詢中經常會用到select id,fnum,fdst from dynamic_201606 where user_name like '%zhangsan%'; 。這樣的語句，普通索引是無法滿足查詢需求的。慶幸的是在MySQL中，有全文索引來幫助我們。

　　創建全文索引的SQL語法是：

ALTER TABLE `dynamic_201606` ADD FULLTEXT INDEX `idx_user_name` (`user_name`);

　　使用全文索引的SQL語句是：

select id,fnum,fdst from dynamic_201606 where match(user_name) against('zhangsan' in boolean mode);

　　注意：在需要創建全文索引之前，請聯系DBA確定能否創建。同時需要注意的是查詢語句的寫法與普通索引的區別。

十四、避免在 where 子句中對字段進行表達式操作

比如：

select user_id,user_project from user_base where age*2=36;

中對字段就行了算術運算，這會造成引擎放棄使用索引，建議改成：

select user_id,user_project from user_base where age=36/2;

十五、避免隱式類型轉換

　　where子句中出現column字段的類型和傳入的參數類型不一致的時候發生的類型轉換，建議先確定where中的參數類型。

十六、對於聯合索引來說，要遵守最左前綴法則

　　舉列來說索引含有字段id、name、school，可以直接用id字段，也可以id、name這樣的順序，但是name;school都無法使用這個索引。所以在創建聯合索引的時候一定要注意索引字段順序，常用的查詢字段放在最前面。

十七、必要時可以使用force index來強制查詢走某個索引

　　有的時候MySQL優化器采取它認為合適的索引來檢索SQL語句，但是可能它所采用的索引並不是我們想要的。這時就可以采用forceindex來強制優化器使用我們制定的索引。

十八、注意范圍查詢語句

　　對於聯合索引來說，如果存在范圍查詢，比如between、>、<等條件時，會造成后面的索引字段失效。

　　LEFT JOIN A表為驅動表，INNER JOIN MySQL會自動找出那個數據少的表作用驅動表，RIGHT JOIN B表為驅動表。

注意：

1）MySQL中沒有full join，可以用以下方式來解決：

select * from A left join B on B.name = A.namewhere B.name is nullunion allselect * from B;

2）盡量使用inner join，避免left join：

　　參與聯合查詢的表至少為2張表，一般都存在大小之分。如果連接方式是inner join，在沒有其他過濾條件的情況下MySQL會自動選擇小表作為驅動表，但是left join在驅動表的選擇上遵循的是左邊驅動右邊的原則，即left join左邊的表名為驅動表。

3）合理利用索引：

　　被驅動表的索引字段作為on的限制字段。

4）利用小表去驅動大表：

 

　　從原理圖能夠直觀的看出如果能夠減少驅動表的話，減少嵌套循環中的循環次數，以減少 IO總量及CPU運算的次數。

5）巧用STRAIGHT_JOIN：

　　inner join是由MySQL選擇驅動表，但是有些特殊情況需要選擇另個表作為驅動表，比如有group by、order by等「Using filesort」、「Using temporary」時。STRAIGHT_JOIN來強制連接順序，在STRAIGHT_JOIN左邊的表名就是驅動表，右邊則是被驅動表。在使用STRAIGHT_JOIN有個前提條件是該查詢是內連接，也就是inner join。其他鏈接不推薦使用STRAIGHT_JOIN，否則可能造成查詢結果不准確。

 

這個方式有時能減少3倍的時間。

-----------------------------------------------------------------------------------

另外一篇文章關於mysql數據庫優化的

前言

　　數據庫優化一方面是找出系統的瓶頸,提高MySQL數據庫的整體性能,而另一方面需要合理的結構設計和參數調整,以提高用戶的相應速度,同時還要盡可能的節約系統資源,以便讓系統提供更大的負荷.

1、優化一覽圖

2、優化

　　筆者將優化分為了兩大類,軟優化和硬優化,軟優化一般是操作數據庫即可,而硬優化則是操作服務器硬件及參數設置.

2.1 軟優化

2.1.1 查詢語句優化

　　1、首先我們可以用EXPLAIN或DESCRIBE(簡寫:DESC)命令分析一條查詢語句的執行信息. 

　　2.例:

DESC SELECT * FROM `user`

顯示:

 

其中會顯示索引和查詢數據讀取數據條數等信息.

2.1.2 優化子查詢

　　在MySQL中,盡量使用JOIN來代替子查詢.因為子查詢需要嵌套查詢,嵌套查詢時會建立一張臨時表,臨時表的建立和刪除都會有較大的系統開銷,而連接查詢不會創建臨時表,因此效率比嵌套子查詢高.

2.1.3 使用索引

　　索引是提高數據庫查詢速度最重要的方法之一,關於索引可以參高筆者<MySQL數據庫索引>一文,介紹比較詳細,此處記錄使用索引的三大注意事項:

　　1、LIKE關鍵字匹配'%'開頭的字符串,不會使用索引.

　　2、OR關鍵字的兩個字段必須都是用了索引,該查詢才會使用索引.

　　3、使用多列索引必須滿足最左匹配.

2.1.4 分解表

　　對於字段較多的表,如果某些字段使用頻率較低,此時應當,將其分離出來從而形成新的表,

2.1.5 中間表

　　對於將大量連接查詢的表可以創建中間表,從而減少在查詢時造成的連接耗時.

2.1.6 增加冗余字段

　　類似於創建中間表,增加冗余也是為了減少連接查詢.

2.1.7 分析表,檢查表,優化表

　　分析表主要是分析表中關鍵字的分布,檢查表主要是檢查表中是否存在錯誤,優化表主要是消除刪除或更新造成的表空間浪費.

　　1、分析表: 使用 ANALYZE 關鍵字,如ANALYZE TABLE user;

 

1. Op:表示執行的操作.

2. Msg_type:信息類型,有status,info,note,warning,error.

3. Msg_text:顯示信息.

　　2、檢查表: 使用 CHECK關鍵字,如CHECK TABLE user [option]

　　option 只對MyISAM有效,共五個參數值:

• QUICK:不掃描行,不檢查錯誤的連接.
• FAST:只檢查沒有正確關閉的表.
• CHANGED:只檢查上次檢查后被更改的表和沒被正確關閉的表.
• MEDIUM:掃描行,以驗證被刪除的連接是有效的,也可以計算各行關鍵字校驗和.
• EXTENDED:最全面的的檢查,對每行關鍵字全面查找.

　　3、優化表:使用OPTIMIZE關鍵字,如OPTIMIZE [LOCAL|NO_WRITE_TO_BINLOG] TABLE user;

　　LOCAL|NO_WRITE_TO_BINLOG都是表示不寫入日志.,優化表只對VARCHAR,BLOB和TEXT有效,通過OPTIMIZE TABLE語句可以消除文件碎片,在執行過程中會加上只讀鎖.

2.2 硬優化

2.2.1 硬件三件套

　　1、配置多核心和頻率高的cpu,多核心可以執行多個線程.

　　2、配置大內存,提高內存,即可提高緩存區容量,因此能減少磁盤I/O時間,從而提高響應速度.

　　3、配置高速磁盤或合理分布磁盤:高速磁盤提高I/O,分布磁盤能提高並行操作的能力.

2.2.2 優化數據庫參數

　　優化數據庫參數可以提高資源利用率,從而提高MySQL服務器性能.MySQL服務的配置參數都在my.cnf或my.ini,下面列出性能影響較大的幾個參數.

• key_buffer_size:索引緩沖區大小

• table_cache:能同時打開表的個數

• query_cache_size和query_cache_type:前者是查詢緩沖區大小,后者是前面參數的開關,0表示不使用緩沖區,1表示使用緩沖區,但可以在查詢中使用SQL_NO_CACHE表示不要使用緩沖區,2表示在查詢中明確指出使用緩沖區才用緩沖區,即SQL_CACHE.

• sort_buffer_size:排序緩沖區

傳送門:更多參數

https://www.mysql.com/cn/why-mysql/performance/index.html

2.2.3 分庫分表

因為數據庫壓力過大，首先一個問題就是高峰期系統性能可能會降低，因為數據庫負載過高對性能會有影響。另外一個，壓力過大把你的數據庫給搞掛了怎么辦？所以此時你必須得對系統做分庫分表 + 讀寫分離，也就是把一個庫拆分為多個庫，部署在多個數據庫服務上，這時作為主庫承載寫入請求。然后每個主庫都掛載至少一個從庫，由從庫來承載讀請求。

2.2.4 緩存集群

　　如果用戶量越來越大，此時你可以不停的加機器，比如說系統層面不停加機器，就可以承載更高的並發請求。然后數據庫層面如果寫入並發越來越高，就擴容加數據庫服務器，通過分庫分表是可以支持擴容機器的，如果數據庫層面的讀並發越來越高，就擴容加更多的從庫。但是這里有一個很大的問題：數據庫其實本身不是用來承載高並發請求的，所以通常來說，數據庫單機每秒承載的並發就在幾千的數量級，而且數據庫使用的機器都是比較高配置，比較昂貴的機器，成本很高。如果你就是簡單的不停的加機器，其實是不對的。所以在高並發架構里通常都有緩存這個環節，緩存系統的設計就是為了承載高並發而生。所以單機承載的並發量都在每秒幾萬，甚至每秒數十萬，對高並發的承載能力比數據庫系統要高出一到兩個數量級。所以你完全可以根據系統的業務特性，對那種寫少讀多的請求，引入緩存集群。具體來說，就是在寫數據庫的時候同時寫一份數據到緩存集群里，然后用緩存集群來承載大部分的讀請求。這樣的話，通過緩存集群，就可以用更少的機器資源承載更高的並發。

結語

　　一個完整而復雜的高並發系統架構中，一定會包含：各種復雜的自研基礎架構系統。各種精妙的架構設計.因此一篇小文頂多具有拋磚引玉的效果,但是數據庫優化的思想差不多就這些了.