06: mysql索引查找原理及調優

目錄

1.1 常見查找方法舉例
1.2 索引數據結構設相關的計算機原理
1.3 MyISAM實現索引
1.4 InnoDB索引實現
1.5 索引使用策略

1.1 常見查找方法舉例

1、順序查找（linear search ）

1. 最基本的查詢算法當然是順序查找（linear search），也就是對比每個元素的方法，不過這種算法在數據量很大時效率是極低的。

2. 數據結構：有序或無序隊列

3. 復雜度：O(n)

2、二分查找

1. 從數組的中間元素開始，如果中間元素正好是要查找的元素，則搜素過程結束；

2. 如果某一特定元素大於或者小於中間元素，則在數組大於或小於中間元素的那一半中查找，而且根開始一樣從中間元素開始比較。

3. 如果在某一步驟數組為空，則代表找不到。

4. 數據結構：有序數組

5. 復雜度：O(logn)

3、二叉排序樹查找

        1）二叉排序樹的特點是：

　　　　　　　　1. 若它的左子樹不空，則左子樹上所有結點的值均小於它的根結點的值；

　　　　　　　　2. 若它的右子樹不空，則右子樹上所有結點的值均大於它的根結點的值；

　　　　　　　　3. 它的左、右子樹也分別為二叉排序樹。

　　　　2）搜索的原理：

　　　　　　　　若b是空樹，則搜索失敗，否則：
　　　　　　　　若x等於b的根節點的數據域之值，則查找成功；否則：
　　　　　　　　若x小於b的根節點的數據域之值，則搜索左子樹；否則：
　　　　　　　　查找右子樹。

　　　　　　　　數據結構：二叉排序樹

　　　　　　　　時間復雜度： O(log2N)

4、哈希散列法(哈希表)

1. 其原理是首先根據key值和哈希函數創建一個哈希表（散列表），燃耗根據鍵值，通過散列函數，定位數據元素位置。

2. 數據結構：哈希表

3. 時間復雜度：幾乎是O(1)，取決於產生沖突的多少。

1.2 索引數據結構設相關的計算機原理

1、計算機主存和外部存 介紹

        1. 在計算機系統中一般包含兩種類型的存儲，計算機主存（RAM）和外部存儲器（如硬盤、CD、SSD等）。

        2. 在設計索引算法和存儲結構時，我們必須要考慮到這兩種類型的存儲特點。

        3. 主存的讀取速度快，相對於主存，外部磁盤的數據讀取速率要比主從慢好幾個數量級，具體它們之間的差別后面會詳細介紹。

        4. 上面講的所有查詢算法都是假設數據存儲在計算機主存中的，計算機主存一般比較小，實際數據庫中數據都是存儲到外部存儲器的。

2、如何評價索引性能

        1. 一般來說，索引本身也很大，不可能全部存儲在內存中，因此索引往往以索引文件的形式存儲的磁盤上。

        2. 這樣的話，索引查找過程中就要產生磁盤I/O消耗，相對於內存存取，I/O存取的消耗要高幾個數量級。

        3. 所以評價一個數據結構作為索引的優劣最重要的指標就是在查找過程中磁盤I/O操作次數的漸進復雜度。

        4. 換句話說，索引的結構組織要盡量減少查找過程中磁盤I/O的存取次數。

3、主存存取原理

        注：這里本文拋卻具體差別，抽象出一個十分簡單的存取模型來說明RAM的工作原理

        1. 從抽象角度看，主存是一系列的存儲單元組成的矩陣，每個存儲單元存儲固定大小的數據。

        2. 每個存儲單元有唯一的地址，現代主存的編址規則比較復雜，這里將其簡化成一個二維地址。

        3. 通過一個行地址和一個列地址可以唯一定位到一個存儲單元。

　　　　如圖展示了一個4 x 4的主存模型：
        ![](https://img2018.cnblogs.com/blog/1844658/202001/1844658-20200108225217163-2084602286.png)


　　　　　　

        主存的存取過程如下：
            1）當系統需要讀取主存時，則將地址信號放到地址總線上傳給主存，主存讀到地址信號后，
　　　　　　　　　　解析信號並定位到指定存儲單元，然后將此存儲單元數據放到數據總線上，供其它部件讀取。

            2）寫主存的過程類似，系統將要寫入單元地址和數據分別放在地址總線和數據總線上，主存讀取兩個總線的內容，做相應的寫操作。

            3）這里可以看出，主存存取的時間僅與存取次數呈線性關系，因為不存在機械操作，兩次存取的數據的“距離”不會對時間有任何影響

            4）例如，先取A0再取A1和先取A0再取D3的時間消耗是一樣的。

4、磁盤存取原理

           1. 索引一般以文件形式存儲在磁盤上，索引檢索需要磁盤I/O操作。

　　　　　　2. 與主存不同，磁盤I/O存在機械運動耗費，因此磁盤I/O的時間消耗是巨大的。

　　　　　　3. 磁盤讀取數據靠的是機械運動，當需要從磁盤讀取數據時，系統會將數據邏輯地址傳給磁盤。

　　　　　　4. 磁盤的控制電路按照尋址邏輯將邏輯地址翻譯成物理地址，即確定要讀的數據在哪個磁道，哪個扇區。

　　　　　　5. 為了讀取這個扇區的數據，需要將磁頭放到這個扇區上方，為了實現這一點，磁頭需要移動對准相應磁道，這個過程叫做尋道。

　　　　　　6. 所耗費時間叫做尋道時間，然后磁盤旋轉將目標扇區旋轉到磁頭下，這個過程耗費的時間叫做旋轉時間，最后便是對讀取數據的傳輸。

　　　　　　7. 所以每次讀取數據花費的時間可以分為 尋道時間、旋轉延遲、傳輸時間 三個部分。

　　　　　　　　1）尋道時間是磁臂移動到指定磁道所需要的時間，主流磁盤一般在5ms以下。
　　　　　　　　2）旋轉延遲就是我們經常聽說的磁盤轉速，比如一個磁盤7200轉，表示每分鍾能轉7200次，也就是說1秒鍾能轉120次，旋轉延遲就是1/120/2 = 4.17ms。
　　　　　　　　3）傳輸時間指的是從磁盤讀出或將數據寫入磁盤的時間，一般在零點幾毫秒，相對於前兩個時間可以忽略不計。

　　　　　　8. I/O操作巨大問題

　　　　　　　　1）那么訪問一次磁盤的時間，即一次磁盤IO的時間約等於5+4.17 = 9ms左右
　　　　　　　　2）聽起來還挺不錯的，但要知道一台500 -MIPS的機器每秒可以執行5億條指令
　　　　　　　　3）因為指令依靠的是電的性質，換句話說執行一次IO的時間可以執行40萬條指令
　　　　　　　　4）數據庫動輒十萬百萬乃至千萬級數據，每次9毫秒的時間，顯然是個災難。

5、磁盤預讀

           因此為了提高效率，要盡量減少磁盤I/O，為了達到這個目的，磁盤往往不是嚴格按需讀取，而是每次都會預讀。

　　　　　　即使只需要一個字節，磁盤也會從這個位置開始，順序向后讀取一定長度的數據放入內存。

　　　　　　這樣做的理論依據是計算機科學中著名的局部性原理：當一個數據被用到時，其附近的數據也通常會馬上被使用。

　　　　　　預讀的長度一般為頁（page）的整倍數。

　　　　　　頁是計算機管理存儲器的邏輯塊，硬件及操作系統往往將主存和磁盤存儲區分割為連續的大小相等的塊

　　　　　　每個存儲塊稱為一頁（在許多操作系統中，頁得大小通常為4k），主存和磁盤以頁為單位交換數據。

　　　　　　當程序要讀取的數據不在主存中時，會觸發一個缺頁異常，此時系統會向磁盤發出讀盤信號

　　　　　　磁盤會找到數據的起始位置並向后連續讀取一頁或幾頁載入內存中，然后異常返回，程序繼續運行。

6、B-Tree/B+Tree存儲結構

           1. 到這里終於可以分析為何數據庫索引采用B-/+Tree存儲結構了。

　　　　　　2. 上文說過數據庫索引是存儲到磁盤的而我們又一般以使用磁盤I/O次數來評價索引結構的優劣。

　　　　　　3. 先從B-Tree分析，根據B-Tree的定義，可知檢索一次最多需要訪問h-1個節點（根節點常駐內存）。

　　　　　　4. 數據庫系統的設計者巧妙利用了磁盤預讀原理，將一個節點的大小設為等於一個頁，這樣每個節點只需要一次I/O就可以完全載入。

　　　　　　5. 為了達到這個目的，在實際實現B-Tree還需要使用如下技巧：

　　　　　　　　　　1） 每次新建節點時，直接申請一個頁的空間，這樣就保證一個節點物理上也存儲在一個頁里，
　　　　　　　　　　2）加之計算機存儲分配都是按頁對齊的，就實現了一個node只需一次I/O。

1.3 MyISAM實現索引

1、MyISAM實現索引 介紹

        1. MyISAM引擎使用B+Tree作為索引結構，葉節點的data域存放的是數據記錄的地址。

        2. MyISAM中索引檢索的算法為首先按照B+Tree搜索算法搜索索引。

        3. 如果指定的Key存在，則取出其data域的值，然后以data域的值為地址，讀取相應數據記錄。

        4. MyISAM的索引方式也叫做“非聚集”的，之所以這么稱呼是為了與InnoDB的聚集索引區分。

*2、MyISAM索引的原理圖

• 1. 這里設表一共有三列，假設我們以Col1為主鍵，則上圖是一個MyISAM表的主索引（Primary key）示意。
• 2. 可以看出MyISAM的索引文件僅僅保存數據記錄的地址。
     

1.4 InnoDB索引實現

注：雖然InnoDB也使用B+Tree作為索引結構，但具體實現方式卻與MyISAM截然不同。

　　1、區別1：InnoDB的數據文件本身就是索引文件

　　　　　　1. 從上文知道，MyISAM索引文件和數據文件是分離的，索引文件僅保存數據記錄的地址。

　　　　　　2. 而在InnoDB中，表數據文件本身就是按B+Tree組織的一個索引結構，這棵樹的葉節點data域保存了完整的數據記錄。

　　　　　　3. 這個索引的key是數據表的主鍵，因此InnoDB表數據文件本身就是主索引。

說明：

　　　　　　　　可以看到葉節點包含了完整的數據記錄，這種索引叫做聚集索引。

　　　　　　　　因為InnoDB的數據文件本身要按主鍵聚集，所以InnoDB要求表必須有主鍵（MyISAM可以沒有）

　　　　　　　　如果沒有顯式指定，則MySQL系統會自動選擇一個可以唯一標識數據記錄的列作為主鍵

　　　　　　　　如果不存在這種列，則MySQL自動為InnoDB表生成一個隱含字段作為主鍵，這個字段長度為6個字節，類型為長整形。

　　2、區別2：InnoDB的輔助索引data域存儲相應記錄主鍵的值而不是地址

　　　　　　1. 換句話說，InnoDB的所有輔助索引都引用主鍵作為data域。

　　　　　　2. 這里以英文字符的ASCII碼作為比較准則。

　　　　　　3. 聚集索引這種實現方式使得按主鍵的搜索十分高效，但是輔助索引搜索需要檢索兩遍索引

　　　　　　4. 首先檢索輔助索引獲得主鍵，然后用主鍵到主索引中檢索獲得記錄。

　　3、為什么不建議使用過長的字段作為主鍵

　　　　　　1. 例如知道了InnoDB的索引實現后，就很容易明白為什么不建議使用過長的字段作為主鍵

　　　　　　2. 因為所有輔助索引都引用主索引，過長的主索引會令輔助索引變得過大。

　　　　　　3. 再例如，用非單調的字段作為主鍵在InnoDB中不是個好主意，因為InnoDB數據文件本身是一顆B+Tree，

　　　　　　4. 非單調的主鍵會造成在插入新記錄時數據文件為了維持B+Tree的特性而頻繁的分裂調整，十分低效，而使用自增字段作為主鍵則是一個很好的選擇。

1.5 索引使用策略

1、聯合索引（復合索引）

　　　　　　1. 聯合索引其實很簡單，相對於一般索引只有一個字段，聯合索引可以為多個字段創建一個索引

　　　　　　2. 它的原理也很簡單，比如，我們在（a,b,c）字段上創建一個聯合索引，則索引記錄會首先按照A字段排序，然后再按照B字段排序然后再是C字段

　　　　　　3. 其實聯合索引的查找就跟查字典是一樣的，先根據第一個字母查，然后再根據第二個字母查

　　　　　　4. 或者只根據第一個字母查，但是不能跳過第一個字母從第二個字母開始查。這就是所謂的最左前綴原理。

　　　　　　5. 聯合索引的特點就是：

　　　　　　　　1）第一個字段一定是有序的
　　　　　　　　2）當第一個字段值相等的時候，第二個字段又是有序的，比如下表中當A=2時所有B的值是有序排列的，依次類推，當同一個B值得所有C字段是有序排列的

'''最左前綴原理'''

#### 1、以下的查詢方式都可以用到索引
'''
select * from table where a=1；
select * from table where a=1 and b=2；
select * from table where a=1 and b=2 and c=3；
上面三個查詢按照 （a ）, （a，b ）,（a，b，c ）的順序都可以利用到索引，這就是最左前綴匹配。
'''

#### 2、如果查詢語句是：
'''
select * from table where a=1 and c=3； 那么只會用到索引a。
'''

#### 3、這樣不會用的索引
'''
select * from table where b=2 and c=3； 因為沒有用到最左前綴a，所以這個查詢是用戶到索引的。
'''

2、前綴索引

　　　　　　1. 前綴索引就是用列的前綴代替整個列作為索引key，當前綴長度合適時，可以做到既使得前綴索引的選擇性接近全列索引

　　　　　　2. 同時因為索引key變短而減少了索引文件的大小和維護開銷。

　　　　　　3. 一般來說以下情況可以使用前綴索引：

　　　　　　　　1）字符串列(varchar,char,text等)，需要進行全字段匹配或者前匹配。也就是=‘xxx’ 或者 like ‘xxx%’
　　　　　　　　2）字符串本身可能比較長，而且前幾個字符就開始不相同。（比如：收件地址、外國人的姓名）

　　　　　　4. MySQL 前綴索引能有效減小索引文件的大小，提高索引的速度。

　　　　　　5. 但是前綴索引也有它的壞處：MySQL 不能在 ORDER BY 或 GROUP BY 中使用前綴索引，也不能把它們用作覆蓋索引(Covering Index)。

3、索引優化策略

說明：MySQL的優化主要分為結構優化（Scheme optimization）和查詢優化（Query optimization）。

# 1、最左前綴匹配原則，上面講到了
# 2、主鍵外鍵一定要建索引
# 3、對 where,on,group by,order by 中出現的列使用索引
# 4、盡量選擇區分度高的列作為索引,區分度的公式是count(distinct col)/count(*)，表示字段不重復的比例，
# 5、為較長的字符串使用前綴索引

'''
# 6、不要過多創建索引, 權衡索引個數與DML之間關系，DML也就是插入、刪除數據操作。
    這里需要權衡一個問題，建立索引的目的是為了提高查詢效率的，但建立的索引過多，
    會影響插入、刪除數據的速度，因為我們修改的表數據，索引也需要進行調整重建
'''

'''
# 7、對於like查詢，”%”不要放在前面。
    SELECT * FROMhoudunwangWHEREunameLIKE'后盾%' -- 走索引 
    SELECT * FROMhoudunwangWHEREunameLIKE "%后盾%" -- 不走索引
'''

'''
# 8、查詢where條件數據類型不匹配也無法使用索引 
    字符串與數字比較不使用索引; 
    CREATE TABLEa(achar(10)); 
    EXPLAIN SELECT * FROMaWHEREa="1" – 走索引 
    EXPLAIN SELECT * FROM a WHERE a=1 – 不走索引 
    正則表達式不使用索引,這應該很好理解,所以為什么在SQL中很難看到regexp關鍵字的原因
'''

建索引原則

建索引原則：

1.最左前綴匹配原則，非常重要的原則，mysql會一直向右匹配直到遇到范圍查詢(>、<、between、like)就停止匹配，
比如a = 1 and b = 2 and c > 3 and d = 4 如果建立(a,b,c,d)順序的索引，d是用不到索引的，
如果建立(a,b,d,c)的索引則都可以用到，a,b,d的順序可以任意調整。

2.=和in可以亂序，比如a = 1 and b = 2 and c = 3 建立(a,b,c)索引可以任意順序，
mysql的查詢優化器會幫你優化成索引可以識別的形式

3.盡量選擇區分度高的列作為索引,區分度的公式是count(distinct col)/count(*)，表示字段不重復的比例，
比例越大我們掃描的記錄數越少，唯一鍵的區分度是1，而一些狀態、性別字段可能在大數據面前區分度就是0，
那可能有人會問，這個比例有什么經驗值嗎？使用場景不同，這個值也很難確定，
一般需要join的字段我們都要求是0.1以上，即平均1條掃描10條記錄

4.索引列不能參與計算，保持列“干凈”，比如from_unixtime(create_time) = ’2014-05-29’就不能使用到索引，
原因很簡單，b+樹中存的都是數據表中的字段值，但進行檢索時，需要把所有元素都應用函數才能比較，
顯然成本太大。所以語句應該寫成create_time = unix_timestamp(’2014-05-29’);

5.盡量的擴展索引，不要新建索引。比如表中已經有a的索引，現在要加(a,b)的索引，那么只需要修改原來的索引即可