一條SQL語句的執行過程

1、MySQL基本結構分析

 

1.1 、基本框架

下圖是 MySQL 的一個簡要架構圖，從下圖你可以很清晰的看到用戶的 SQL 語句在 MySQL 內部是如何執行的。

如上圖所示，MySQL服務器邏輯架構從上往下可以分為三層：

(1)第一層：處理客戶端連接、授權認證等。

(2)第二層：服務器層，負責查詢語句的解析、優化、緩存以及內置函數的實現、存儲過程等。

(3)第三層：存儲引擎，負責MySQL中數據的存儲和提取。MySQL中服務器層不管理事務，事務是由存儲引擎實現的。MySQL支持事務的存儲引擎有InnoDB、NDB Cluster等，其中InnoDB的使用最為廣泛；其他存儲引擎不支持事務，如MyIsam、Memory等。

其中：

• 連接器： 身份認證和權限相關(登錄 MySQL 的時候)。
• 查詢緩存: 執行查詢語句的時候，會先查詢緩存（MySQL 8.0 版本后移除，因為這個功能不太實用）。
• 分析器：沒有命中緩存的話，SQL 語句就會經過分析器，分析器說白了就是要先看你的 SQL 語句要干嘛，再檢查你的 SQL 語句語法是否正確。
• 優化器：按照 MySQL 認為最優的方案去執行。
• 執行器：執行語句，然后從存儲引擎返回數據。

很明顯，最重要的是分析器，優化器和執行器。

MySQL 主要分為 Server 層和存儲引擎層：

• Server 層：主要包括連接器、查詢緩存、分析器、優化器、執行器等，所有跨存儲引擎的功能都在這一層實現，比如存儲過程、觸發器、視圖，函數等，還有一個通用的日志模塊 binlog 日志模塊。
• 存儲引擎： 主要負責數據的存儲和讀取，采用可以替換的插件式架構，支持 InnoDB、MyISAM、Memory 等多個存儲引擎，其中 InnoDB 引擎自有的日志模塊 redolog（重做日志） 模塊。現在最常用的存儲引擎是 InnoDB，它從 MySQL 5.5.5 版本開始就被當做默認存儲引擎了。InnoDB的整體架構分為兩個部分：內存架構和磁盤架構:

 

1.2 Server 層基本組件介紹

1) 連接器

連接器主要和身份認證和權限相關的功能相關，就好比一個級別很高的門衛一樣。主要負責用戶登錄數據庫，進行用戶的身份認證，包括校驗賬戶密碼，權限等操作，如果用戶賬戶密碼已通過，連接器會到權限表中查詢該用戶的所有權限，之后在這個連接里的權限邏輯判斷都是會依賴此時讀取到的權限數據，也就是說，后續只要這個連接不斷開，即時管理員修改了該用戶的權限，該用戶也是不受影響的。

2) 查詢緩存(MySQL 8.0 版本后移除)

查詢緩存主要用來緩存我們所執行的 SELECT 語句以及該語句的結果集。連接建立后，執行查詢語句的時候，會先查詢緩存，MySQL 會先校驗這個 sql 是否執行過，以 Key-Value 的形式緩存在內存中，Key 是查詢預計，Value 是結果集。如果緩存 key 被命中，就會直接返回給客戶端，如果沒有命中，就會執行后續的操作，完成后也會把結果緩存起來，方便下一次調用。當然在真正執行緩存查詢的時候還是會校驗用戶的權限，是否有該表的查詢條件。

MySQL 查詢不建議使用緩存，因為查詢緩存失效在實際業務場景中可能會非常頻繁，假如你對一個表更新的話，這個表上的所有的查詢緩存都會被清空。對於不經常更新的數據來說，使用緩存還是可以的。

所以，一般在大多數情況下我們都是不推薦去使用查詢緩存的。MySQL 8.0 版本后刪除了緩存的功能，官方也是認為該功能在實際的應用場景比較少，所以干脆直接刪掉了。

3) 分析器

MySQL 沒有命中緩存，那么就會進入分析器，分析器主要是用來分析 SQL 語句是來干嘛的，分析器也會分為幾步：

第一步，詞法分 析，一條 SQL 語句有多個字符串組成，首先要提取關鍵字，比如 select，提出查詢的表，提出字段名，提出查詢條件等等。做完這些操作后，就會進入第二步。

第二步，語法分析，主要就是判斷你輸入的 sql 是否正確，是否符合 MySQL 的語法。

完成這 2 步之后，MySQL 就准備開始執行了，但是如何執行，怎么執行是最好的結果呢？這個時候就需要優化器上場了。

4) 優化器

優化器的作用就是它認為的最優的執行方案去執行（有時候可能也不是最優，這篇文章涉及對這部分知識的深入講解），比如多個索引的時候該如何選擇索引，多表查詢的時候如何選擇關聯順序等。

可以說，經過了優化器之后可以說這個語句具體該如何執行就已經定下來。

5) 執行器

當選擇了執行方案后，MySQL 就准備開始執行了，首先執行前會校驗該用戶有沒有權限，如果沒有權限，就會返回錯誤信息，如果有權限，就會去調用引擎的接口，返回接口執行的結果。

 

2 語句分析

 

2.1 查詢語句

說了以上這么多，那么究竟一條 sql 語句是如何執行的呢？其實我們的 sql 可以分為兩種，一種是查詢，一種是更新（增加，更新，刪除）。我們先分析下查詢語句，語句如下：

select * from tb_student A where A.age='18' and A.name=' 張三 ';

結合上面的說明，我們分析下這個語句的執行流程：

• 先檢查該語句是否有權限，如果沒有權限，直接返回錯誤信息，如果有權限，在 MySQL8.0 版本以前，會先查詢緩存，以這條 sql 語句為 key 在內存中查詢是否有結果，如果有直接緩存，如果沒有，執行下一步。
• 通過分析器進行詞法分析，提取 sql 語句的關鍵元素，比如提取上面這個語句是查詢 select，提取需要查詢的表名為 tb_student,需要查詢所有的列，查詢條件是這個表的 id='1'。然后判斷這個 sql 語句是否有語法錯誤，比如關鍵詞是否正確等等，如果檢查沒問題就執行下一步。
• 接下來就是優化器進行確定執行方案，上面的 sql 語句，可以有兩種執行方案：
  a.先查詢學生表中姓名為“張三”的學生，然后判斷是否年齡是 18。

  b.先找出學生中年齡 18 歲的學生，然后再查詢姓名為“張三”的學生。
  那么優化器根據自己的優化算法進行選擇執行效率最好的一個方案（優化器認為，有時候不一定最好）。那么確認了執行計划后就准備開始執行了。
• 進行權限校驗，如果沒有權限就會返回錯誤信息，如果有權限就會調用數據庫引擎接口，返回引擎的執行結果。

2.2 更新語句

以上就是一條查詢 sql 的執行流程，那么接下來我們看看一條更新語句如何執行的呢？sql 語句如下：

update tb_student A set A.age='19' where A.name=' 張三 ';

我們來給張三修改下年齡，其實條語句也基本上會沿着上一個查詢的流程走，只不過執行更新的時候肯定要記錄日志啦，這就會引入日志模塊了，MySQL 自帶的日志模塊式 binlog（歸檔日志，在Server層） ，所有的存儲引擎都可以使用，我們常用的 InnoDB 引擎還自帶了一個日志模塊 redo log（重做日志），我們就以 InnoDB 模式下來探討這個語句的執行流程。流程如下：

• 先查詢到張三這一條數據，如果有緩存，也是會用到緩存。
• 然后拿到查詢的語句，把 age 改為 19，然后調用引擎 API 接口，寫入這一行數據，InnoDB 引擎把數據保存在內存中，同時記錄 redo log，此時 redo log 進入 prepare 狀態，然后告訴執行器，執行完成了，隨時可以提交。
• 執行器收到通知后記錄 binlog，然后調用引擎接口，提交 redo log 為提交狀態。
• 更新完成。

這里肯定有同學會問，為什么要用兩個日志模塊，用一個日志模塊不行嗎?

這是因為最開始 MySQL 並沒有 InnoDB 引擎( InnoDB 引擎是其他公司以插件形式插入 MySQL 的) ，MySQL 自帶的引擎是 MyISAM，但是我們知道 redo log 是 InnoDB 引擎特有的，其他存儲引擎都沒有，這就導致會沒有 crash-safe 的能力(crash-safe 的能力即使數據庫發生異常重啟，之前提交的記錄都不會丟失)，binlog 日志只能用來歸檔。

並不是說只用一個日志模塊不可以，只是 InnoDB 引擎就是通過 redo log 來支持事務的。那么，又會有同學問，我用兩個日志模塊，但是不要這么復雜行不行，為什么 redo log 要引入 prepare 預提交狀態？這里我們用反證法來說明下為什么要這么做？

• 先寫 redo log 直接提交，然后寫 binlog，假設寫完 redo log 后，機器掛了，binlog 日志沒有被寫入，那么機器重啟后，這台機器會通過 redo log 恢復數據，但是這個時候 bingog 並沒有記錄該數據，后續進行機器備份的時候，就會丟失這一條數據，同時主從同步也會丟失這一條數據。
• 先寫 binlog，然后寫 redo log，假設寫完了 binlog，機器異常重啟了，由於沒有 redo log，本機是無法恢復這一條記錄的，但是 binlog 又有記錄，那么和上面同樣的道理，就會產生數據不一致的情況。

如果采用 redo log 兩階段提交的方式就不一樣了，寫完 binglog 后，然后再提交 redo log 就會防止出現上述的問題，從而保證了數據的一致性。那么問題來了，有沒有一個極端的情況呢？假設 redo log 處於預提交狀態，binglog 也已經寫完了，這個時候發生了異常重啟會怎么樣呢？ 這個就要依賴於 MySQL 的處理機制了，MySQL 的處理過程如下：

• 判斷 redo log 是否完整，如果判斷是完整的，就立即提交。
• 如果 redo log 只是預提交但不是 commit 狀態，這個時候就會去判斷 binlog 是否完整，如果完整就提交 redo log, 不完整就回滾事務。

這樣就解決了數據一致性的問題。

 

3、日志模塊

 

3.1、redo log

在 MySQL 中，如果每一次的更新操作都需要寫進磁盤，然后磁盤也要找到對應的那條記錄，然后再更新，整個過程 IO 成本、查找成本都很高。為了解決這個問題，MySQL 的設計者就采用了日志（redo log）來提升更新效率。

 

Redo log記錄的是新數據的備份。在事務提交前，只要將Redo Log持久化即可，不需要將數據持久化。當系統崩潰時，雖然數據沒有持久化，

但是RedoLog已經持久化。系統可以根據RedoLog的內容，將所有數據恢復到最新的狀態。

 

InnoDB有buffer pool（簡稱bp）。bp是數據庫頁面的緩存，對InnoDB的任何修改操作都會首先在bp的page上進行，然后這樣的頁面將被標記為dirty並被放到專門的flush list上，后續將由master thread或專門的刷臟線程階段性的將這些頁面寫入磁盤（disk or ssd）。這樣的好處是避免每次寫操作都操作磁盤導致大量的隨機IO，階段性的刷臟可以將多次對頁面的修改merge成一次IO操作，同時異步寫入也降低了訪問的時延。然而，如果在dirty page還未刷入磁盤時，server非正常關閉，這些修改操作將會丟失，如果寫入操作正在進行，甚至會由於損壞數據文件導致數據庫不可用。為了避免上述問題的發生，Innodb將所有對頁面的修改操作寫入一個專門的文件，並在數據庫啟動時從此文件進行恢復操作，這個文件就是redo log file。這樣的技術推遲了bp頁面的刷新，從而提升了數據庫的吞吐，有效的降低了訪問時延。帶來的問題是額外的寫redo log操作的開銷（順序IO，當然很快），以及數據庫啟動時恢復操作所需的時間。

 

日志和磁盤配合的整個過程，其實就是 MySQL 里的 WAL 技術，WAL 的全稱是 Write-Ahead Logging，它的關鍵點就是先寫日志，再寫磁盤。

具體來說，當有一條記錄需要更新的時候，InnoDB 引擎就會先把記錄寫到 redo log（redolog buffer）里面，並更新內存（buffer pool），這個時候更新就算完成了。同時，InnoDB 引擎會在適當的時候（如系統空閑時），將這個操作記錄更新到磁盤里面（刷臟頁）。

redo log 是InnoDB存儲引擎層的日志，又稱重做日志文件，redo log是循環寫的，redo log不是記錄數據頁更新之后的狀態，而是記錄這個頁做了什么改動。redo log 是固定大小的，比如可以配置為一組 4 個文件，每個文件的大小是 1GB，那么日志總共就可以記錄 4GB 的操作。從頭開始寫，寫到末尾就又回到開頭循環寫，如下圖所示。

圖中展示了一組 4 個文件的 redo log 日志，check point 是當前要擦除的位置，擦除記錄前需要先把對應的數據落盤（更新內存頁，等待刷臟頁）。write pos 到 checkpoint 之間的部分可以用來記錄新的操作，如果 write pos 和 checkpoint 相遇，說明 redolog 已滿，這個時候數據庫停止進行數據庫更新語句的執行，轉而進行 redo log 日志同步到磁盤中。checkpoint 到 write pos 之間的部分等待落盤（先更新內存頁，然后等待刷臟頁）。有了 redo log 日志，那么在數據庫進行異常重啟的時候，可以根據 redo log 日志進行恢復，也就達到了 crash-safe。

redo log 用於保證crash-safe能力。innodb_flush_log_at_trx_commit 這個參數設置成 1 的時候，表示每次事務的 redo log 都直接持久化到磁盤。這個參數建議設置成 1，這樣可以保證 MySQL 異常重啟之后數據不丟失。

 

3.2、binlog

MySQL 整體來看，其實就有兩塊：一塊是 Server 層，它主要做的是 MySQL 功能層面的事情；還有一塊是引擎層，負責存儲相關的具體事宜。redo log 是 InnoDB 引擎特有的日志，而 Server 層也有自己的日志，稱為 binlog（歸檔日志）。binlog 屬於邏輯日志，是以二進制的形式記錄的是這個語句的原始邏輯，依靠 binlog 是沒有 crash-safe 能力的。

 

binlog記錄了數據庫上的所有改變，並以二進制的形式保存在磁盤中；它可以用來查看數據庫的變更歷史、數據庫增量備份和恢復、Mysql的復制（主從數據庫的復制）。語句以“事件”的形式保存，它描述數據更改。因為有了數據更新的binlog，所以可以用於實時備份，與master/slave復制。高可用與數據恢復。

• 恢復使能夠最大可能地更新數據庫，因為二進制日志包含備份后進行的所有更新。
• 在主復制服務器上記錄所有將發送給從服務器的語句。

 

binlog有三種格式：Statement、Row以及Mixed。從安全性來看，ROW（最安全）、MIXED（不推薦）、STATEMENT（不推薦）。

 

Statement:每一條會修改數據的sql都會記錄在binlog中。在5.6.24中默認格式。

優點：不需要記錄每一行的變化，減少了binlog日志量，節約了IO，提高性能。

缺點：由於記錄的只是執行語句，為了這些語句能在slave上正確運行，因此還必須記錄每條語句在執行的時候的一些相關信息，以保證所有語句能在slave得到和在master端執行時候相同 的結果。另外mysql的復制,像一些特定函數功能，slave可與master上要保持一致會有很多相關問題。

ps：相比row能節約多少性能與日志量，這個取決於應用的SQL情況，正常同一條記錄修改或者插入row格式所產生的日志量還小於Statement產生的日志量，但是考慮到如果帶條件的update操作，以及整表刪除，alter表等操作，ROW格式會產生大量日志，因此在考慮是否使用ROW格式日志時應該跟據應用的實際情況，其所產生的日志量會增加多少，以及帶來的IO性能問題。

 

Row:5.1.5版本的MySQL才開始支持row level的復制,它不記錄sql語句上下文相關信息，僅保存哪條記錄被修改。

優點：binlog中可以不記錄執行的sql語句的上下文相關的信息，僅需要記錄那一條記錄被修改成什么了。所以rowlevel的日志內容會非常清楚的記錄下每一行數據修改的細節。而且不會出現某些特定情況下的存儲過程，或function，以及trigger的調用和觸發無法被正確復制的問題.

缺點:所有的執行的語句當記錄到日志中的時候，都將以每行記錄的修改來記錄，這樣可能會產生大量的日志內容。

ps:新版本的MySQL中對row level模式也被做了優化，並不是所有的修改都會以row level來記錄，像遇到表結構變更的時候就會以statement模式來記錄，如果sql語句確實就是update或者delete等修改數據的語句，那么還是會記錄所有行的變更。

 

Mixed:從5.1.8版本開始，MySQL提供了Mixed格式，實際上就是Statement與Row的結合。

在Mixed模式下，一般的語句修改使用statment格式保存binlog，如一些函數，statement無法完成主從復制的操作，則采用row格式保存binlog，MySQL會根據執行的每一條具體的sql語句來區分對待記錄的日志形式，也就是在Statement和Row之間選擇一種。

 

1、redo log 和 binlog 區別：

 

redo log 是 InnoDB 引擎特有的；binlog 是 MySQL 的 Server 層實現的，所有引擎都可以使用。

redo log 是物理日志，記錄的是在某個數據頁上做了什么修改；binlog 是邏輯日志，記錄的是這個語句的原始邏輯。

redo log 是循環寫的，空間固定會用完；binlog 是可以追加寫入的。追加寫是指 binlog 文件寫到一定大小后會切換到下一個，並不會覆蓋以前的日志。

 

有了對這兩個日志的概念性理解后，再來看執行器和 InnoDB 引擎在執行這個 update 語句時的內部流程。

 

UPDATE T SET c = c + 1 WHERE ID = 2;

 

1、執行器先找引擎取 ID=2 這一行。ID 是主鍵，引擎直接用樹搜索找到這一行。如果 ID=2 這一行所在的數據頁本來就在內存中，就直接返回給執行器；否則，需要先從磁盤讀入內存，然后再返回。

2、執行器拿到引擎給的行數據，把這個值加上 1，比如原來是 N，現在就是 N+1，得到新的一行數據，再調用引擎接口寫入這行新數據。

3、引擎將這行新數據更新到內存（InnoDB Buffer Pool）中，同時將這個更新操作記錄到 redo log 里面，此時 redo log 處於 prepare 狀態。然后告知執行器執行完成了，隨時可以提交事務。

4、執行器生成這個操作的 binlog，並把 binlog 寫入磁盤。

5、執行器調用引擎的提交事務接口，引擎把剛剛寫入的 redo log 改成提交（commit）狀態，更新完成。

其中將 redo log 的寫入拆成了兩個步驟：prepare 和 commit，這就是兩階段提交（2PC）。

 

2、redo log 和 binlog 是怎么關聯起來的?

redo log 和 binlog 有一個共同的數據字段，叫 XID。崩潰恢復的時候，會按順序掃描 redo log：

 

如果碰到既有 prepare、又有 commit 的 redo log，就直接提交；

如果碰到只有 parepare、而沒有 commit 的 redo log，就拿着 XID 去 binlog 找對應的事務。

 

3、MySQL 怎么知道 binlog 是完整的?

 

一個事務的 binlog 是有完整格式的：

• statement 格式的 binlog，最后會有 COMMIT
• row 格式的 binlog，最后會有一個 XID event

 

在 MySQL 5.6.2 版本以后，還引入了 binlog-checksum 參數，用來驗證 binlog 內容的正確性。對於 binlog 日志由於磁盤原因，可能會在日志中間出錯的情況，MySQL 可以通過校驗 checksum 的結果來發現。所以，MySQL 是有辦法驗證事務 binlog 的完整性的。

 

4、redo log 一般設置多大？

redo log 太小的話，會導致很快就被寫滿，然后不得不強行刷 redo log，這樣 WAL 機制的能力就發揮不出來了。

 

如果是幾個 TB 的磁盤的話，直接將 redo log 設置為 4 個文件，每個文件 1GB。

 

5、數據寫入后的最終落盤，是從 redo log 更新過來的還是從 buffer pool 更新過來的呢？

實際上，redo log 並沒有記錄數據頁的完整數據，所以它並沒有能力自己去更新磁盤數據頁，也就不存在由 redo log 更新過去數據最終落盤的情況。

• 數據頁被修改以后，跟磁盤的數據頁不一致，稱為臟頁。最終數據落盤，就是把內存中的數據頁寫盤。這個過程與 redo log 毫無關系。
• 在崩潰恢復場景中，InnoDB 如果判斷到一個數據頁可能在崩潰恢復的時候丟失了更新，就會將它讀到內存，然后讓 redo log 更新內存內容。更新完成后，內存頁變成臟頁，就回到了第一種情況的狀態，刷到磁盤。

 

5、redo log buffer 是什么？是先修改內存，還是先寫 redo log 文件？

在一個事務的更新過程中，日志是要寫多次的。比如下面這個事務：

Copy

begin;

INSERT INTO T1 VALUES ('1', '1');

INSERT INTO T2 VALUES ('1', '1');

commit;

這個事務要往兩個表中插入記錄，插入數據的過程中，生成的日志都得先保存起來，但又不能在還沒 commit 的時候就直接寫到 redo log 文件里。因此就需要 redo log buffer 出場了，它就是一塊內存，用來先存 redo 日志的。也就是說，在執行第一個 insert 的時候，數據的內存被修改了，redo log buffer 也寫入了日志。但是，真正把日志寫到 redo log 文件，是在執行 commit 語句的時候做的。

 

4、總結

• MySQL 主要分為 Server 層和引擎層，Server 層主要包括連接器、查詢緩存、分析器、優化器、執行器，同時還有一個日志模塊（binlog），這個日志模塊所有執行引擎都可以共用,redolog 只有 InnoDB 有。
• 引擎層是插件式的，目前主要包括，MyISAM,InnoDB,Memory 等。
• 查詢語句的執行流程如下：權限校驗（如果命中緩存）---》查詢緩存---》分析器---》優化器---》權限校驗---》執行器---》引擎
• 更新語句執行流程如下：分析器----》權限校驗----》執行器---》引擎---redo log(prepare 狀態---》binlog---》redo log(commit狀態)