MySQL中的兩種臨時表

外部臨時表

通過 CREATE TEMPORARY TABLE 創建的臨時表，這種臨時表稱為外部臨時表。這種臨時表只對當前用戶可見，當前會話結束的時候，該臨時表會自動關閉。這種臨時表的命名與非臨時表可以同名（同名后非臨時表將對當前會話不可見，直到臨時表被刪除）。

內部臨時表

MySQL內部臨時表是一種特殊輕量級的臨時表，用來進行性能優化。這種臨時表會被MySQL自動創建並用來存儲某些操作的中間結果。這些操作可能包括在優化階段或者執行階段。這種內部表對用戶來說是不可見的，但是通過EXPLAIN或者SHOW STATUS可以查看MYSQL是否使用了內部臨時表用來幫助完成某個操作。內部臨時表在SQL語句的優化過程中扮演着非常重要的角色， MySQL中的很多操作都要依賴於內部臨時表來進行優化。但是使用內部臨時表需要創建表以及中間數據的存取代價，所以用戶在寫SQL語句的時候應該盡量的去避免使用臨時表。

內部臨時表有兩種類型：一種是HEAP臨時表，這種臨時表的所有數據都會存在內存中，對於這種表的操作不需要IO操作。另一種是OnDisk臨時表，顧名思義，這種臨時表會將數據存儲在磁盤上。OnDisk臨時表用來處理中間結果比較大的操作。如果HEAP臨時表存儲的數據大於MAX_HEAP_TABLE_SIZE（詳情請參考MySQL手冊中系統變量部分），HEAP臨時表將會被自動轉換成OnDisk臨時表。OnDisk臨時表在5.7中可以通過INTERNAL_TMP_DISK_STORAGE_ENGINE系統變量選擇使用MyISAM引擎或者InnoDB引擎。

本篇文章主要介紹哪些操作可能會利用到內部臨時表。如果用戶在書寫SQL語句的時候能夠盡量少的使用內部臨時表進行查詢優化，將有效的提高查詢執行的效率。

首先我們定義一個表t1：

CREATE TABLE t1( a int, b int); 

INSERT INTO t1 VALUES(1,2),(3,4);

下面所有的操作都是基於表t1進行舉例的。

1. 在SQL語句中使用SQL_BUFFER_RESULT hint

SQL_BUFFER_RESULT主要用來讓MySQL盡早的釋放表上的鎖。因為如果數據量很大的話，需要較長時間將數據發送到客戶端，通過將數據緩沖到臨時表中可以有效的減少讀鎖對表的占用時間。

例如：

mysql> explain format=json select SQL_BUFFER_RESULT * from t1;
EXPLAIN{
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "1.40"
    },
    "buffer_result": {
      "using_temporary_table": true,
      "table": {
        "table_name": "t1",
        "access_type": "ALL",
        "rows_examined_per_scan": 2,
        "rows_produced_per_join": 2,
        "filtered": "100.00",
        "cost_info": {
          "read_cost": "1.00",
          "eval_cost": "0.40",
          "prefix_cost": "1.40",
          "data_read_per_join": "32"
        },
        "used_columns": [
          "a",
          "b"
        ]
      }
    }
  }
} 

2. 如果SQL語句中包含了DERIVED_TABLE

在5.7中，由於采用了新的優化方式，我們需要使用 set optimizer_switch=’derived_merge=off’ 來禁止derived table合並到外層的Query中。

例如：

mysql> explain format=json select * from (select * from t1) as tt;
EXPLAIN{
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "10.50"
    },
    "table": {
      "table_name": "tt",
      "access_type": "ALL",
      "rows_examined_per_scan": 2,
      "rows_produced_per_join": 2,
      "filtered": "100.00",
      "cost_info": {
        "read_cost": "10.10",
        "eval_cost": "0.40",
        "prefix_cost": "10.50",
        "data_read_per_join": "32"
      },
      "used_columns": [
        "a",
        "b"
      ],
      "materialized_from_subquery": {
        "using_temporary_table": true,
        "dependent": false,
        "cacheable": true,
        "query_block": {
          "select_id": 2,
          "cost_info": {
            "query_cost": "1.40"
          },
　　……

3. 如果我們查詢系統表的話，系統表的數據將被存儲到內部臨時表中

我們當前不能使用EXPLAIN來查看是否讀取系統表數據需要利用到內部臨時表，但是可以通過SHOW STATUS來查看是否利用到了內部臨時表。

例如：

mysql> show status like 'CREATE%';
mysql> select * from information_schema.character_sets;      
mysql> show status like 'CREATE%';

可以看到 Created_tmp_tables 的值會在 select 之后增加 1 。

4. 如果DISTINCT語句沒有被優化掉，即DISTINCT語句被優化轉換為GROUP BY操作或者利用UNIQUE INDEX消除DISTINCT, 內部臨時表將會被使用

例如：

mysql> explain format=json select distinct a from t1;
EXPLAIN{
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "1.40"
    },
    "duplicates_removal": {
      "using_temporary_table": true,
      "using_filesort": false,
　　……

5. 如果查詢帶有ORDER BY語句，並且不能被優化掉。下面幾種情況會利用到內部臨時表緩存中間數據，然后對中間數據進行排序

1）如果連接表使用BNL（Batched Nestloop）/BKA(Batched Key Access)

• BNL默認是打開的

mysql> explain format=json select * from t1, t1 as t2 order by t1.a;
EXPLAIN {
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "7.20"
    },
    "ordering_operation": {
      "using_temporary_table": true, "using_filesort": true,
      "cost_info": {
        "sort_cost": "4.00"
      },
    ……

• 關掉BNL后，ORDER BY將直接使用 filesort

set optimizer_switch='block_nested_loop=off';
mysql> explain format=json select * from t1, t1 as t2 order by t1.a;
EXPLAIN{
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "7.20"
    },
    "ordering_operation": {
      "using_temporary_table": true, "using_filesort": true,
      "cost_info": {
        "sort_cost": "4.00"
      },
    ……

注意：這里設置了 block_nested_loop=off ，但結果與  block_nested_loop=on 。

2）ORDER BY的列不屬於執行計划中第一個連接表的列

例如：

mysql> explain format=json select * from t as t1, t as t2 order by t2.a;
EXPLAIN {
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "7.20"
    },
    "ordering_operation": {
      "using_temporary_table": true,
      "using_filesort": true,
    ……

3）如果ORDER BY的表達式是個復雜表達式

那么什么樣的ORDER BY表達式，MySQL認為是復雜表達式呢？

• 如果排序表達式是SP或者UDF

例如：

mysql> delimiter //  
mysql> create function func1(x int)  
    -> returns int deterministic  
    -> begin  
    -> declare z1, z2 int;  
    -> set z1 = x;  
    -> set z2 = z1+2;  
    -> return z2;  
    -> end//
Query OK, 0 rows affected (0.07 sec)

mysql> delimiter ; 
mysql> explain format=json select * from t1 order by func1(a);
EXPLAIN {
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "3.40"
    },
    "ordering_operation": {
      "using_temporary_table": true,
      "using_filesort": true,
    ……

• ORDER BY的列包含聚集函數

為了簡化執行計划，我們利用INDEX來優化GROUP BY語句。

例如：

mysql> show index from t1;
mysql> explain format=json SELECt a FROM t1 group by a order by sum(a);
EXPLAIN {
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "1.40"
    },
    "ordering_operation": {
      "using_temporary_table": true,
      "using_filesort": true,
      "grouping_operation": {
        "using_filesort": false,
    ……

• ORDER BY的列中包含有SCALAR SUBQUERY,當然該SCALAR SUBQUERY沒有被優化掉

例如：

mysql> explain format=json select (select rand() from t1 limit 1) as a from t1 order by a; 
EXPALIN {
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "1.40"
    },
    "ordering_operation": {
      "using_temporary_table": true,
      "using_filesort": true,
    ……

4) 如果查詢既帶有ORDER BY同時也有GROUP BY語句，但是兩個語句使用的列不相同

注意：如果是5.7，我們需要將sql_mode設置為非 only_full_group_by 模式，否則會報錯。

同樣為了簡化執行計划，我們利用INDEX來優化GROUP BY語句。

例如：

mysql> set sql_mode='';
mysql> create index idx1 on t1(b)；
mysql> explain format=json select t1.a from t1 group by t1.b order by 1;
EXPLAIN {
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "1.40"
    },
    "ordering_operation": {
      "using_temporary_table": true,
      "using_filesort": true,
      "grouping_operation": {
        "using_filesort": false,
    ……

6. 如果查詢帶有GROUP BY語句，並且不能被優化掉。下面幾種情況會利用到內部臨時表緩存中間數據，然后對中間數據進行GROUP BY

1）如果連接表使用BNL（Batched Nestloop）/BKA(Batched Key Access)

例如：

mysql> explain format=json select t2.a from t1, t1 as t2 group by t1.a;
EXPLAIN {
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "7.20"
    },
    "grouping_operation": {
      "using_temporary_table": true,
      "using_filesort": true,
      "cost_info": {
        "sort_cost": "4.00"
      },
    ……

2) 如果GROUP BY的列不屬於執行計划中的第一個連接表

例如：

mysql> explain format=json select t2.a from t1, t1 as t2 group by t2.a;
EXPLAIN {
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "7.20"
    },
    "grouping_operation": {
      "using_temporary_table": true,
      "using_filesort": true,
      "cost_info": {
        "sort_cost": "4.00"
      },
      "nested_loop": [
        {
    ……

3) 如果GROUP BY語句使用的列與ORDER BY語句使用的列不同

例如：

mysql> set sql_mode='';
mysql> explain format=json select t1.a from t1 group by t1.b order by t1.a;
EXPLAIN  {
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "1.40"
    },
    "ordering_operation": {
      "using_filesort": true,
      "grouping_operation": {
        "using_temporary_table": true,
        "using_filesort": false,
    ……

4) 如果GROUP BY帶有ROLLUP並且是基於多表外連接

例如：

mysql> explain format=json select sum(t1.a) from t1 left join t1 as t2 on true group by t1.a with rollup;
EXPLAIN {
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "7.20"
    },
    "grouping_operation": {
      "using_temporary_table": true,
      "using_filesort": true,
      "cost_info": {
        "sort_cost": "4.00"
      },
    ……

5) 如果GROUP BY語句使用的列來自於SCALAR SUBQUERY，並且沒有被優化掉

例如：

mysql> explain format=json select (select avg(a) from t1) as a from t1 group by a;
EXPLAIN {
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "3.40"
    },
    "grouping_operation": {
      "using_temporary_table": true,
      "using_filesort": true,
      "cost_info": {
        "sort_cost": "2.00"
      },
    ……

7. IN表達式轉換為semi-join進行優化

1) 如果semi-join執行方式為Materialization

例如：

mysql> set optimizer_switch='firstmatch=off,duplicateweedout=off';
EXPLAIN  {
  "query_block": {
    "select_id": 1,
    "cost_info": {
      "query_cost": "5.60"
    },
    ……
    "materialized_from_subquery": {
            "using_temporary_table": true,
　　……

2) 如果semi-join執行方式為Duplicate Weedout

例如：

mysql> set optimizer_switch='firstmatch=off';
mysql> explain format=json select * from t1 where a in (select b from t1);
EXPLAIN {
    ……
     "materialized_from_subquery": {
            "using_temporary_table": true,
            "query_block": {
    ……

8. 如果查詢語句帶有UNION，MySQL將利用內部臨時表幫助UNION操作消除重復

例如：

mysql> explain format=json select * from t1 union select * from t1;
EXPLAIN {
  "query_block": {
    "union_result": {
      "using_temporary_table": true,
      "table_name": "<union1,2>",
      "access_type": "ALL",
    ……

9. 如果查詢語句使用多表更新。這里Explain不能看到內部臨時表被利用，所以需要查看status

例如：

mysql> show status like 'CREATE%';
mysql> update t1, t1 as t2 set t1.a=3;
mysql> show status like 'CREATE%';

10. 如果聚集函數中包含如下函數，內部臨時表也會被利用

1) count(distinct *)  

例如：      

explain format=json select count(distinct a) from t1;  

2) group_concat

例如：

explain format=json select group_concat(b) from t1;

 

總之，上面列出了10種情況，MySQL將利用內部臨時表進行中間結果緩存，如果數據量比較大的話，內部臨時表將會把數據存儲在磁盤上，這樣顯然會對性能有所影響。為了盡可能的減少性能損失，我們需要盡量避免上述情況的出現。

 

本文摘自：阿里雲數據庫內核組講解MySQL中的兩種臨時表