MySQL 临时表的原理以及优化手段

亦凉 2024-04-07 12:57 126阅读 0赞

> MySQL的临时表的原理以及优化手段。

## 1 临时表 ##

**sort buffer、内存临时表和join buffer，这三个数据结构都是用来存放语句执行过程中的中间数据，以辅助SQL语句的执行的。其中，在排序的时候用到了sort buffer，在使用join语句的时候用到了join buffer。**

而使用临时表的时候，`Explain`的`Extra`字段中具有`Using temporary`标记。union、group by、distinct等等查询都有可能使用到临时表。

## 2 union临时表优化 ##

**使用union的时候，就需要用到内存临时表来进行去重。**

union语句的执行流程为：

1.  创建一个内存临时表。
2.  执行第一个子查询，得到值，并存入临时表中。
3.  执行第二个子查询：依次拿每一行数据和临时表中的每一行数据比较，如果重复则不会插入，这样就实现了去重的功能
4.  从临时表中按行取出数据，返回结果，并删除临时表。在最后这一步还可以对临时表进行其他操作，比如limit、ORDER BY。

**如果使用union all，则不需要去重，也就不需要临时表了。在执行的时候，就依次执行子查询，得到的结果直接作为结果集的一部分，发给客户端。因此，除非确实需要服务器消除重复的行，否则就一定要使用`UNION ALL`，这一点很重要。如果没有ALL关键字，MySQL会给临时表加上`DISTINCT`选项，这会导致对整个临时我的数据做唯一性检查。这样做的代价非常高。如果不需要这些检查，那么甚至都不需要临时表。**

另外，避免对于union之后的结果集进行操作，也能避免临时表的使用，通常需要手工地将MHERE、LIMIT、ORDER BY等子句“下推”到UNION的各个子查询中，以便优化器可以充分利用这些条件进行优化，使得union的结果就是最终的结果（例如，直接将这些子句冗余地写一份到各个子查询)。

## 3 group by临时表优化 ##

**另外一个使用临时表的例子是group by，group by还具有隐藏的排序的语句，即在对某些字段进行分组之后，将数据再根据这些字段进行排序，最后返回排序后的结果。**

如下sql：

select id%10 as m, count(*) as c from t1 group by m;  
    复制代码

这个语句的执行流程是这样的：

1.  创建内存临时表，表里有两个字段m和c，主键是m；
2.  扫描表t1的索引a，依次取出叶子节点上的id值，计算id%10的结果，记为x；
    
    1.  如果临时表中没有主键为x的行，就插入一个记录(x,1);
    2.  如果表中有主键为x的行，就将x这一行的c值加1；
3.  遍历完成后，再根据字段m做排序，得到结果集返回给客户端。

**此时，Explain的Extra字段中具有`Using temporary; Using filesort`标记。**

**如果并不需要对结果进行排序，那可以在SQL语句末尾增加`order by null`**，即：

select id%10 as m, count(*) as c from t1 group by m order by null;  
    复制代码

**这样就跳过了最后排序的阶段，直接从临时表中取数据返回。**

**内存临时表的大小是有限制的，参数`tmp_table_size`就是控制这个内存大小的，默认是`16M`。如果要处理的数据超过了最大大小，那么MySQL会把内存临时表转成磁盘临时表，而磁盘临时表默认使用的引擎是InnoDB，因此会按主键顺序存储数据，所以最终取出的结果还是默认有序的。**

**对于Group By的临时表的优化，同样是使用索引：因为如果进行Group By字段是有序的，那么在处理时（比如计算每组数量、个数等等），因为跟着的字段有索引，那么相同的值肯定是在一起的、连续的，所以直接顺序扫描输入的数据即可，不需要临时表，也不需要再额外排序。**

**总结：**

1.  如果语句执行过程可以一边读数据，一边直接得到结果，是不需要额外内存的，否则就需要额外的内存，来保存中间结果；
2.  join\_buffer是无序数组，sort\_buffer是有序数组，临时表是二维表结构；

**如果执行逻辑需要用到二维表特性，就会优先考虑使用临时表。比如我们的例子中，union需要用到唯一索引约束， group by还需要用到另外一个字段来存累积计数。**

**另外，对于distinct查询来说，如果无法使用索引，则也会使用到临时表，也会进行分组，它和group by的区别是不需要排序。**