MySQL索引背后的之使用策略及優(yōu)化

作者：張洋 2011-07-11 15:28:19

本章討論的高性能索引策略主要屬于結構優(yōu)化范疇。本章的內容完全基于上文的理論基礎，實際上一旦理解了索引背后的機制，那么選擇高性能的策略就變成了純粹的推理，并且可以理解這些策略背后的邏輯。

MySQL的優(yōu)化主要分為結構優(yōu)化(Scheme optimization)和查詢優(yōu)化(Query optimization)。本章討論的高性能索引策略主要屬于結構優(yōu)化范疇。本章的內容完全基于上文的理論基礎，實際上一旦理解了索引背后的機制，那么選擇高性能的策略就變成了純粹的推理，并且可以理解這些策略背后的邏輯。

示例數(shù)據庫

為了討論索引策略，需要一個數(shù)據量不算小的數(shù)據庫作為示例。本文選用MySQL官方文檔中提供的示例數(shù)據庫之一：employees。這個數(shù)據庫關系復雜度適中，且數(shù)據量較大。下圖是這個數(shù)據庫的E-R關系圖(引用自MySQL官方手冊)：

圖12

MySQL官方文檔中關于此數(shù)據庫的頁面為http://dev.mysql.com/doc/employee/en/employee.html。里面詳細介紹了此數(shù)據庫，并提供了下載地址和導入方法，如果有興趣導入此數(shù)據庫到自己的MySQL可以參考文中內容。

最左前綴原理與相關優(yōu)化

高效使用索引的首要條件是知道什么樣的查詢會使用到索引，這個問題和B+Tree中的“最左前綴原理”有關，下面通過例子說明最左前綴原理。

這里先說一下聯(lián)合索引的概念。在上文中，我們都是假設索引只引用了單個的列，實際上，MySQL中的索引可以以一定順序引用多個列，這種索引叫做聯(lián)合索引，一般的，一個聯(lián)合索引是一個有序元組，其中各個元素均為數(shù)據表的一列，實際上要嚴格定義索引需要用到關系代數(shù)，但是這里我不想討論太多關系代數(shù)的話題，因為那樣會顯得很枯燥，所以這里就不再做嚴格定義。另外，單列索引可以看成聯(lián)合索引元素數(shù)為1的特例。

以employees.titles表為例，下面先查看其上都有哪些索引：

SHOW INDEX FROM employees.titles; 
+--------+------------+----------+--------------+-------------+-----------+-------------+------+------------+ 
| Table  | Non_unique | Key_name | Seq_in_index | Column_name | Collation | Cardinality | Null | Index_type | 
+--------+------------+----------+--------------+-------------+-----------+-------------+------+------------+ 
| titles |          0 | PRIMARY  |            1 | emp_no      | A         |        NULL |      | BTREE      | 
| titles |          0 | PRIMARY  |            2 | title       | A         |        NULL |      | BTREE      | 
| titles |          0 | PRIMARY  |            3 | from_date   | A         |      443308 |      | BTREE      | 
| titles |          1 | emp_no   |            1 | emp_no      | A         |      443308 |      | BTREE      | 
+--------+------------+----------+--------------+-------------+-----------+-------------+------+------------+

從結果中可以到titles表的主索引為<emp_no, title, from_date>，還有一個輔助索引<emp_no>。為了避免多個索引使事情變復雜（MySQL的SQL優(yōu)化器在多索引時行為比較復雜），這里我們將輔助索引drop掉：

ALTER TABLE employees.titles DROP INDEX emp_no;

這樣就可以專心分析索引PRIMARY的行為了。

#p#

情況一：全列匹配。

EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001' AND title='Senior Engineer' AND from_date='1986-06-26'; 
+----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ 
| id | select_type | table  | type  | possible_keys | key     | key_len | ref               | rows | Extra | 
+----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ 
|  1 | SIMPLE      | titles | const | PRIMARY       | PRIMARY | 59      | const,const,const |    1 |       | 
+----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+

很明顯，當按照索引中所有列進行精確匹配（這里精確匹配指“=”或“IN”匹配）時，索引可以被用到。這里有一點需要注意，理論上索引對順序是敏感的，但是由于MySQL的查詢優(yōu)化器會自動調整where子句的條件順序以使用適合的索引，例如我們將where中的條件順序顛倒：

EXPLAIN SELECT * FROM employees.titles WHERE from_date='1986-06-26' AND emp_no='10001' AND title='Senior Engineer'; 
+----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ 
| id | select_type | table  | type  | possible_keys | key     | key_len | ref               | rows | Extra | 
+----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ 
|  1 | SIMPLE      | titles | const | PRIMARY       | PRIMARY | 59      | const,const,const |    1 |       | 
+----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+

效果是一樣的。

情況二：最左前綴匹配。

EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001'; 
+----+-------------+--------+------+---------------+---------+---------+-------+------+-------+ 
| id | select_type | table  | type | possible_keys | key     | key_len | ref   | rows | Extra | 
+----+-------------+--------+------+---------------+---------+---------+-------+------+-------+ 
|  1 | SIMPLE      | titles | ref  | PRIMARY       | PRIMARY | 4       | const |    1 |       | 
+----+-------------+--------+------+---------------+---------+---------+-------+------+-------+

當查詢條件精確匹配索引的左邊連續(xù)一個或幾個列時，如<emp_no>或<emp_no, title>，所以可以被用到，但是只能用到一部分，即條件所組成的最左前綴。上面的查詢從分析結果看用到了PRIMARY索引，但是 key_len為4，說明只用到了索引的第一列前綴。

情況三：查詢條件用到了索引中列的精確匹配，但是中間某個條件未提供。

EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001' AND from_date='1986-06-26'; 
+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+ 
| id | select_type | table  | type | possible_keys | key     | key_len | ref   | rows | Extra       | 
+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+ 
|  1 | SIMPLE      | titles | ref  | PRIMARY       | PRIMARY | 4       | const |    1 | Using where | 
+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+

此時索引使用情況和情況二相同，因為title未提供，所以查詢只用到了索引的第一列，而后面的from_date雖然也在索引中，但是由于 title不存在而無法和左前綴連接，因此需要對結果進行掃描過濾from_date（這里由于emp_no唯一，所以不存在掃描）。如果想讓 from_date也使用索引而不是where過濾，可以增加一個輔助索引<emp_no, from_date>，此時上面的查詢會使用這個索引。除此之外，還可以使用一種稱之為“隔離列”的優(yōu)化方法，將emp_no與from_date 之間的“坑”填上。

首先我們看下title一共有幾種不同的值：

SELECT DISTINCT(title) FROM employees.titles; 
+--------------------+ 
| title              | 
+--------------------+ 
| Senior Engineer    | 
| Staff              | 
| Engineer           | 
| Senior Staff       | 
| Assistant Engineer | 
| Technique Leader   | 
| Manager            | 
+--------------------+

只有7種。在這種成為“坑”的列值比較少的情況下，可以考慮用“IN”來填補這個“坑”從而形成最左前綴：

EXPLAIN SELECT * FROM employees.titles 
WHERE emp_no='10001' 
AND title IN ('Senior Engineer', 'Staff', 'Engineer', 'Senior Staff', 'Assistant Engineer', 'Technique Leader', 'Manager') 
AND from_date='1986-06-26'; 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ 
| id | select_type | table  | type  | possible_keys | key     | key_len | ref  | rows | Extra       | 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ 
|  1 | SIMPLE      | titles | range | PRIMARY       | PRIMARY | 59      | NULL |    7 | Using where | 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

這次key_len為59，說明索引被用全了，但是從type和rows看出IN實際上執(zhí)行了一個range查詢，這里檢查了7個key。看下兩種查詢的性能比較：

SHOW PROFILES; 
+----------+------------+-------------------------------------------------------------------------------+ 
| Query_ID | Duration   | Query                                                                         | 
+----------+------------+-------------------------------------------------------------------------------+ 
|       10 | 0.00058000 | SELECT * FROM employees.titles WHERE emp_no='10001' AND from_date='1986-06-26'| 
|       11 | 0.00052500 | SELECT * FROM employees.titles WHERE emp_no='10001' AND title IN ...          | 
+----------+------------+-------------------------------------------------------------------------------+

“填坑”后性能提升了一點。如果經過emp_no篩選后余下很多數(shù)據，則后者性能優(yōu)勢會更加明顯。當然，如果title的值很多，用填坑就不合適了，必須建立輔助索引。

情況四：查詢條件沒有指定索引第一列。

EXPLAIN SELECT * FROM employees.titles WHERE from_date='1986-06-26';                   
+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+ 
| id | select_type | table  | type | possible_keys | key  | key_len | ref  | rows   | Extra       | 
+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+ 
|  1 | SIMPLE      | titles | ALL  | NULL          | NULL | NULL    | NULL | 443308 | Using where | 
+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+

由于不是最左前綴，索引這樣的查詢顯然用不到索引。

情況五：匹配某列的前綴字符串。

EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001' AND title LIKE 'Senior%'; 
view sourceprint? 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ 
| id | select_type | table  | type  | possible_keys | key     | key_len | ref  | rows | Extra       | 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ 
|  1 | SIMPLE      | titles | range | PRIMARY       | PRIMARY | 56      | NULL |    1 | Using where | 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

此時可以用到索引，但是如果通配符不是只出現(xiàn)在末尾，則無法使用索引。

情況六：范圍查詢。

EXPLAIN SELECT * FROM employees.titles WHERE emp_no<'10010' and title='Senior Engineer'; 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ 
| id | select_type | table  | type  | possible_keys | key     | key_len | ref  | rows | Extra       | 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ 
|  1 | SIMPLE      | titles | range | PRIMARY       | PRIMARY | 4       | NULL |   16 | Using where | 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

范圍列可以用到索引（必須是最左前綴），但是范圍列后面的列無法用到索引。同時，索引最多用于一個范圍列，因此如果查詢條件中有兩個范圍列則無法全用到索引。

EXPLAIN SELECT * FROM employees.titles 
WHERE emp_no<'10010' 
AND title='Senior Engineer' 
AND from_date BETWEEN '1986-01-01' AND '1986-12-31'; 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ 
| id | select_type | table  | type  | possible_keys | key     | key_len | ref  | rows | Extra       | 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ 
|  1 | SIMPLE      | titles | range | PRIMARY       | PRIMARY | 4       | NULL |   16 | Using where | 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

可以看到索引對第二個范圍索引無能為力。這里特別要說明MySQL一個有意思的地方，那就是僅用explain可能無法區(qū)分范圍索引和多值匹配，因為在type中這兩者都顯示為range。同時，用了“between”并不意味著就是范圍查詢，例如下面的查詢：

EXPLAIN SELECT * FROM employees.titles 
WHERE emp_no BETWEEN '10001' AND '10010' 
AND title='Senior Engineer' 
AND from_date BETWEEN '1986-01-01' AND '1986-12-31'; 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ 
| id | select_type | table  | type  | possible_keys | key     | key_len | ref  | rows | Extra       | 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ 
|  1 | SIMPLE      | titles | range | PRIMARY       | PRIMARY | 59      | NULL |   16 | Using where | 
+----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

看起來是用了兩個范圍查詢，但作用于emp_no上的“BETWEEN”實際上相當于“IN”，也就是說emp_no實際是多值精確匹配。可以看到這個查詢用到了索引全部三個列。因此在MySQL中要謹慎地區(qū)分多值匹配和范圍匹配，否則會對MySQL的行為產生困惑。

情況七：查詢條件中含有函數(shù)或表達式。

很不幸，如果查詢條件中含有函數(shù)或表達式，則MySQL不會為這列使用索引（雖然某些在數(shù)學意義上可以使用）。例如：

EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001' AND left(title, 6)='Senior'; 
+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+ 
| id | select_type | table  | type | possible_keys | key     | key_len | ref   | rows | Extra       | 
+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+ 
|  1 | SIMPLE      | titles | ref  | PRIMARY       | PRIMARY | 4       | const |    1 | Using where | 
+----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+

雖然這個查詢和情況五中功能相同，但是由于使用了函數(shù)left，則無法為title列應用索引，而情況五中用LIKE則可以。再如：

EXPLAIN SELECT * FROM employees.titles WHERE emp_no - 1='10000';                        
+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+ 
| id | select_type | table  | type | possible_keys | key  | key_len | ref  | rows   | Extra       | 
+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+ 
|  1 | SIMPLE      | titles | ALL  | NULL          | NULL | NULL    | NULL | 443308 | Using where | 
+----+-------------+--------+------+---------------+------+---------+------+--------+-------------+

顯然這個查詢等價于查詢emp_no為10001的函數(shù)，但是由于查詢條件是一個表達式，MySQL無法為其使用索引。看來MySQL還沒有智能到自動優(yōu)化常量表達式的程度，因此在寫查詢語句時盡量避免表達式出現(xiàn)在查詢中，而是先手工私下代數(shù)運算，轉換為無表達式的查詢語句。

#p#

索引選擇性與前綴索引

既然索引可以加快查詢速度，那么是不是只要是查詢語句需要，就建上索引?答案是否定的。因為索引雖然加快了查詢速度，但索引也是有代價的：索引文件本身要消耗存儲空間，同時索引會加重插入、刪除和修改記錄時的負擔，另外，MySQL在運行時也要消耗資源維護索引，因此索引并不是越多越好。一般兩種情況下不建議建索引。

第一種情況是表記錄比較少，例如一兩千條甚至只有幾百條記錄的表，沒必要建索引，讓查詢做全表掃描就好了。至于多少條記錄才算多，這個個人有個人的看法，我個人的經驗是以2000作為分界線，記錄數(shù)不超過 2000可以考慮不建索引，超過2000條可以酌情考慮索引。

另一種不建議建索引的情況是索引的選擇性較低。所謂索引的選擇性(Selectivity)，是指不重復的索引值(也叫基數(shù)，Cardinality)與表記錄數(shù)(#T)的比值：

Index Selectivity = Cardinality / #T

顯然選擇性的取值范圍為(0, 1]，選擇性越高的索引價值越大，這是由B+Tree的性質決定的。例如，上文用到的employees.titles表，如果title字段經常被單獨查詢，是否需要建索引，我們看一下它的選擇性：

SELECT count(DISTINCT(title))/count(*) AS Selectivity FROM employees.titles; 
+-------------+ 
| Selectivity | 
+-------------+ 
|      0.0000 | 
+-------------+

title的選擇性不足0.0001（精確值為0.00001579），所以實在沒有什么必要為其單獨建索引。

有一種與索引選擇性有關的索引優(yōu)化策略叫做前綴索引，就是用列的前綴代替整個列作為索引key，當前綴長度合適時，可以做到既使得前綴索引的選擇性接近全列索引，同時因為索引key變短而減少了索引文件的大小和維護開銷。下面以employees.employees表為例介紹前綴索引的選擇和使用。

從圖12可以看到employees表只有一個索引<emp_no>，那么如果我們想按名字搜索一個人，就只能全表掃描了：

EXPLAIN SELECT * FROM employees.employees WHERE first_name='Eric' AND last_name='Anido';                 
+----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+ 
| id | select_type | table     | type | possible_keys | key  | key_len | ref  | rows   | Extra       | 
+----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+ 
|  1 | SIMPLE      | employees | ALL  | NULL          | NULL | NULL    | NULL | 300024 | Using where | 
+----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+

如果頻繁按名字搜索員工，這樣顯然效率很低，因此我們可以考慮建索引。有兩種選擇，建<first_name>或<first_name, last_name>，看下兩個索引的選擇性：

SELECT count(DISTINCT(first_name))/count(*) AS Selectivity FROM employees.employees; 
+-------------+ 
| Selectivity | 
+-------------+ 
|      0.0042 | 
+-------------+ 
  
SELECT count(DISTINCT(concat(first_name, last_name)))/count(*) AS Selectivity FROM employees.employees; 
+-------------+ 
| Selectivity | 
+-------------+ 
|      0.9313 | 
+-------------+

<first_name>顯然選擇性太低，<first_name, last_name>選擇性很好，但是first_name和last_name加起來長度為30，有沒有兼顧長度和選擇性的辦法？可以考慮用 first_name和last_name的前幾個字符建立索引，例如<first_name, left(last_name, 3)>，看看其選擇性：

SELECT count(DISTINCT(concat(first_name, left(last_name, 3))))/count(*) AS Selectivity FROM employees.employees; 
+-------------+ 
| Selectivity | 
+-------------+ 
|      0.7879 | 
+-------------+

選擇性還不錯，但離0.9313還是有點距離，那么把last_name前綴加到4：

SELECT count(DISTINCT(concat(first_name, left(last_name, 4))))/count(*) AS Selectivity FROM employees.employees; 
+-------------+ 
| Selectivity | 
+-------------+ 
|      0.9007 | 
+-------------+

這時選擇性已經很理想了，而這個索引的長度只有18，比<first_name, last_name>短了接近一半，我們把這個前綴索引建上：

ALTER TABLE employees.employees 
ADD INDEX `first_name_last_name4` (first_name, last_name(4));

此時再執(zhí)行一遍按名字查詢，比較分析一下與建索引前的結果：

SHOW PROFILES; 
+----------+------------+---------------------------------------------------------------------------------+ 
| Query_ID | Duration   | Query                                                                           | 
+----------+------------+---------------------------------------------------------------------------------+ 
|       87 | 0.11941700 | SELECT * FROM employees.employees WHERE first_name='Eric' AND last_name='Anido' | 
|       90 | 0.00092400 | SELECT * FROM employees.employees WHERE first_name='Eric' AND last_name='Anido' | 
+----------+------------+---------------------------------------------------------------------------------+

性能的提升是顯著的，查詢速度提高了120多倍。

前綴索引兼顧索引大小和查詢速度，但是其缺點是不能用于ORDER BY和GROUP BY操作，也不能用于Covering index（即當索引本身包含查詢所需全部數(shù)據時，不再訪問數(shù)據文件本身）。

InnoDB的主鍵選擇與插入優(yōu)化

在使用InnoDB存儲引擎時，如果沒有特別的需要，請永遠使用一個與業(yè)務無關的自增字段作為主鍵。

經常看到有帖子或博客討論主鍵選擇問題，有人建議使用業(yè)務無關的自增主鍵，有人覺得沒有必要，完全可以使用如學號或身份證號這種唯一字段作為主鍵。不論支持哪種論點，大多數(shù)論據都是業(yè)務層面的。如果從數(shù)據庫索引優(yōu)化角度看，使用InnoDB引擎而不使用自增主鍵絕對是一個糟糕的主意。

上文討論過InnoDB的索引實現(xiàn)，InnoDB使用聚集索引，數(shù)據記錄本身被存于主索引(一顆B+Tree)的葉子節(jié)點上。這就要求同一個葉子節(jié)點內(大小為一個內存頁或磁盤頁)的各條數(shù)據記錄按主鍵順序存放，因此每當有一條新的記錄插入時，MySQL會根據其主鍵將其插入適當?shù)墓?jié)點和位置，如果頁面達到裝載因子(InnoDB默認為15/16)，則開辟一個新的頁(節(jié)點)。

如果表使用自增主鍵，那么每次插入新的記錄，記錄就會順序添加到當前索引節(jié)點的后續(xù)位置，當一頁寫滿，就會自動開辟一個新的頁。如下圖所示：

圖13

這樣就會形成一個緊湊的索引結構，近似順序填滿。由于每次插入時也不需要移動已有數(shù)據，因此效率很高，也不會增加很多開銷在維護索引上。

如果使用非自增主鍵(如果身份證號或學號等)，由于每次插入主鍵的值近似于隨機，因此每次新紀錄都要被插到現(xiàn)有索引頁得中間某個位置：

圖14

此時MySQL不得不為了將新記錄插到合適位置而移動數(shù)據，甚至目標頁面可能已經被回寫到磁盤上而從緩存中清掉，此時又要從磁盤上讀回來，這增加了很多開銷，同時頻繁的移動、分頁操作造成了大量的碎片，得到了不夠緊湊的索引結構，后續(xù)不得不通過OPTIMIZE TABLE來重建表并優(yōu)化填充頁面。

因此，只要可以，請盡量在InnoDB上采用自增字段做主鍵。

原文鏈接：http://www.cnblogs.com/leoo2sk/archive/2011/07/10/mysql-index.html

【編輯推薦】

MySQL中創(chuàng)建及優(yōu)化索引組織結構的思路
微博請問你是怎么優(yōu)化數(shù)據庫的？
MySQL技巧:結合相關參數(shù) 做好Limit優(yōu)化
MySQL數(shù)據庫的優(yōu)化（下）MySQL數(shù)據庫的高可用架構方案
MySQL數(shù)據庫的優(yōu)化（上）單機MySQL數(shù)據庫的優(yōu)化

責任編輯：艾婧來源： EricZhang's Technology Blog

MySQL 索引優(yōu)化