一、explain(),語句分析工具
MongoDB 3.0之后,explain的返回與使用方法與之前版本有了很大的變化,介於3.0之后的優秀特色和我們目前所使用給的是3.0.7版本,本文僅針對MongoDB 3.0+的explain進行討論。3.0+的explain有三種模式,分別是:queryPlanner、executionStats、allPlansExecution。現實開發中,常用的是executionStats模式,主要分析這種模式。
給這個person集合創建age鍵的索引:db.person.createIndex({"age":1})
db.getCollection('person').find({"age":{"$lte":2000}}).explain("executionStats")
{ "queryPlanner" : { "plannerVersion" : 1, "namespace" : "personmap.person", "indexFilterSet" : false, "parsedQuery" : { "age" : { "$lte" : 2000.0 } }, "winningPlan" : { "stage" : "FETCH", "inputStage" : { "stage" : "IXSCAN", "keyPattern" : { "age" : 1.0 }, "indexName" : "age_1", "isMultiKey" : false, "direction" : "forward", "indexBounds" : { "age" : [ "[-1.#INF, 2000.0]" ] } } }, "rejectedPlans" : [] }, "executionStats" : { "executionSuccess" : true, "nReturned" : 2001, "executionTimeMillis" : 143, "totalKeysExamined" : 2001, "totalDocsExamined" : 2001, "executionStages" : { "stage" : "FETCH", "nReturned" : 2001, "executionTimeMillisEstimate" : 0, "works" : 2002, "advanced" : 2001, "needTime" : 0, "needFetch" : 0, "saveState" : 16, "restoreState" : 16, "isEOF" : 1, "invalidates" : 0, "docsExamined" : 2001, "alreadyHasObj" : 0, "inputStage" : { "stage" : "IXSCAN", "nReturned" : 2001, "executionTimeMillisEstimate" : 0, "works" : 2002, "advanced" : 2001, "needTime" : 0, "needFetch" : 0, "saveState" : 16, "restoreState" : 16, "isEOF" : 1, "invalidates" : 0, "keyPattern" : { "age" : 1.0 }, "indexName" : "age_1", "isMultiKey" : false, "direction" : "forward", "indexBounds" : { "age" : [ "[-1.#INF, 2000.0]" ] }, "keysExamined" : 2001, "dupsTested" : 0, "dupsDropped" : 0, "seenInvalidated" : 0, "matchTested" : 0 } } }, "serverInfo" : { "host" : "qinxiongzhou", "port" : 27017, "version" : "3.0.7", "gitVersion" : "6ce7cbe8c6b899552dadd907604559806aa2e9bd" }, "ok" : 1.0 } db.getCollection('person').find({"age":{"$lte":2000}}).explain("executionStats")
對queryPlanner分析
queryPlanner: queryPlanner的返回
queryPlanner.namespace:該值返回的是該query所查詢的表
queryPlanner.indexFilterSet:針對該query是否有indexfilter
queryPlanner.winningPlan:查詢優化器針對該query所返回的最優執行計划的詳細內容。
queryPlanner.winningPlan.stage:最優執行計划的stage,這里返回是FETCH,可以理解為通過返回的index位置去檢索具體的文檔(stage有數個模式,將在后文中進行詳解)。
queryPlanner.winningPlan.inputStage:用來描述子stage,並且為其父stage提供文檔和索引關鍵字。
queryPlanner.winningPlan.stage的child stage,此處是IXSCAN,表示進行的是index scanning。
queryPlanner.winningPlan.keyPattern:所掃描的index內容,此處是did:1,status:1,modify_time: -1與scid : 1
queryPlanner.winningPlan.indexName:winning plan所選用的index。
queryPlanner.winningPlan.isMultiKey是否是Multikey,此處返回是false,如果索引建立在array上,此處將是true。
queryPlanner.winningPlan.direction:此query的查詢順序,此處是forward,如果用了.sort({modify_time:-1})將顯示backward。
queryPlanner.winningPlan.indexBounds:winningplan所掃描的索引范圍,如果沒有制定范圍就是[MaxKey, MinKey],這主要是直接定位到mongodb的chunck中去查找數據,加快數據讀取。
queryPlanner.rejectedPlans:其他執行計划(非最優而被查詢優化器reject的)的詳細返回,其中具體信息與winningPlan的返回中意義相同,故不在此贅述。
對executionStats返回逐層分析
第一層,executionTimeMillis
最為直觀explain返回值是executionTimeMillis值,指的是我們這條語句的執行時間,這個值當然是希望越少越好。
其中有3個executionTimeMillis,分別是:
executionStats.executionTimeMillis
該query的整體查詢時間。
executionStats.executionStages.executionTimeMillisEstimate
該查詢根據index去檢索document獲得2001條數據的時間。
executionStats.executionStages.inputStage.executionTimeMillisEstimate
該查詢掃描2001行index所用時間。
第二層,index與document掃描數與查詢返回條目數
這個主要討論3個返回項,nReturned、totalKeysExamined、totalDocsExamined,分別代表該條查詢返回的條目、索引掃描條目、文檔掃描條目。
這些都是直觀地影響到executionTimeMillis,我們需要掃描的越少速度越快。
對於一個查詢,我們最理想的狀態是:
nReturned=totalKeysExamined=totalDocsExamined
第三層,stage狀態分析
那么又是什么影響到了totalKeysExamined和totalDocsExamined?是stage的類型。類型列舉如下:
COLLSCAN:全表掃描
IXSCAN:索引掃描
FETCH:根據索引去檢索指定document
SHARD_MERGE:將各個分片返回數據進行merge
SORT:表明在內存中進行了排序
LIMIT:使用limit限制返回數
SKIP:使用skip進行跳過
IDHACK:針對_id進行查詢
SHARDING_FILTER:通過mongos對分片數據進行查詢
COUNT:利用db.coll.explain().count()之類進行count運算
COUNTSCAN:count不使用Index進行count時的stage返回
COUNT_SCAN:count使用了Index進行count時的stage返回
SUBPLA:未使用到索引的$or查詢的stage返回
TEXT:使用全文索引進行查詢時候的stage返回
PROJECTION:限定返回字段時候stage的返回
對於普通查詢,我希望看到stage的組合(查詢的時候盡可能用上索引):
Fetch+IDHACK
Fetch+ixscan
Limit+(Fetch+ixscan)
PROJECTION+ixscan
SHARDING_FITER+ixscan
COUNT_SCAN
不希望看到包含如下的stage:
COLLSCAN(全表掃描),SORT(使用sort但是無index),不合理的SKIP,SUBPLA(未用到index的$or),COUNTSCAN(不使用index進行count)
二、建索引
1.基礎索引
在字段age 上創建索引,1(升序);-1(降序):
_id 是創建表的時候自動創建的索引,此索引是不能夠刪除的。當系統已有大量數據時,創建索引就是個非常耗時的活,我們可以在后台執行,只需指定“backgroud:true”即可。
2.文檔索引
索引可以任何類型的字段,甚至文檔:
3. 組合索引
跟其它數據庫產品一樣,MongoDB 也是有組合索引的,下面我們將在addr.city 和addr.state上建立組合索引。當創建組合索引時,字段后面的1 表示升序,-1 表示降序,是用1 還是用-1 主要是跟排序的時候或指定范圍內查詢 的時候有關的。
4. 唯一索引
只需在ensureIndex 命令中指定”unique:true”即可創建唯一索引。例如,往表t4 中插入2 條記錄:
5.強制使用索引
hint 命令可以強制使用某個索引。
6.刪除索引
6.查詢索引
三、其他優化
1、MongoDB中低效率的操作符
"$where"和"$exists":這兩個操作符,完全不能使用索引。
"$ne":通常來說取反的效率比較低。"$ne"查詢可以使用索引,但並不是很有效。因為他必須查看所有的索引條目,而不是"$ne"指定的條目,這個時候他就不得不掃描整個索引。
"$not":有時候能夠使用索引,但是他通常並不知道要如何使用索引。所以大多數情況"$not"會退化為全表掃描。
"$nin":這個操作符總是會全表掃描
2、OR查詢
MongoDB在一次查詢中只能使用一個索引(至少我現在用的2.6是這樣的),如果你在{"x":1}上有一個索引,在{"y":1}上也有一個索引,在{"x":1,"y":1}上執行查詢時,MongoDB只會使用其中一個索引,而不是兩個一起使用。"$or"是一個例外,"$or"可以對每個字句都使用索引,因為"$or"實際上是執行兩次查詢然后將結果合並。
通常來說,使用or查詢多次在合並結果,不如單次查詢的效率高,對於單個字段,應該盡可能使用$in。
3、MongoDB的查詢優化器
MongoDB的查詢優化器與其他數據庫的稍微不同。基本來說,如果一個索引能夠精確匹配一個查詢,那么查詢優化器就會使用這個索引,如果不能精確匹配,可能會有幾個索引都適合你的查詢。那MongoDB是怎樣選擇的呢?答:MongoDB的查詢計划會將多個索引並行的去執行,最早返回100個結果的就是勝者,其他查詢計划都會被終止。
這個查詢計划會被緩沖,接下來的這個查詢都會使用他,下面幾種情況會重新計划;
-
- 最初的計划評估之后集合發生了比較大的數據波動,查詢優化器就會重新挑選可行的查詢計划。
- 建立索引時。
- 每執行1000次查詢之后,查詢優化器就會重新評估查詢計划
4、何時不應該使用索引
提取較小的子數據集時,索引非常有效(所以才有了分頁)。也有一些查詢不使用索引會更快。結果集在原集合中所占的比例越大,查詢效率越慢。因為使用索引需要進行兩次查找:一次查找索引條目,一次根據索引指針去查找相應的文檔。而全表掃描只需要進行一次查詢。在最壞的情況,使用索引進行查找次數會是全表掃描的兩倍。效率會明顯比全表掃描低。
可惜並沒有一個嚴格的規則可以告訴我們,如果根據索引大小、文檔大小來判斷什么時候索引很有用,一般來說,如果查詢需要返回集合內30%的文檔(或者更多),那就應該測試全表掃描和走索引查詢那個速度比較快。這個數字也會在2%~60%之間進行波動。
這個時候可以使用hint({"$natural":true})強制查詢走全表掃描。