Mongodb 3 查詢優化(語句優化、建索引)


一、explain(),語句分析工具

MongoDB 3.0之后,explain的返回與使用方法與之前版本有了很大的變化,介於3.0之后的優秀特色和我們目前所使用給的是3.0.7版本,本文僅針對MongoDB 3.0+的explain進行討論。3.0+的explain有三種模式,分別是:queryPlanner、executionStats、allPlansExecution。現實開發中,常用的是executionStats模式,主要分析這種模式。

    給這個person集合創建age鍵的索引:db.person.createIndex({"age":1})

db.getCollection('person').find({"age":{"$lte":2000}}).explain("executionStats")
{
    "queryPlanner" : {
        "plannerVersion" : 1,
        "namespace" : "personmap.person",
        "indexFilterSet" : false,
        "parsedQuery" : {
            "age" : {
                "$lte" : 2000.0
            }
        },
        "winningPlan" : {
            "stage" : "FETCH",
            "inputStage" : {
                "stage" : "IXSCAN",
                "keyPattern" : {
                    "age" : 1.0
                },
                "indexName" : "age_1",
                "isMultiKey" : false,
                "direction" : "forward",
                "indexBounds" : {
                    "age" : [ 
                        "[-1.#INF, 2000.0]"
                    ]
                }
            }
        },
        "rejectedPlans" : []
    },
    "executionStats" : {
        "executionSuccess" : true,
        "nReturned" : 2001,
        "executionTimeMillis" : 143,
        "totalKeysExamined" : 2001,
        "totalDocsExamined" : 2001,
        "executionStages" : {
            "stage" : "FETCH",
            "nReturned" : 2001,
            "executionTimeMillisEstimate" : 0,
            "works" : 2002,
            "advanced" : 2001,
            "needTime" : 0,
            "needFetch" : 0,
            "saveState" : 16,
            "restoreState" : 16,
            "isEOF" : 1,
            "invalidates" : 0,
            "docsExamined" : 2001,
            "alreadyHasObj" : 0,
            "inputStage" : {
                "stage" : "IXSCAN",
                "nReturned" : 2001,
                "executionTimeMillisEstimate" : 0,
                "works" : 2002,
                "advanced" : 2001,
                "needTime" : 0,
                "needFetch" : 0,
                "saveState" : 16,
                "restoreState" : 16,
                "isEOF" : 1,
                "invalidates" : 0,
                "keyPattern" : {
                    "age" : 1.0
                },
                "indexName" : "age_1",
                "isMultiKey" : false,
                "direction" : "forward",
                "indexBounds" : {
                    "age" : [ 
                        "[-1.#INF, 2000.0]"
                    ]
                },
                "keysExamined" : 2001,
                "dupsTested" : 0,
                "dupsDropped" : 0,
                "seenInvalidated" : 0,
                "matchTested" : 0
            }
        }
    },
    "serverInfo" : {
        "host" : "qinxiongzhou",
        "port" : 27017,
        "version" : "3.0.7",
        "gitVersion" : "6ce7cbe8c6b899552dadd907604559806aa2e9bd"
    },
    "ok" : 1.0
}

db.getCollection('person').find({"age":{"$lte":2000}}).explain("executionStats")

 

對queryPlanner分析

    queryPlanner: queryPlanner的返回

    queryPlanner.namespace:該值返回的是該query所查詢的表

    queryPlanner.indexFilterSet:針對該query是否有indexfilter

    queryPlanner.winningPlan:查詢優化器針對該query所返回的最優執行計划的詳細內容。

    queryPlanner.winningPlan.stage:最優執行計划的stage,這里返回是FETCH,可以理解為通過返回的index位置去檢索具體的文檔(stage有數個模式,將在后文中進行詳解)。

    queryPlanner.winningPlan.inputStage:用來描述子stage,並且為其父stage提供文檔和索引關鍵字。

    queryPlanner.winningPlan.stage的child stage,此處是IXSCAN,表示進行的是index scanning。

    queryPlanner.winningPlan.keyPattern:所掃描的index內容,此處是did:1,status:1,modify_time: -1與scid : 1

    queryPlanner.winningPlan.indexName:winning plan所選用的index。

    queryPlanner.winningPlan.isMultiKey是否是Multikey,此處返回是false,如果索引建立在array上,此處將是true。

    queryPlanner.winningPlan.direction:此query的查詢順序,此處是forward,如果用了.sort({modify_time:-1})將顯示backward。

    queryPlanner.winningPlan.indexBounds:winningplan所掃描的索引范圍,如果沒有制定范圍就是[MaxKey, MinKey],這主要是直接定位到mongodb的chunck中去查找數據,加快數據讀取。

    queryPlanner.rejectedPlans:其他執行計划(非最優而被查詢優化器reject的)的詳細返回,其中具體信息與winningPlan的返回中意義相同,故不在此贅述。

對executionStats返回逐層分析

    第一層,executionTimeMillis

    最為直觀explain返回值是executionTimeMillis值,指的是我們這條語句的執行時間,這個值當然是希望越少越好。

    其中有3個executionTimeMillis,分別是:

    executionStats.executionTimeMillis

    該query的整體查詢時間。

    executionStats.executionStages.executionTimeMillisEstimate

    該查詢根據index去檢索document獲得2001條數據的時間。

    executionStats.executionStages.inputStage.executionTimeMillisEstimate

    該查詢掃描2001行index所用時間。

    第二層,index與document掃描數與查詢返回條目數

    這個主要討論3個返回項,nReturned、totalKeysExamined、totalDocsExamined,分別代表該條查詢返回的條目、索引掃描條目、文檔掃描條目。

    這些都是直觀地影響到executionTimeMillis,我們需要掃描的越少速度越快。

    對於一個查詢,我們最理想的狀態是:

    nReturned=totalKeysExamined=totalDocsExamined

    第三層,stage狀態分析

    那么又是什么影響到了totalKeysExamined和totalDocsExamined?是stage的類型。類型列舉如下:

    COLLSCAN:全表掃描

    IXSCAN:索引掃描

    FETCH:根據索引去檢索指定document

    SHARD_MERGE:將各個分片返回數據進行merge

    SORT:表明在內存中進行了排序

    LIMIT:使用limit限制返回數

    SKIP:使用skip進行跳過

    IDHACK:針對_id進行查詢

    SHARDING_FILTER:通過mongos對分片數據進行查詢

    COUNT:利用db.coll.explain().count()之類進行count運算

    COUNTSCAN:count不使用Index進行count時的stage返回

    COUNT_SCAN:count使用了Index進行count時的stage返回

    SUBPLA:未使用到索引的$or查詢的stage返回

    TEXT:使用全文索引進行查詢時候的stage返回

    PROJECTION:限定返回字段時候stage的返回

    對於普通查詢,我希望看到stage的組合(查詢的時候盡可能用上索引):

    Fetch+IDHACK

    Fetch+ixscan

    Limit+(Fetch+ixscan)

    PROJECTION+ixscan

    SHARDING_FITER+ixscan

    COUNT_SCAN

    不希望看到包含如下的stage:

    COLLSCAN(全表掃描),SORT(使用sort但是無index),不合理的SKIP,SUBPLA(未用到index的$or),COUNTSCAN(不使用index進行count)

二、建索引

1.基礎索引

在字段age 上創建索引,1(升序);-1(降序):

db.users.ensureIndex({age:1})

_id 是創建表的時候自動創建的索引,此索引是不能夠刪除的。當系統已有大量數據時,創建索引就是個非常耗時的活,我們可以在后台執行,只需指定“backgroud:true”即可。

db.t3.ensureIndex({age:1} , {background:true})

2.文檔索引

索引可以任何類型的字段,甚至文檔:

db.factories.insert( { name: "wwl", addr: { city: "Beijing", state: "BJ" } } );
//在addr 列上創建索引
db.factories.ensureIndex( { addr : 1 } );
//下面這個查詢將會用到我們剛剛建立的索引
db.factories.find( { addr: { city: "Beijing", state: "BJ" } } );
//但是下面這個查詢將不會用到索引,因為查詢的順序跟索引建立的順序不一樣
db.factories.find( { addr: { state: "BJ" , city: "Beijing"} } );

3. 組合索引

跟其它數據庫產品一樣,MongoDB 也是有組合索引的,下面我們將在addr.city 和addr.state上建立組合索引。當創建組合索引時,字段后面的1 表示升序,-1 表示降序,是用1 還是用-1 主要是跟排序的時候或指定范圍內查詢 的時候有關的。

db.factories.ensureIndex( { "addr.city" : 1, "addr.state" : 1 } );
// 下面的查詢都用到了這個索引
db.factories.find( { "addr.city" : "Beijing", "addr.state" : "BJ" } );
db.factories.find( { "addr.city" : "Beijing" } );
db.factories.find().sort( { "addr.city" : 1, "addr.state" : 1 } );
db.factories.find().sort( { "addr.city" : 1 } )

4. 唯一索引

只需在ensureIndex 命令中指定”unique:true”即可創建唯一索引。例如,往表t4 中插入2 條記錄:

db.t4.ensureIndex({firstname: 1, lastname: 1}, {unique: true});

5.強制使用索引

hint 命令可以強制使用某個索引。

db.t5.find({age:{$lt:30}}).hint({name:1, age:1}).explain()

6.刪除索引

//刪除t3 表中的所有索引
db.t3.dropIndexes()
//刪除t4 表中的namez字段的索引
db.t4.dropIndex("dpt_AirPt_Cd_itia_1_arrv_Airpt_Cd_itia_1_chainage_1")

6.查詢索引

db.t4.getIndexes()

 三、其他優化

1、MongoDB中低效率的操作符

"$where"和"$exists":這兩個操作符,完全不能使用索引。

"$ne":通常來說取反的效率比較低。"$ne"查詢可以使用索引,但並不是很有效。因為他必須查看所有的索引條目,而不是"$ne"指定的條目,這個時候他就不得不掃描整個索引。

"$not":有時候能夠使用索引,但是他通常並不知道要如何使用索引。所以大多數情況"$not"會退化為全表掃描。

"$nin":這個操作符總是會全表掃描

2、OR查詢

         MongoDB在一次查詢中只能使用一個索引(至少我現在用的2.6是這樣的),如果你在{"x":1}上有一個索引,在{"y":1}上也有一個索引,在{"x":1,"y":1}上執行查詢時,MongoDB只會使用其中一個索引,而不是兩個一起使用。"$or"是一個例外,"$or"可以對每個字句都使用索引,因為"$or"實際上是執行兩次查詢然后將結果合並。

         通常來說,使用or查詢多次在合並結果,不如單次查詢的效率高,對於單個字段,應該盡可能使用$in。

3、MongoDB的查詢優化器

        MongoDB的查詢優化器與其他數據庫的稍微不同。基本來說,如果一個索引能夠精確匹配一個查詢,那么查詢優化器就會使用這個索引,如果不能精確匹配,可能會有幾個索引都適合你的查詢。那MongoDB是怎樣選擇的呢?答:MongoDB的查詢計划會將多個索引並行的去執行,最早返回100個結果的就是勝者,其他查詢計划都會被終止。

      這個查詢計划會被緩沖,接下來的這個查詢都會使用他,下面幾種情況會重新計划;

    1. 最初的計划評估之后集合發生了比較大的數據波動,查詢優化器就會重新挑選可行的查詢計划。
    2. 建立索引時。
    3. 每執行1000次查詢之后,查詢優化器就會重新評估查詢計划

4、何時不應該使用索引

        提取較小的子數據集時,索引非常有效(所以才有了分頁)。也有一些查詢不使用索引會更快。結果集在原集合中所占的比例越大,查詢效率越慢。因為使用索引需要進行兩次查找:一次查找索引條目,一次根據索引指針去查找相應的文檔。而全表掃描只需要進行一次查詢。在最壞的情況,使用索引進行查找次數會是全表掃描的兩倍。效率會明顯比全表掃描低。

        可惜並沒有一個嚴格的規則可以告訴我們,如果根據索引大小、文檔大小來判斷什么時候索引很有用,一般來說,如果查詢需要返回集合內30%的文檔(或者更多),那就應該測試全表掃描和走索引查詢那個速度比較快。這個數字也會在2%~60%之間進行波動。

這個時候可以使用hint({"$natural":true})強制查詢走全表掃描。

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM