Elastic Stack-Elasticsearch使用介紹(二)


一、前言

    寫博客,更要努力寫博客!

二、Mapping介紹

   Mapping類似於數據庫中的表結構的定義:這里我們試想一下表結構定義需要那些:

   1.字段和字段類型,在Elasticsearch中的體現就是索引的結構,定義索引的字段Field Name和字段類型,上一篇有簡單介紹一下字段有那些類型;

   2.索引,在數據庫中我們可以定義字段索引,在Elasticsearch中就是相當於是否分詞,按照分詞器分詞;

   先來用我們的神器先自定義一個Mapping:

   

   接下來在在查詢下Mapping的結構:

  

 三、Mapping常用參數介紹

    type:指定參數的類型;

    analyzer:指定分詞器;

    boost:指定字段的權重,

    copy_to:指定某幾個字段合並;

   dynamic:字段動態添加 ,有3種取值:

         true:無限制;

         false:數據可寫入但該字段不保留;

         strict:無法寫入拋異常;

   format:"yyyy-MM-dd HH:mm:ss||yyyy-MM-dd||epoch_millis" ,格式化 此參數代表可接受的時間格式 3種都接受;

   ignore_options:這個選項用於控制倒排索引記錄的內容,有4種配置:

         docs:只記錄文檔號;

         freqs:文檔號 + 詞頻;

         postions:文檔號 + 詞頻 + 位置;

         offsets:文檔號 + 詞頻 + 位置 + 偏移量;

  index:指定某字段是否被索引;

  fileds:可以對一個字段提供多種索引模式;

  null_value:當字段遇到null值時候的處理機制,默認為null空值,此時es會忽略該值,可以通過設定該值設定該字段的默認值來改變null不顯示成空值:

  properties:嵌套屬性;

  search_analyzer:查詢分詞器;

  similarity:用於指定文檔評分模型,有2種配置:

       default:Elasticsearch和Lucene使用的默認TF / IDF算法;

       BM25:Okapi BM25算法;

  基本上常用就是這些,有沒有介紹到的大家可以參考官方文檔

四、字段的數據類型

  上上篇介紹過一些簡單的數據類型在官方稱為核心數據類型,這里不做過多的介紹了,這里主要介紹一下復雜的數據類型、地理數據類型、專用數據類型這3種;

  復雜的數據類型

  1.數組數據類型(Array datatype)

  Elasticsearch中沒有專門的數組類型,默認情況下每個字段都可以存儲0個或者多個值,但是這些值得類型必須是一樣的;

  2.對象數據類型(Object datatype)

  提交文檔的時候是Json文檔,內部的字段可以嵌套Json對象;

  3.嵌套數據類型(Nested datatype)

  嵌套數據類型就是1+2的組合,數組里面放Json;

  地理數據類型

  1.地理數據類型(Geo-point datatype)

  對經緯度的查詢搜索;

  2.形狀數據類型(Geo-Shape datatype)

 對多邊形的的形狀的查詢;

 專用數據類型

 1.IP數據類型

 2.完整的數據類型

 提供search-as-you-type的搜索,這個還是比較有用的大家可以參考下官方文檔;

 剩下的也使用不多,大家可以參考下官方文檔,這里就不做過多介紹;

五、Search API介紹

 Search API實現了對Elasticsearch中存儲的數據進行查詢分析,通過_search方式去查詢,基本上有以下4種情況:

 

1.不指定索引的情況下查詢的是Elasticsearch中所有的數據;

2.指定index就是對單個的index查詢;

3.另外還可以指定多個索引;

4.還可以通過通配符的形式去匹配索引;

Search API查詢的方式主要有兩種:URL Search和Request Body Search,分別對以下兩種情況進行下介紹:

URL Search:

通過URL的形式指定Query參數實現搜索,我們先來一個demo,然后介紹下常用下參數:

首先先添加些數據:

接下來進行下查詢

這樣就完成了ES查詢,接下來我們說說常用參數:

q:指定查詢的參數,也就是我們要搜索的文檔的內容;

df:指定我們查詢文檔指定的字段;

sort:指定排序的字段;

form:第幾條開始;

size:一頁幾條;

剩下大家可以查看下官方文檔,

Request Body Search

這個是主要介紹的,也是我們經常使用的。主要是通過http requset body發送json請求去對Elasticsearch中存儲的數據進行查詢分析,有個比較專業的名詞Query DSL;主要有兩種類型字段查詢和復合查詢,接下來我們介紹這兩種查詢的方式:

字段查詢:

字段查詢又可以分成兩類:全文匹配和單詞匹配;

全文匹配:

主要對text類型的字段進行全文檢索,對查詢的語句先進行分詞,例如match、match_pharse等;

match Query

這個是我們經常使用的,接下來我們使用我們神器給大家展示以下怎么使用;

首先看下person中有哪些字段:

接下來看下使用的方式:

再看下匹配以后的類型,因為匹配到太多,我們用展示代碼的方式來展示:

{
    "took": 12,
    "timed_out": false,
    "_shards": {
        "total": 5,
        "successful": 5,
        "skipped": 0,
        "failed": 0
    },
    "hits": {//匹配文檔的總數
        "total": 4,//總數
        "max_score": 0.80259144,//最匹配的得分
        "hits": [//返回文檔的總數
            {
                "_index": "person",
                "_type": "doc",
                "_id": "1",
                "_score": 0.80259144,//文檔得分
                "_source": {
                    "name": "ww",
                    "age": 18
                }
            },
            {
                "_index": "person",
                "_type": "doc",
                "_id": "7",
                "_score": 0.5377023,
                "_source": {
                    "name": "wwcc waa",
                    "age": 29
                }
            },
            {
                "_index": "person",
                "_type": "doc",
                "_id": "8",
                "_score": 0.32716757,
                "_source": {
                    "name": "ww waa",
                    "age": 29
                }
            },
            {
                "_index": "person",
                "_type": "doc",
                "_id": "9",
                "_score": 0.32716757,
                "_source": {
                    "name": "ww waa",
                    "age": 29
                }
            }
        ]
    }
}
View Code

看完上面返回的文檔以后,可做如下推測查詢的過程就是將我們查詢的內容進行分詞然后在文檔中查詢匹配的分詞,因為文檔中不存在name等於waa這種情況,所以沒出現,如果不相信可以補一下這個文檔再看下返回結果,過程如下圖:

可以通過設置operator參數來控制分詞間的匹配關系,默認是or,可以設置為and,當and的時候文檔種必須同時出現查詢的分詞;

還可以通過minimum_should_match參數設置需要匹配參數的個數;

另外我們還有一個關注的選項就是得分,上面我們說過文檔評分的模型有2種:TF/IDF和BM25,但是在介紹這個之前我們還需要知道4個概念:

1.Term Frequency(TF):詞頻,這個應該不陌生在上篇介紹倒排索引原理的時候介紹過這個概念;

2.Document Frequency(DF):文檔頻率,單詞在文檔中出現的頻率;

3.Inverse Document Frequency(IDF):逆向文檔頻率,與文檔頻率相反,可理解為1/DF。即單詞出現的文檔數越少,相關度越高。

4.Field-length Norm:文檔越短,相關度越高;

TF/IDF模型:

BM25模型

 推薦大家看下tf/idf評分算法,另外可以通過explain參數來查看得分的計算方法;

 match_phrase Query

 必須包含查詢的字段,並且順序不能亂;

{
    "took": 5,
    "timed_out": false,
    "_shards": {
        "total": 5,
        "successful": 5,
        "skipped": 0,
        "failed": 0
    },
    "hits": {
        "total": 3,
        "max_score": 0.6135754,
        "hits": [
            {
                "_index": "test",
                "_type": "doc",
                "_id": "8",
                "_score": 0.6135754,
                "_source": {
                    "name": "ww waa",
                    "age": 25
                }
            },
            {
                "_index": "test",
                "_type": "doc",
                "_id": "3",
                "_score": 0.51623213,
                "_source": {
                    "name": "ww waa",
                    "age": 25
                }
            },
            {
                "_index": "test",
                "_type": "doc",
                "_id": "9",
                "_score": 0.50104797,
                "_source": {
                    "name": "ww waa sdsfds",
                    "age": 25
                }
            }
        ]
    }
}
View Code

 query_string Query

 query_string與Lucene查詢語句的語法結合非常嚴謹,允許在查詢中使用多個特殊條件關鍵字對多個字段進行查詢,簡單的看下用法:

 默認可以指定一個列:

 

 指定多個列查詢

 

  simple_string Query

  simple_query_string查詢永遠不會拋出異常,並丟棄查詢的無效部分,使用+、|、-來代替AND、OR、NOT等等;

  

  我們常用的就是match和match_phrase,剩下的我感覺我是用的不多,大家可以看自己;

  單詞匹配:

  查詢語句作為整個單詞不進行分詞,主要有term、terms、range、prefix等;

  term和terms query

  單個單詞進行查詢:

  

  一次可以傳入多個單詞進行查詢

  

   range query

   主要是用來匹配某一范圍的值,比如日期、數值類型等等,我們上面有個age類型我們來根據這個查詢下20-30歲的人:

   

   prefix query

   查詢某個字段中以給定字前綴開始的文檔,比如我們想要查詢以ki開始的用戶字段;

   

   比較常用的基本上就是這幾種,剩下可以查閱官方文檔

   復合查詢(Compound queries):

   復合查詢就是組合多個查詢在一起或改變查詢行為,比較常用就是Constant Score Query和bool Query,剩下的大家可以查看官方文檔,根據自己需求去選擇自己想要的;

   constant_score Query

   在內部包裝一個查詢,將返回結果中每個文檔設置一個相同的得分;

   

{
    "took": 4,
    "timed_out": false,
    "_shards": {
        "total": 5,
        "successful": 5,
        "skipped": 0,
        "failed": 0
    },
    "hits": {
        "total": 3,
        "max_score": 1.2,
        "hits": [
            {
                "_index": "test",
                "_type": "doc",
                "_id": "8",
                "_score": 1.2,
                "_source": {
                    "name": "ww waa",
                    "age": 25
                }
            },
            {
                "_index": "test",
                "_type": "doc",
                "_id": "9",
                "_score": 1.2,
                "_source": {
                    "name": "ww waa sdsfds",
                    "age": 25
                }
            },
            {
                "_index": "test",
                "_type": "doc",
                "_id": "3",
                "_score": 1.2,
                "_source": {
                    "name": "ww waa",
                    "age": 25
                }
            }
        ]
    }
}
View Code

    bool Query

    由一個或者多個布爾子句構成,主要包含以下4種類型:

    

   用法如下:

   

{
    "took": 6,
    "timed_out": false,
    "_shards": {
        "total": 5,
        "successful": 5,
        "skipped": 0,
        "failed": 0
    },
    "hits": {
        "total": 3,
        "max_score": 1.6135753,
        "hits": [
            {
                "_index": "test",
                "_type": "doc",
                "_id": "8",
                "_score": 1.6135753,
                "_source": {
                    "name": "ww waa",
                    "age": 25
                }
            },
            {
                "_index": "test",
                "_type": "doc",
                "_id": "3",
                "_score": 1.5162321,
                "_source": {
                    "name": "ww waa",
                    "age": 25
                }
            },
            {
                "_index": "test",
                "_type": "doc",
                "_id": "9",
                "_score": 1.501048,
                "_source": {
                    "name": "ww waa sdsfds",
                    "age": 25
                }
            }
        ]
    }
}
View Code

   介紹minimum_should_match這個參數,當只有should,文檔中參數必須要要滿足條件的個數才會顯示,同時包含should和must時,文檔不滿足should中的條件,但是如果滿足條件會增加相關性得分:

   在強調一點Filter查詢只過濾復合條件的文檔,不會進行相關性算分;

六、結尾

   這篇文章寫了好久,下一篇再來好好聊聊Search機制,歡迎大家加群438836709,歡迎大家關注我公眾號:

   


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM