Elasticsearch 7.x Nested 嵌套類型查詢 | ES 干貨


一、什么是 ES Nested 嵌套

Elasticsearch 有很多數據類型,大致如下:

  • 基本數據類型:
    • string 類型。ES 7.x 中,string 類型會升級為:text 和 keyword。keyword 可以排序;text 默認分詞,不可以排序。
    • 數據類型:integer、long 等
    • 時間類型、布爾類型、二進制類型、區間類型等
  • 復雜數據類型:
    • 數組類型:Array
    • 對象類型:Object
    • Nested 類型
  • 特定數據類型:地理位置、IP 等

注意:tring/nested/array 類型字段不能用作排序字段。因此 string 類型會升級為:text 和 keyword。keyword 可以排序,text 默認分詞,不可以排序。

file

2.1 那什么是 Nested 類型?

Elasticsearch 7.x 文檔中,這樣寫到:

The nested type is a specialised version of the object datatype that allows arrays of objects to be indexed in a way that they can be queried independently of each other.

Nested (嵌套)類型,是特殊的對象類型,特殊的地方是索引對象數組方式不同,允許數組中的對象各自地進行索引。目的是對象之間彼此獨立被查詢出來。

2.2 如何使用 Nested 類型?

在 ES 的 my_index 索引中存儲 users 字段。比如說:

{
  "group" : "fans",   "users" : [     {       "name" : "John",       "age" :  "23"     },     {       "name" : "Alice",       "age" :  "18"     }   ] }

其實存儲看上去跟 Object 類型一樣,只不過底層原理對數組 users 字段索引方式不同。設置 users 字段的索引方式 Nested 嵌套類型:

curl -X PUT "localhost:9200/my_index" -H 'Content-Type: application/json' -d' { "mappings": { "properties": { "users": { "type": "nested" } } } } '

二、Nested Query 應用場景或案例

比如小老弟我有一波小粉絲,users 字段類型是 object。存儲如下:

{
  "group" : "bysocket_fans",   "users" : [     {       "name" : "John",       "age" :  "23"     },     {       "name" : "Alice",       "age" :  "18"     }   ] } {   "group" : "路人甲_fans",   "users" : [     {       "name" : "Alice",       "age" :  "22"     },     {       "name" : "Jeff",       "age" :  "18"     }   ] }

比如 18 歲大姑娘 Alice 是小老弟我的粉絲,她也可能是周傑倫的粉絲。那這邊就有一個需求,即應用場景:

如何找到 18 歲大姑娘 Alice {"name" : "Alice","age" :  "18"} 關注的所有明星呢?

如果用老的查詢語句是這樣搜索的:

GET /my_index/_search?pretty { "query": { "bool": { "must": [ { "match": { "users.name": "Alice" } }, { "match": { "users.age": 18 } } ] } } }

結果發現結果是不對的,路人甲 這條記錄也出現了。
因為匹配到了第一個 Alice + 第二個 Jeff 的 18。所以這種查詢不滿足這個場景

那么需要使用 Nested 類型並用 Nested 查詢,即讓數組中的對象各自地進行索引。目的是對象之間彼此獨立被查詢出來。

三、Nested Query 實戰

3.1 設置 Nested 類型

根據 2.2 如何使用 Nested 類型,將 users 字段類型從 object 修改為 nested:

curl -X PUT "localhost:9200/my_index" -H 'Content-Type: application/json' -d' { "mappings": { "properties": { "users": { "type": "nested" } } } } '

3.2 Nested Query

修改后,對應的 Nested Query ,如下:

GET /my_index/_search?pretty { "query": { "bool": { "must": [ { "nested": { "path": "users", "query": { "bool": { "must": [ { "match": { "users.name": "Alice" } }, { "match": { "users.age": 18 } } ] } } } } ] } } }

語法很簡單就是:

  • key 以 "nested" 開頭
  • path 就是嵌套對象數組的字段名
  • 其他
    • score_mode (可選的)匹配子對象的分數相關性分數。avg (默認,使用所有匹配子對象的平均相關性分數)
    • ignore_unmapped (可選的)是否忽略 path 未映射,不返回任何文檔而不是錯誤。默認為 false,如果 path 不對就報錯

這樣查詢得結果就是對的。

四、Nested Query 性能

這邊測試過,給大家一個測試報告和建議。

file

壓測環境:3 個 server ,6 個 ES 節點

壓測結論: 使用上小節查詢語句,50 並發情況下,導致千兆網卡被打滿了。TPS 4000 左右,如果提高並發,就會增加 RT。所以如果高性能大流量情況下,必須用 Nested 應該從網絡流量方向進行優化。二者,盡量減少大數據對象的返回

建議:泥瓦匠建議,你聽聽看

  • 性能:Common Query 遠遠大於 Nested Query 遠遠大於 Parent/Child Query
  • 性能優化:首先考慮減少后面兩種 Query
  • 性能優化:Nested Query 業務可以優化下。比如上一小節完全可以多存一個 fanIds 數組。搜索兩次,第一次查確定 18 歲大姑娘 Alice 的 fanId,第二次根據 fanId 搜索即可
  • 性能優化:實在沒辦法,高性能大流量情況下,必須用 Nested 應該從網絡流量方向進行優化。二者,盡量減少大數據對象的返回

java代碼實現:

// QueryBuilder qb =QueryBuilders.boolQuery().must(QueryBuilders.nestedQuery("comments",
// QueryBuilders.boolQuery().must(QueryBuilders.matchQuery("aaa.aaa", "John"))
// .must(QueryBuilders.matchQuery("aaa.aaa", 38)),
//     ScoreMode.Total));
QueryBuilder qb =QueryBuilders.boolQuery().must(QueryBuilders.rangeQuery("versionTime").lt(System.currentTimeMillis()));
System.out.println(qb.toString());
SearchResponse response =new ESClientUtil().getClient().prepareSearch("dam_metadata_hivetable")
.setTypes("dam_metadata_hivetable").setQuery(qb).get();
        SearchHits hits=response.getHits();
        System.out.println(hits.getTotalHits());
        for (SearchHit hit:hits){
            System.out.println(hit.getSourceAsString());
        }
return;

 

參考資料:


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM