Elasticsearch調優篇 02 - 高效求交算法大比拼


  沒有多余的廢話,直接上方案吧!

方案一:

  最笨的方案即:for * for,對應的時間復雜度為:O(n*n)

每個搜索詞命中的網頁是非常多的,O(n*n) 的復雜度是明顯不能接受的。倒排索引是在創建之初可以進行排序預處理,問題轉化成兩個有序的list求交集,就方便多了。

畫外音:比較笨的方法。

方案二:

有序 list 求交集,可以使用拉鏈法,即如下圖所示:

     

  有序集合1:{1,3,5,7,8,9}

  有序集合2:{2,3,4,5,6,7}

  兩個指針指向首元素,比較元素的大小:

  (1)如果相同,放入結果集,隨意移動一個指針;

  (2)否則,移動值較小的一個指針,直到隊尾;

  這種方法的好處是:

  (1)集合中的元素最多被比較一次,時間復雜度為:O(n)

  (2)多個有序集合可以同時進行,這適用於多個分詞的 item 求 url_id 交集;

  這個方法就像一條拉鏈的兩邊齒輪,一一比對就像拉鏈,故稱為拉鏈法;

  畫外音:倒排索引是提前初始化的,可以利用“有序”這個特性。

方案三:

數據量大時,【url_id 分桶水平切分 + 並行運算】 是一種常見的優化方法

如果能將 list1<url_id> 和 list2<url_id> 分成若干個桶區間,每個區間利用多線程並行求交集,各個線程結果集的並集,作為最終的結果集,能夠大大的減少執行時間。

  舉例:

  有序集合1:{1,3,5,7,8,9, 10,30,50,70,80,90}

  有序集合2:{2,3,4,5,6,7, 20,30,40,50,60,70}

求交集,先進行分桶拆分:

  桶1的范圍為 [1, 9]

  桶2的范圍為 [10, 100]

  桶3的范圍為 [101, max_int]

於是:

集合1就拆分成:

  集合a:{1,3,5,7,8,9} 、集合b:{10,30,50,70,80,90} 、集合c:{}

集合2就拆分成:

  集合d:{2,3,4,5,6,7} 、集合e:{20,30,40,50,60,70} 、集合f:{}

每個桶內的數據量大大降低了,並且每個桶內沒有重復元素,可以利用多線程並行計算:

桶1內的 集合a 和 集合d 的交集是:x{3,5,7}

桶2內的 集合b 和 集合e 的交集是:y{30, 50, 70}

桶3內的 集合c 和 集合d 的交集是:z{}

  最終,集合1和集合2的交集,是x與y與z的並集,即集合{3,5,7,30,50,70}。

  畫外音:多線程、水平切分都是常見的優化手段。

方案四:

  bitmap 再次優化。

  數據進行了水平分桶拆分之后,每個桶內的數據一定處於一個范圍之內,如果集合 符合這個特點,就可以使用 bitmap 來表示集合:

    

  如上圖,假設 set1:{1,3,5,7,8,9} 和 set2:{2,3,4,5,6,7} 的所有元素都在桶值 [1, 16] 的范圍之內,可以用16個bit來描述這兩個集合

  原集合中的元素 x,在這個 16 bitmap 中的第x個 bit 為 1,此時兩個 bitmap 求交集,只需要 將兩個bitmap進行“與”操作,結果集bitmap的 3,5,7 位是1,表明原集合的交集為:{3,5,7}。

   水平分桶,bitmap優化之后,能極大提高求交集的效率,但時間復雜度仍舊是O(n)。bitmap需要大量連續空間,占用內存較大。

  畫外音:bitmap能夠表示集合,用它求集合交集速度非常快。

方案五:

  有序鏈表集合求交集,跳表是最常用的數據結構,它可以將有序集合求交集的復雜度由 O(n) 降至 接近O(log(n))

  

  集合1:{1,2,3,4,20,21,22,23,50,60,70}

  集合2:{50,70}

  要求交集,如果用拉鏈法,會發現 1,2,3,4,20,21,22,23 都要被無效遍歷一次,每個元素都要被比對,時間復雜度為O(n),能不能 每次比對“跳過一些元素” 呢?

  跳表就出現了:

  

  集合1:{1,2,3,4,20,21,22,23,50,60,70} 建立跳表時,一級只有 {1,20,50} 三個元素,二級與普通鏈表相同。

  集合2:{50,70} 由於元素較少,只建立了一級普通鏈表。

  如此這般,在實施“拉鏈”求交集的過程中,set1 的指針能夠由 1 跳到 20 再跳到 50,中間能夠跳過很多元素,無需進行一一比對,跳表求交集的時間復雜度近似 O(log(n))

  這是搜索引擎中常見的算法。

 結語:

  我們可以使用:水平分桶並行 + 眺表 來做到性能極致優化

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM