參考文章:An efficient and robust line segment matching approach based on LBD descriptor and pairwise geometric consistency ----Lilian Zhang , Reinhard Koch
第三部分:Graph matching using spectral technique
介紹線檢測和描述之后,本節我們介紹方法來構造兩組LineVecs之間的關系圖並且在圖中建立匹配結果。在此之前,先引入一些預處理,通過排除明顯的不匹配來減少圖匹配問題的維數。
1.生成候選匹配對
檢測參考和查詢圖像的LineVecs,根據他們的一元幾何屬性和它們的局部外觀相似性,如果他們沒有通過測試,被認為是不匹配的。
一元幾何屬性:一元幾何屬性在我們的工作中被認為是linevecs方向。值得注意的是,在同一linevec中的線具有相同的方向,所以每個linevec具有獨特的方向。乍一看,在圖像對中對相應的linevecs方向是模糊的和不可靠的,圖像對有任意旋轉的變化。但圖像對之間往往存在近似全局旋轉角是正確的。為了可以減少候選匹配的數量,我們使用這個屬性。
在[ 6 ]中,引用和查詢圖像( reference and query images)的旋轉的近似關系是從點特征對應關系計算的。受此啟發,雖然我們沒有這樣的點對應的信息,我們可以直接計算參考和查詢圖像的LineVec方向直方圖。我們首先計算兩圖像的LineVecs方向直方圖,得到規范化直方圖,下標r表示參考圖像,q表示查詢圖像。然后,我們通過角度
改變
,並且對全局近似旋轉角
搜索。By taking the angle as index in the histogram for simplicity,
估計為:
在實踐中,如果偏移的直方圖距離較小,透視變換可以通過旋轉近似,例如下圖:
估計的:0.349 rad;偏移的直方圖距離:0.243。此外,如果圖像中提取的線的重復性很低,則基於直方圖的方法可能會失敗,即錯誤的旋轉角度可能被該算法接受。
為了提高這種方法的魯棒性,對於直方圖落入同一bins的直線,它們的長度被累加起來。因此,對應於方向直方圖,有一個長度向量,其第i個元素是所有線的累積長度落在方向直方圖的第i個bin中。在我們的實驗中,當最小偏移直方圖距離小於閾值(0.4)時,並且最小偏移長度向量距離小於閾值
(1),我們接受估計的全球旋轉角。一旦
被接受,一對LineVecs就會被匹配,如果
(pi/4),
是它們的方向之間的夾角,它們被認為是不匹配的。如果兩個圖像之間沒有可接受的旋轉角度,那么只測試外觀相似性。
局部外觀相似性:用線描述符的距離度量局部外觀相似性。
對於LineVec的每個直線,我們從線提取的(octave image)圖像中生成一個LBD描述符向量V。當從一對圖像中提取的兩組LineVec做匹配, a reference LineVec and a test LineVec的所有描述符之間的距離被評估,最小的描述距離用來測量LineVec外觀相似s。如果(0.35)(
是局部外觀不同的容忍度),那么相應的兩LineVec不會進一步考慮。
檢查LineVecs的一元幾何屬性和局部外觀相似性后,通過這些測試的配對被視為候選匹配。應該選擇一組寬松的閾值,否則會有很大的機會錯過正確匹配。在我們的實驗中,閾值憑經驗設為。候選匹配的數量比實際匹配的數量要大,因為人們不能僅僅依賴於上述的驗證來決定最終的匹配結果。然而,與直接組合相比,以上檢查仍然大大減少了下列圖形匹配問題的維數。
2.建立關系圖
對於一組候選匹配,我們建立了一個關系圖的節點代表潛在的對應,在連接的權重表示他們成對之間的一致性。
注意:在代碼中,left image對應reference image,Right image對應query image,是在每個圖中選取了兩條線段,標注為。
給定一組k候選匹配,關系圖被一個鄰接矩陣A表示,其大小為k×k [30]。行為i,列為j的A的元素的值是候選的LineVec匹配的一致性得分和
,其中
是reference image的LineVecs,
是query image的LineVecs。由成對幾何屬性和候選配對的外觀相似性計算一致性得分。
成對幾何屬性:為了描述兩LineVecs的成對幾何特征,我們選擇兩條線
,which lead to這兩LineVecs之間的最小描述距離並且在原始圖像定位端點位置。隨后,我們描述
的幾何屬性通過其交叉比率
,投影比例
,相對角
如下圖:
計算同理。
通過線的方向很方便計算出來。這三個屬性對平移、旋轉和縮放的變化是不變的。
外觀相似性(前面已提到過):我們利用LBD描述子矢量V來表示線條的局部外觀。假設這個描述子對於LineVecs有最小距離
在reference and query images,對於LineVecs
是
。we get two sets of pairwise geometric attributes and local appearances for two candidate matches
and
as:
和
。
一致性得分(the consistent score)的計算:
其中是幾何相似性;
是局部外觀相似性;
是條件
:在
中的每個元素不超過1。與[5]相比,在我們的工作中,
的定義對線檢測的碎片問題有更好的穩定性,因為只要在參考圖像和查詢圖像中的有一對匹配線被很好地提取出來,那么無論另一對如何提取,
會非常小。
的定義有同樣優勢。
我們設置
對於所有候選匹配,我們計算它們之間的一致性得分,並獲得鄰接矩陣A。
Leordeanu [ 31 ]為更好的結果,建議A對角線上的元素為0,並且保持對稱性。
3.生成最終匹配結果
匹配的問題現在簡化為尋找匹配簇最大化總的一致性得分
,這樣可以滿足映射約束。
我們使用一個指標向量表示這個簇
,否則為0。
因此匹配問題被表述為:,其中x受制於映射約束。一般二次規划技術計算量太大,無法解決這個問題。我們采用光譜技術,對x放寬的映射約束和積分約束,使得它的元素可以在采取實際值在[0,1]。
通過Raleigh的比例定理[30],最大化的
是A的主要的特征向量。它仍然是使用映射約束二值化特征向量和獲得最優解的一個強大的近似。映射約束應用在這里有片面性約束[ 16,14 ]和一對一的約束。該算法的詳細信息如下:
最后的線段匹配可以從linevecs LM的匹配結果直接檢索。注意,在LineVec的線位於圖像的同一區域,並且具有同一方向,因此,對於每對linevec的匹配,線段匹配有一對就足夠檢索了。
線匹配實驗
表3總結了該算法的參數設置。
表4中顯示了比較結果:整體看來LBD+S&G的效果是比較好的。
LP:Line matching leveraged by point correspondences(逐點匹配)
LS:Wide-baseline image matching using line signatures(基於線特征的寬基線圖像匹配)
MSLD: a robust descriptor for line matching
Match precision:匹配的精度