基於KL散度的低秩張量約束模糊多視圖聚類

作者：凱魯嘎吉 - 博客園 http://www.cnblogs.com/kailugaji/

    閱讀文本的前提：多視圖子空間聚類/表示學習(Multi-view Subspace Clustering/Representation Learning)。通過上述文章了解張長青團隊2015ICCV的Low-Rank Tensor Constrained Multiview Subspace Clustering這篇文章大體思路，了解張量的相關概念，ADMM求解過程等，然后再閱讀本篇博文。還需了解奇異值分解(SVD)、張量分解相關知識，可參考最后給出的相關文獻。

    本博文主要對“Low-Rank Tensor Regularized Fuzzy Clustering for Multiview Data”這篇文章進行展開敘述。由於數據通過不同的技術從不同的來源收集，多視圖聚類已成為一種新興的無監督數據分類技術。然而，現有的多視圖軟聚類方法大多只考慮視圖之間的兩兩相關性，而忽略了多視圖之間的高階相關性。為了從不同視角整合更全面的信息，本文創新了一種利用低秩張量的模糊聚類模型來解決多視角數據聚類問題。本文方法首先對數據的不同觀點分別進行標准模糊聚類。然后，將得到的軟划分結果聚合為新的數據，由低秩張量約束的基於Kullback-Leibler (KL)散度的模糊模型處理。用KL散度函數代替傳統的最小歐氏距離，增強了模型的魯棒性。更重要的是，將不同視圖的模糊划分矩陣表示為一個三階張量。因此，在基於KL散度的模糊聚類中引入低秩張量作為范數約束，以靈巧地獲得不同視圖的高階相關性。最終模型的最小化是凸的，本文提出了一種有效的增廣拉格朗日交替方向法來處理這一問題。特別地，利用張量因式分解得到了全局隸屬度。在多個多視圖數據集上與最新的多視圖聚類算法進行了比較，證明了該方法的有效性和優越性。

參考文獻：

[1] H. Wei, L. Chen, K. Ruan, L. Li and L. Chen, "Low-Rank Tensor Regularized Fuzzy Clustering for Multiview Data," IEEE Transactions on Fuzzy Systems, vol. 28, no. 12, pp. 3087-3099, Dec. 2020.

[2] Kolda T G,   Ba Der B W. Tensor Decompositions and Applications[J]. Siam Review, 2009, 51(3):455-500.

[3] Golub G H, Loan C. Matrix Computations, 4th Edition[M]. Johns Hopkins University Press, 2012.

[4] 張量MATLAB工具箱：tensor_toolbox-v3.1

[5] 奇異值分解相關知識：字典更新與K-SVD、Computation of the Singular Value Decomposition

[6] 張量分解-Tucker分解