深度聚類算法研究綜述(A Survey of Deep Clustering Algorithms)
作者:凱魯嘎吉 - 博客園 http://www.cnblogs.com/kailugaji/
深度聚類的博客寫了幾篇,也曾總結過專門的一篇博客:深度聚類算法,但並不全面。這篇博客對現有的深度聚類算法進行全面綜述與總結,大部分內容來自於:第40期:基於深度神經網絡的聚類算法——郭西風以及郭西風博士論文:基於深度神經網絡的圖像聚類算法研究。現有的深度聚類算法大都由聚類損失與網絡損失兩部分構成,博客從兩個視角總結現有的深度聚類算法,即聚類模型與神經網絡模型。
1. 什么是深度聚類?
2. 從兩個視角看深度聚類
3. 從聚類模型看深度聚類
3.1 基於K-means的深度聚類
參考:聚類——K-means - 凱魯嘎吉 - 博客園
3.2 基於譜聚類的深度聚類
參考:多視圖子空間聚類/表示學習(Multi-view Subspace Clustering/Representation Learning) ,關於“On the eigenvectors of p-Laplacian”目標函數的優化問題 - 凱魯嘎吉 - 博客園
3.3 基於子空間聚類(Subspace Clustering, SC)的深度聚類
參考:深度多視圖子空間聚類,多視圖子空間聚類/表示學習(Multi-view Subspace Clustering/Representation Learning),字典更新與K-SVD - 凱魯嘎吉 - 博客園
3.4 基於高斯混合模型(Gaussian Mixture Model, GMM)的深度聚類
參考:聚類——GMM,基於圖嵌入的高斯混合變分自編碼器的深度聚類(Deep Clustering by Gaussian Mixture Variational Autoencoders with Graph Embedding, DGG) - 凱魯嘎吉 - 博客園
3.5 基於互信息的深度聚類
參考:COMPLETER: 基於對比預測的缺失視圖聚類方法,Meta-RL——Decoupling Exploration and Exploitation for Meta-Reinforcement Learning without Sacrifices - 凱魯嘎吉 - 博客園
3.6 基於KL的深度聚類
參考:Deep Clustering Algorithms ,關於“Unsupervised Deep Embedding for Clustering Analysis”的優化問題,結構深層聚類網絡,具有協同訓練的深度嵌入多視圖聚類 - 凱魯嘎吉 -博客園
4. 從神經網絡模型看深度聚類
4.1 基於自編碼器(AutoEncoder, AE)的深度聚類
參考:Deep Clustering Algorithms - 凱魯嘎吉 - 博客園 (DEC, IDEC, DFKM, DCEC)
4.2 基於變分自編碼器(Variational AutoEncoder, VAE)的深度聚類
參考:變分推斷與變分自編碼器,變分深度嵌入(Variational Deep Embedding, VaDE) ,基於圖嵌入的高斯混合變分自編碼器的深度聚類(Deep Clustering by Gaussian Mixture Variational Autoencoders with Graph Embedding, DGG),元學習——Meta-Amortized Variational Inference and Learning,RL——Deep Reinforcement Learning amidst Continual/Lifelong Structured Non-Stationarity - 凱魯嘎吉 - 博客園
4.3 基於生成對抗網絡(Generative Adversarial Network, GAN)的深度聚類
參考:生成對抗網絡(GAN與W-GAN) ,ClusterGAN: 生成對抗網絡中的潛在空間聚類,雙層優化問題:統一GAN,演員-評論員與元學習方法(Bilevel Optimization Problem unifies GAN, Actor-Critic, and Meta-Learning Methods) - 凱魯嘎吉 - 博客園
4.4 基於孿生網絡(Siamese Neural Network)/對比學習(Contrastive Learning)的深度聚類
參考:從對比學習(Contrastive Learning)到對比聚類(Contrastive Clustering),COMPLETER: 基於對比預測的缺失視圖聚類方法 - 凱魯嘎吉 - 博客園
4.5 基於圖神經網絡(Graph Neural Network)的深度聚類
參考:結構深層聚類網絡 - 凱魯嘎吉 -博客園
5. 參考文獻
[1] 第40期:基於深度神經網絡的聚類算法——郭西風 https://www.bilibili.com/video/BV1H3411t7Vk?spm_id_from=333.999.0.0
[2] 物以類聚人以群分:聚類分析的一些挑戰和進展 - 凱魯嘎吉 - 博客園
[3] A Survey of Deep Clustering Algorithms - 凱魯嘎吉 - 博客園
[4] Deep Clustering | Deep Learning Notes
[5] 郭西風. 基於深度神經網絡的圖像聚類算法研究[D]. 國防科技大學, 2020.