概述 在討論變分自編碼器前，我覺得有必要先討論清楚它與自編碼器的區別是什么，它究竟是干什么用的。否則看了一堆公式也不知道變分自編碼器究竟有什么用。 眾所周知，自編碼器是一種數據壓縮方式，它把一個數據點\(x\)有損編碼為低維的隱向量\(z\)，通過\(z\)可以解碼重構回\(x\)。這是一個 ...

AutoEncoder作為NN里的一類模型，采用無監督學習的方式對高維數據進行高效的特征提取和特征表示，並且在學術界和工業界都大放異彩。本文主要介紹AutoEncoder系列模型框架的演進，旨在梳 ...

EM算法 EM算法是含隱變量圖模型的常用參數估計方法，通過迭代的方法來最大化邊際似然。 帶隱變量的貝葉斯網絡 給定N 個訓練樣本D={x(n)}，其對數似然函數為： 通過最大化整個訓 ...

引言 前面三篇文章介紹了變分推斷（variational inference），這篇文章將要介紹變分自編碼器，但是在介紹變分自編碼器前，我們先來了解一下傳統的自編碼器。 自編碼器 自編碼器（autoencoder）屬於無監督學習模型（unsupervised learning ...

變分推斷與變分自編碼器 作者：凱魯嘎吉 - 博客園 http://www.cnblogs.com/kailugaji/ 本文主要介紹變分自編碼器(Variational Auto-Encoder, VAE)及其推導過程，但變分自編碼器涉及一些概率統計的基礎知識，因此為了更好地理解變分 ...

　　神經網絡就是一種特殊的自編碼器，區別在於自編碼器的輸出和輸入是相同的，是一個自監督的過程，通過訓練自編碼器，得到每一層中的權重參數，自然地我們就得到了輸入x的不同的表示（每一層代表一種）這些就是特征，自動編碼器就是一種盡可能復現原數據的神經網絡。 　　“自編碼”是一種 ...

自編碼器論文的提出是為了神經網絡權重更好的初始化，他將多層網絡一層一層的通過自編碼器確定初始權重，最終再對模型進行權重訓練； 這種初始化權重的方式目前已經不是主流，但他的思路可以借鑒到很多場景； 模型簡介 自編碼器，AutoEncode，它分為兩部分，前一部分是編碼器，后一部分是解碼器 ...