) 的推断问题，需要在对数函数的内部进行求和（或积分） 注意到，对数边际似然log p(x; θ) ...

概述 在讨论变分自编码器前，我觉得有必要先讨论清楚它与自编码器的区别是什么，它究竟是干什么用的。否则看了一堆公式也不知道变分自编码器究竟有什么用。 众所周知，自编码器是一种数据压缩方式，它把一个数据点\(x\)有损编码为低维的隐向量\(z\)，通过\(z\)可以解码重构回\(x\)。这是一个 ...

　　变分自编码器（variational autoencoder, VAE）是一种生成模型，训练模型分为编码器和解码器两部分。 　　编码器将输入样本映射为某个低维分布，这个低维分布通常是不同维度之间相互独立的多元高斯分布，因此编码器的输出为这个高斯分布的均值与对数方差（因为方差总是大于 ...

    自编码器是无监督学习领域中一个非常重要的工具。最近由于图神经网络的兴起，图自编码器得到了广泛的关注。笔者最近在做相关的工作，对科研工作中经常遇到的：图自编码器（GAE）和图变分自编码器（VGAE）进行了总结。如有不对之处，请多多指正。 自编码器（AE）     在解释图自编码器之前 ...

变分自编码器介绍、推导及实现 0. 预备知识 0.1 信息量 在信息理论中，我们用以下式子来量化一个事件 的信息量 : 当 底数为 e 时，信息量的单位为 nat（奈特），当 底数为 2 时，信息量的单位为 bit（比特）。 0.2 信息熵（Entropy ...

提前导包： 1.自编码器（Auto-Encoder） 2.变分自动编码器（Variational Auto-Encoder） 代码中的h和图中的ci，计算方法略有不同，代码中没有用指数。 KL散度计算公式（代码中与sigma相乘 ...

AutoEncoder作为NN里的一类模型，采用无监督学习的方式对高维数据进行高效的特征提取和特征表示，并且在学术界和工业界都大放异彩。本文主要介绍AutoEncoder系列模型框架的演进，旨在梳 ...