Representation Learning with Contrastive Predictive Coding
Representation Learning with Contrastive Predictive Coding ...
原文：Neural Discrete Representation Learning(VQ-VAE)
發表時間： NIPS 文章要點：文章設計了一個新的基於VAE的自編碼器Vector Quantised Variational AutoEncoder VQ VAE 。區別在於之前的自編碼器去學latent representation的時候都是去學一個連續的向量，這篇文章學了一個離散的表示。注意，離散並不意味着one hot,只要是離散的數字就ok。 比如圖中這個圖像的例子，最后學到的z la ...
2021-08-10 06:29 0 103 推薦指數：
相關推薦
Exploring Simple Siamese Representation Learning【閱讀筆記】
arxiv上23號新放出的何凱明大神的新作。針對Siamese Network中的collapsing問題進行了分析，並指出，目前避免這個問題的一些方法：負樣本，大batch，momentum enc ...
Momentum Contrast for Unsupervised Visual Representation Learning (MoCo)
Momentum Contrast for Unsupervised Visual Representation Learning 一、Methods Previously Proposed 1. End-to-end Mechanisms 方法簡介：對於每個mini-batch ...
VAE
Auto-encoder the problem of AE VAE the difference between AE and VAE: VAE is AE's encoder + noise A random normal distribution ...
網絡表示學習Network Representation Learning/Embedding
網絡表示學習相關資料 網絡表示學習（network representation learning，NRL）,也被稱為圖嵌入方法（graph embedding method，GEM）是這兩年興起的工作，目前很熱，許多直接研究網絡表示學習的工作和同時優化網絡表示+下游任務的工作正在進行 ...
VAE
VAE學習總結 VAE是變分推斷（variational inference ）以及自編碼器（Auto-encoder）的組合，是一種非監督的生成模型。 圖1 自編碼器（Auto-encoder） 其中，自編 ...
用VAE（variational autoencoder）做sentence embedding/representation或者其他任何結構數據的熱presentation
VAE是一個神奇得算法，其實思想倒是有點像word2vec，只是在其上加了一層bayesian的思想，這點上又倒是有點像LDA了； 個人覺得，VAE挖掘的好的話，倒是有很大的潛力和應用的，因為它是真正意義上的無監督的，句子表示成向量之后，然后你就可以想干嘛就干嘛了； 簡單介紹一下VAE ...
《Neural Networks and Deep Learning》課程筆記
Lesson 1 Neural Network and Deep Learning 這篇文章其實是 Coursera 上吳恩達老師的深度學習專業課程的第一門課程的課程筆記。 參考了其他人的筆記繼續歸納的。 邏輯回歸 (Logistic Regression) 邏輯回歸的定義 神經網絡 ...