Deep learning：十九(RBM简单理解)
这篇博客主要用来简单介绍下RBM网络，因为deep learning中的一个重要网络结构DBN就可以由RBM网络叠加而成，所以对RBM的理解有利于我们对DBN算法以及deep learning算法的进一步理解。Deep learning是从06年开始火得，得益于大牛Hinton的文章 ...
原文：Deep learning：四十九(RNN-RBM简单理解)
前言： 本文主要是bengio的deep learning tutorial教程主页中最后一个sample：rnn rbm in polyphonic music. 即用RNN RBM来model复调音乐，训练过程中采用的是midi格式的音频文件，接着用建好的model来产生复调音乐。对音乐建模的难点在与每首乐曲中帧间是高度时间相关的 这样样本的维度会很高 ，用普通的网络模型是不能搞定的 普通设 ...
2013-11-23 21:54 6 88377 推荐指数：
相关推荐
Deep Learning基础--理解LSTM/RNN中的Attention机制
：当输入序列非常长时，模型难以学到合理的向量表示。 在这篇博文中，我们将探索加入LSTM/RNN模型中的a ...
Deep learning：四十六(DropConnect简单理解)
和maxout(maxout简单理解)一样，DropConnect也是在ICML2013上发表的，同样也是为了提高Deep Network的泛化能力的，两者都号称是对Dropout(Dropout简单理解)的改进。 我们知道，Dropout是在训练过程中以一定概率1-p ...
Deep learning：四十一(Dropout简单理解)
前言 训练神经网络模型时，如果训练样本较少，为了防止模型过拟合，Dropout可以作为一种trikc供选择。Dropout是hintion最近2年提出的，源于其文章Improving ...
Deep learning：五十(Deconvolution Network简单理解)
深度网络结构是由多个单层网络叠加而成的，而常见的单层网络按照编码解码情况可以分为下面3类： 既有encoder部分也有decoder部分：比如常见的RBM系列（由RBM可构成的DBM, DBN等），autoencoder系列(以及由其扩展的sparse ...
Deep learning：四十五(maxout简单理解)
maxout出现在ICML2013上，作者Goodfellow将maxout和dropout结合后，号称在MNIST, CIFAR-10, CIFAR-100, SVHN这4个数据上都 ...
deep learning:RBM公式推导+源码 ----- C++
花了好多天去推导RBM公式，只能说数学是硬伤，推导过程在后面给出大概，看了下yusugomori的java版源码，又花了一天时间来写C++版本，其主要思路参照yusugomori。发现java和C++好多地方差不多，呵呵。本人乃初学小娃，错误难免，多多指教。 出处：http ...
deep learning（rnn、cnn）调参的经验？
整理的链接：https://www.zhihu.com/question/41631631 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 调了快1年的rnn, 深刻的感受到,深度学习是一门实验科学,下面是一些炼丹心得. 后面会不断补充 ...