原文:Deep learning:十七(Linear Decoders,Convolution和Pooling)

本文主要是学习下Linear Decoder已经在大图片中经常采用的技术convolution和pooling,分别参考网页http: deeplearning.stanford.edu wiki index.php UFLDL Tutorial中对应的章节部分。 Linear Decoders: 以三层的稀疏编码神经网络而言,在sparse autoencoder中的输出层满足下面的公式: 从 ...

2013-03-25 14:44 4 22531 推荐指数:

查看详情

Deep Learning 学习随记(七)Convolution and Pooling --卷积和池化

图像大小与参数个数: 前面几章都是针对小图像块处理的,这一章则是针对大图像进行处理的。两者在这的区别还是很明显的,小图像(如8*8,MINIST的28*28)可以采用全连接的方式(即输入层和隐含层直 ...

Sun Nov 10 00:39:00 CST 2013 0 4430
Deep learning:四十七(Stochastic Pooling简单理解)

  CNN中卷积完后有个步骤叫pooling, 在ICLR2013上,作者Zeiler提出了另一种pooling手段(最常见的就是mean-pooling和max-pooling),叫stochastic pooling,在他的文章还给出了效果稍差点的probability ...

Wed Nov 20 03:11:00 CST 2013 3 25241
Deep learning:二(linear regression练习)

  前言   本文是多元线性回归的练习,这里练习的是最简单的二元线性回归,参考斯坦福大学的教学网http://openclassroom.stanford.edu/MainFolder/Doc ...

Sat Mar 16 00:20:00 CST 2013 25 37188
Deep learning:三十七(Deep learning中的优化方法)

  内容:   本文主要是参考论文:On optimization methods for deep learning,文章内容主要是笔记SGD(随机梯度下降),LBFGS(受限的BFGS),CG(共轭梯度法)三种常见优化算法的在deep learning体系中的性能。下面是一些读完的笔记 ...

Thu May 02 08:04:00 CST 2013 1 27541
Deep learning:二十二(linear decoder练习)

  前言:   本节是练习Linear decoder的应用,关于Linear decoder的相关知识介绍请参考:Deep learning十七(Linear DecodersConvolutionPooling),实验步骤参考Exercise: Implement deep ...

Mon Apr 08 22:34:00 CST 2013 29 11316
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM