原文:Deep learning:五十一(CNN的反向求导及练习)

前言: CNN作为DL中最成功的模型之一,有必要对其更进一步研究它。虽然在前面的博文Stacked CNN简单介绍中有大概介绍过CNN的使用,不过那是有个前提的:CNN中的参数必须已提前学习好。而本文的主要目的是介绍CNN参数在使用bp算法时该怎么训练,毕竟CNN中有卷积层和下采样层,虽然和MLP的bp算法本质上相同,但形式上还是有些区别的,很显然在完成CNN反向传播前了解bp算法是必须的。本文 ...

2013-12-10 23:36 49 135057 推荐指数:

查看详情

Deep learning十一(PCA和whitening在二维数据中的练习)

  前言:   这节主要是练习下PCA,PCA Whitening以及ZCA Whitening在2D数据上的使用,2D的数据集是45个数据点,每个数据点是2维的。参考的资料是:Exercise:PCA in 2D。结合前面的博文Deep learning:十(PCA和whitening ...

Fri Mar 22 00:07:00 CST 2013 8 14905
Deep learning:三十一(数据预处理练习)

  前言:   本节主要是来练习下在machine learning(不仅仅是deep learning)设计前的一些数据预处理步骤,关于数据预处理的一些基本要点在前面的博文Deep learning:三十(关于数据预处理的相关技巧)中已有所介绍,无非就是数据的归一化和数据的白化,而数据 ...

Wed Apr 24 17:47:00 CST 2013 7 16537
Deep Learning基础--Softmax求导过程

一、softmax函数 softmax用于多分类过程中,它将多个神经元的输出,映射到(0,1)区间内,可以看成概率来理解,从而来进行多分类! 假设我们有一个数组,V,Vi表示V中的第i个元素 ...

Tue Jul 10 02:53:00 CST 2018 0 1391
Deep learning:四(logistic regression练习)

  前言:   本节来练习下logistic regression相关内容,参考的资料为网页:http://openclassroom.stanford.edu/MainFolder/DocumentPage.php?course=DeepLearning&doc ...

Sun Mar 17 05:59:00 CST 2013 12 29183
Deep learning:二(linear regression练习)

  前言   本文是多元线性回归的练习,这里练习的是最简单的二元线性回归,参考斯坦福大学的教学网http://openclassroom.stanford.edu/MainFolder/DocumentPage.php?course=DeepLearning&doc ...

Sat Mar 16 00:20:00 CST 2013 25 37188
Deep learning:九(Sparse Autoencoder练习)

  前言:   现在来进入sparse autoencoder的一个实例练习,参考Ng的网页教程:Exercise:Sparse Autoencoder。这个例子所要实现的内容大概如下:从给定的很多张自然图片中截取出大小为8*8的小patches图片共10000张,现在需要用sparse ...

Wed Mar 20 18:58:00 CST 2013 103 51508
deep learning(rnn、cnn)调参的经验?

整理的链接:https://www.zhihu.com/question/41631631 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 ...

Mon Jun 27 19:54:00 CST 2016 0 2573
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM