原文:Deep learning:五十一(CNN的反向求導及練習)

前言: CNN作為DL中最成功的模型之一,有必要對其更進一步研究它。雖然在前面的博文Stacked CNN簡單介紹中有大概介紹過CNN的使用,不過那是有個前提的:CNN中的參數必須已提前學習好。而本文的主要目的是介紹CNN參數在使用bp算法時該怎么訓練,畢竟CNN中有卷積層和下采樣層,雖然和MLP的bp算法本質上相同,但形式上還是有些區別的,很顯然在完成CNN反向傳播前了解bp算法是必須的。本文 ...

2013-12-10 23:36 49 135057 推薦指數:

查看詳情

Deep learning十一(PCA和whitening在二維數據中的練習)

  前言:   這節主要是練習下PCA,PCA Whitening以及ZCA Whitening在2D數據上的使用,2D的數據集是45個數據點,每個數據點是2維的。參考的資料是:Exercise:PCA in 2D。結合前面的博文Deep learning:十(PCA和whitening ...

Fri Mar 22 00:07:00 CST 2013 8 14905
Deep learning:三十一(數據預處理練習)

  前言:   本節主要是來練習下在machine learning(不僅僅是deep learning)設計前的一些數據預處理步驟,關於數據預處理的一些基本要點在前面的博文Deep learning:三十(關於數據預處理的相關技巧)中已有所介紹,無非就是數據的歸一化和數據的白化,而數據 ...

Wed Apr 24 17:47:00 CST 2013 7 16537
Deep Learning基礎--Softmax求導過程

一、softmax函數 softmax用於多分類過程中,它將多個神經元的輸出,映射到(0,1)區間內,可以看成概率來理解,從而來進行多分類! 假設我們有一個數組,V,Vi表示V中的第i個元素 ...

Tue Jul 10 02:53:00 CST 2018 0 1391
Deep learning:四(logistic regression練習)

  前言:   本節來練習下logistic regression相關內容,參考的資料為網頁:http://openclassroom.stanford.edu/MainFolder/DocumentPage.php?course=DeepLearning&doc ...

Sun Mar 17 05:59:00 CST 2013 12 29183
Deep learning:二(linear regression練習)

  前言   本文是多元線性回歸的練習,這里練習的是最簡單的二元線性回歸,參考斯坦福大學的教學網http://openclassroom.stanford.edu/MainFolder/DocumentPage.php?course=DeepLearning&doc ...

Sat Mar 16 00:20:00 CST 2013 25 37188
Deep learning:九(Sparse Autoencoder練習)

  前言:   現在來進入sparse autoencoder的一個實例練習,參考Ng的網頁教程:Exercise:Sparse Autoencoder。這個例子所要實現的內容大概如下:從給定的很多張自然圖片中截取出大小為8*8的小patches圖片共10000張,現在需要用sparse ...

Wed Mar 20 18:58:00 CST 2013 103 51508
deep learning(rnn、cnn)調參的經驗?

整理的鏈接:https://www.zhihu.com/question/41631631 來源:知乎 著作權歸作者所有。商業轉載請聯系作者獲得授權,非商業轉載請注明出處。 ...

Mon Jun 27 19:54:00 CST 2016 0 2573
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM