原文:Deep learning:十七(Linear Decoders,Convolution和Pooling)

本文主要是學習下Linear Decoder已經在大圖片中經常采用的技術convolution和pooling,分別參考網頁http: deeplearning.stanford.edu wiki index.php UFLDL Tutorial中對應的章節部分。 Linear Decoders: 以三層的稀疏編碼神經網絡而言,在sparse autoencoder中的輸出層滿足下面的公式: 從 ...

2013-03-25 14:44 4 22531 推薦指數:

查看詳情

Deep Learning 學習隨記(七)Convolution and Pooling --卷積和池化

圖像大小與參數個數: 前面幾章都是針對小圖像塊處理的,這一章則是針對大圖像進行處理的。兩者在這的區別還是很明顯的,小圖像(如8*8,MINIST的28*28)可以采用全連接的方式(即輸入層和隱含層直 ...

Sun Nov 10 00:39:00 CST 2013 0 4430
Deep learning:四十七(Stochastic Pooling簡單理解)

  CNN中卷積完后有個步驟叫pooling, 在ICLR2013上,作者Zeiler提出了另一種pooling手段(最常見的就是mean-pooling和max-pooling),叫stochastic pooling,在他的文章還給出了效果稍差點的probability ...

Wed Nov 20 03:11:00 CST 2013 3 25241
Deep learning:二(linear regression練習)

  前言   本文是多元線性回歸的練習,這里練習的是最簡單的二元線性回歸,參考斯坦福大學的教學網http://openclassroom.stanford.edu/MainFolder/Doc ...

Sat Mar 16 00:20:00 CST 2013 25 37188
Deep learning:三十七(Deep learning中的優化方法)

  內容:   本文主要是參考論文:On optimization methods for deep learning,文章內容主要是筆記SGD(隨機梯度下降),LBFGS(受限的BFGS),CG(共軛梯度法)三種常見優化算法的在deep learning體系中的性能。下面是一些讀完的筆記 ...

Thu May 02 08:04:00 CST 2013 1 27541
Deep learning:二十二(linear decoder練習)

  前言:   本節是練習Linear decoder的應用,關於Linear decoder的相關知識介紹請參考:Deep learning十七(Linear DecodersConvolutionPooling),實驗步驟參考Exercise: Implement deep ...

Mon Apr 08 22:34:00 CST 2013 29 11316
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM