背景： 項目中需要在 caffe 中增加 binary convolution layer， 所以在單步調試了 minist 的訓練，大致看了一下流程，就詳細看 convolution layer 了。 1、數據結構 　　caffe 的基本數據結構是 Blob，也就是數據流的基本結構 ...

1、Convolution層： 就是卷積層，是卷積神經網絡（CNN）的核心層。 層類型：Convolution 　　lr_mult: 學習率的系數，最終的學習率是這個數乘以solver.prototxt配置文件中的base_lr。如果有兩個lr_mult, 則第一個表示權值的學習 ...

對於convolution: output = (input + 2 * p - k) / s + 1; 對於deconvolution: output = (input - 1) * s ...

剛剛接觸Tensorflow，由於是做圖像處理，因此接觸比較多的還是卷及神經網絡，其中會涉及到在經過卷積層或者pooling層之后，圖像Feature map的大小計算，之前一直以為是與caffe相同的，后來查閱了資料發現並不相同，將計算公式貼在這里，以便查閱： caffe中： TF中 ...

Caffe的卷積原理 Caffe中的卷積計算是將卷積核矩陣和輸入圖像矩陣變換為兩個大的矩陣A與B，然后A與B進行矩陣相乘得到結果C（利用GPU進行矩陣相乘的高效性），三個矩陣的說明如下： （1）在矩陣A中 M為卷積核個數，K=k*k，等於卷積核大小，即第一個矩陣每行為一個 ...

每個卷積核具有長、寬、深三個維度。 卷積核的長、寬都是人為指定的，長X寬也被稱為卷積核的尺寸，常用的尺寸為3X3，5X5等；卷積核的深度與當前圖像的深度（feather map的張數）相同，所以指定卷積核時，只需指定其長和寬兩個參數。 例如，在原始圖像層 （輸入層），如果圖像是灰度圖像 ...

在caffe中，網絡的結構由prototxt文件中給出，由一些列的Layer（層）組成，常用的層如：數據加載層、卷積操作層、pooling層、非線性變換層、內積運算層、歸一化層、損失計算層等；本篇主要介紹pooling層 1. Pooling層總述 下面首先給出pooling層的結構設置的一個 ...

在caffe中，網絡的結構由prototxt文件中給出，由一些列的Layer（層）組成，常用的層如：數據加載層、卷積操作層、pooling層、非線性變換層、內積運算層、歸一化層、損失計算層等；本篇主要介紹全連接層 該層是對元素進行wise to wise的運算 1. 全連接層總述 下面首先給 ...