卷積神經網絡CNN

作者：凱魯嘎吉 - 博客園 http://www.cnblogs.com/kailugaji/

卷積神經網絡（Convolutional Neural Network，CNN 或ConvNet）是一種具有局部連接、權重共享等特性的深層前饋神經網絡。卷積神經網絡最早主要是用來處理圖像信息。在用全連接前饋網絡來處理圖像時，會存在以下兩個問題：（1）參數太多，（2）局部不變性特征。

卷積神經網絡是受生物學上感受野機制的啟發而提出的。感受野（Receptive Field）機制主要是指聽覺、視覺等神經系統中一些神經元的特性，即神經元只接受其所支配的刺激區域內的信號。在視覺神經系統中，視覺皮層中的神經細胞的輸出依賴於視網膜上的光感受器。視網膜上的光感受器受刺激興奮時，將神經沖動信號傳到視覺皮層，但不是所有視覺皮層中的神經元都會接受這些信號。一個神經元的感受野是指視網膜上的特定區域，只有這個區域內的刺激才能夠激活該神經元。

目前的卷積神經網絡一般是由卷積層、匯聚層和全連接層交叉堆疊而成的前饋神經網絡。卷積神經網絡有三個結構上的特性：局部連接、權重共享以及匯聚。這些特性使得卷積神經網絡具有一定程度上的平移、縮放和旋轉不變性。和前饋神經網絡相比，卷積神經網絡的參數更少。

本博文主要考古了卷積神經網絡，重點考古了卷積與互相關的區別與聯系，池化操作，以及幾種典型的卷積神經網絡：LeNet-5(詳細介紹每層參數由來)，AlexNet與VGG。