卷積神經網絡CNN的原理(一)---基本概念


  什么是卷積神經網絡呢?這個的確是比較難搞懂的概念,特別是一聽到神經網絡,大家腦海中第一個就會想到復雜的生物學,讓人不寒而栗,那么復雜啊.卷積神經網絡是做什么用的呢?它到底是一個什么東東呢?

卷積神經網絡的靈感源一種生物進程,其中神經元之間的聯結模式和動物視覺皮層組織非常相似。所以發明者把它叫做卷積神經網絡.只是做了類比,沒有生物學知識的同學不要怕,只要有良好的數學基礎(這個也不是很容易喔).

下面看看各方神聖對CNN的概念的定義吧:

  科學的說法:

  卷積神經網絡(Convolutional Neural Network,CNN)是一種前饋神經網絡,它的人工神經元可以響應一部分覆蓋范圍內的周圍單元,對於大型圖像處理有出色表現。 它包括卷積層(convolutional layer)和池化層(pooling layer)。

  通俗的說法:

  簡單說,卷積神經網絡是一種類似於人工神經網絡的深度學習模型或多層感知機,常用於分析和處理視覺數據。

  個人理解:

  卷積神經網絡是一種能夠有效對數據進行分類的神經網絡算法,它的特點是簡單,高效.

  卷積神經網絡為什么那么火?它的優點是什么呢?試用場景又是什么呢?

  卷積神經網絡包括一維卷積神經網絡、二維卷積神經網絡以及三維卷積神經網絡。一維卷積神經網絡常應用於序列類的數據處理;二維卷積神經網絡常應用於圖像類文本的識別;三維卷積神經網絡主要應用於醫學圖像以及視頻類數據識別。

可見,CNN主要用來識別位移、縮放及其他形式扭曲不變性的二維圖形

  發展歷史:

  20世紀60年代,Hubel和Wiesel在研究貓腦皮層中用於局部敏感和方向選擇的神經元時發現其獨特的網絡結構可以有效地降低反饋神經網絡的復雜性,繼而提出了卷積神經網絡(Convolutional Neural Networks-簡稱CNN)。現在,CNN已經成為眾多科學領域的研究熱點之一,特別是在模式分類領域,由於該網絡避免了對圖像的復雜前期預處理,可以直接輸

原始圖像,因而得到了更為廣泛的應用。 K.Fukushima在1980年提出的新識別機是卷積神經網絡的第一個實現網絡。隨后,更多的科研工作者對該網絡進行了改進。其中,具有代表性的研究成果是Alexander和Taylor提出的“改進認知機”,該方法綜合了各種改進方法的優點並避免了耗時的誤差反向傳播。

  幾個概念:

  1 什么是卷積?

  2 什么是神經網絡?

  卷積神經網絡的步驟解析:

卷積神經網絡模型通常建立在前饋神經網絡模型基礎上,只是隱藏層換成了卷積層、池化層、全連接層

  卷積層:

在卷積層中,我們會計算輸入圖像某個區域和權重矩陣(稱為過濾器)之間的點積結果,過濾器會在整個圖像上滑動,重復相同的點積計算操作。這里不得不提兩樣東西:

 

  • 過濾器的通道必須和輸入圖像的通道數量一致。
  • 通常,隨着網絡的層級越深入,你使用的過濾器也會更多,其背后的原理就是我們使用越多的過濾器就意味着會有更多的邊緣和特征檢測。
 

卷積層輸出的通道數量和卷積計算期間使用的過濾器數量相同。

  池化層:

有兩種最常用的池化方式——平均池化和最大池化,其中后者用的更多些。在卷積神經網絡中,池化層用於降低空間維度,但不會降低網絡的深度。在使用最大池化層時,我們是取用輸入區域(一個 n X m 矩陣)中的最大(圖像中最敏感的區域)特征點,而使用平均池化層時,我們取用輸入區域的平均特征點。
 
  非線性層:

在非線性層中,我們大多時候使用 ReLU 激活函數,或者 S 型激活函數和 Tan-H 激活函數。 ReLU 激活函數會為輸入圖像中的每個負值返回 0,每個正值則返回同樣的值。

  全連接層:

 在全連接層中,我們會將最后一個卷積層的輸出壓平,並把當前層的每個節點和下一層的節點相連。其實全連接層就是一種常規的人工神經網絡,如下圖所示。全連接層中的操作和人工神經網絡中的操作是一某一樣的:

   綜上所述,一個神經網絡的整個過程基本完成,下面我們總結一下卷積神經網絡的過程:

一  卷積運算:前一層的特征圖與一個可學習的卷積核進行卷積運算,卷積的結果經過激活函數后的輸出形成這一層的神經元,從而構成該層特征圖,也稱特征提取層,每個神經元的輸入與前一層的局部感受野相連接,並提取該局部的特征,一旦該局部特征被提取,它與其它特征之間的位置關系就被確定。

二 池化運算:它把輸入信號分割成不重疊的區域,對於每個區域通過池化(下采樣)運算來降低網絡的空間分辨率,比如最大值池化是選擇區域內的最大值,均值池化是計算區域內的平均值。通過該運算來消除信號的偏移和扭曲。

三 全連接運算:輸入信號經過多次卷積核池化運算后,輸出為多組信號,經過全連接運算,將多組信號依次組合為一組信號。

四 識別運算:上述運算過程為特征學習運算,需在上述運算基礎上根據業務需求(分類或回歸問題)增加一層網絡用於分類或回歸計算。

  示例圖如下所示:
  

參考文檔:


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM