機器學習,深度學習,神經網絡,深度神經網絡


先來說一下這幾者之間的關系:人工智能包含機器學習,機器學習包含深度學習(是其中比較重要的分支)。深度學習源自於人工神經網絡的研究,但是並不完全等於傳統神經網絡。所以深度學習可以說是在傳統神經網絡基礎上的升級。神經網絡一般有輸入層->隱藏層->輸出層,一般來說隱藏層大於2的神經網絡就叫做深度神經網絡,深度學習就是采用像深度神經網絡這種深層架構的一種機器學習方法。

神經網絡與深度神經網絡的區別在於隱藏層級,通常兩層或兩層以上隱藏層的網絡叫做深度神經網絡。

在神經網絡與深度神經網絡之間,深度神經網絡要優於神經網絡,因為對某個特定問題而言,隱藏層越多,精確度越高。在其他許多任務和領域中同樣可以觀察到這個現象。

深度學習是機器學習研究中的一個新的領域,其動機在於建立、模擬人腦進行分析學習的神經網絡。它模仿人腦的機制來解釋數據,例如圖像,聲音和文本,是無監督學習的一種。

這就好比一個被清空記憶的人重新開始認知世界,你不能直接告訴他他自己是誰,但是只要給了他足夠的信息他就能自己發明和領悟新的信息。

簡單的說:深度學習就是如何讓機器能夠自己掌握學習能力。


深度學習的算法又分很多種,比較典型的四種:卷積神經網絡 — CNN, 循環神經網絡 — RNN, 生成對抗網絡 — GANs, 深度強化學習 — RL

我們以卷積網絡為例。

卷積神經網絡是人工神經網絡的一種,已成為當前語音分析和圖像識別領域的研究熱點。它的權值共享網絡結構使之更類似於生物神經網絡,降低了網絡模型的復雜度,減少了權值的數量。該優點在網絡的輸入是多維圖像時表現的更為明顯,使圖像可以直接作為網絡的輸入,避免了傳統識別算法中復雜的特征提取和數據重建過程。

全鏈接DNN的結構里下層神經元和所有上層神經元都能夠形成連接,帶來了參數數量的膨脹問題。例如,1000*1000的像素圖像,光這一層就有10^12個權重需要訓練。此時我們可以用卷積神經網絡CNN,對於CNN來說,並不是所有上下層神經元都能直接相連,而是通過“卷積核”作為中介。同一個卷積核在所有圖像內是共享的,圖像通過卷積操作后仍然保留原先的位置關系。圖像輸入層到隱含層的參數瞬間降低到了100*100*100=10^6個 。

卷積網絡是為識別二維形狀而特殊設計的一個多層感知器,這種網絡結構對平移、比例縮放、傾斜或者共他形式的變形具有高度不變性。

卷積網絡在本質上是一種輸入到輸出的映射,它能夠學習大量的輸入與輸出之間的映射關系,而不需要任何輸入和輸出之間的精確的數學表達式。其優點在於權重共享策略減少了需要訓練的參數,相同的權重可以讓濾波器不受信號位置的影響來檢測信號的特性,使得訓練出來的模型的泛化能力更強;池化運算可以降低網絡的空間分辨率,從而消除信號的微小偏移和扭曲,從而對輸入數據的平移不變性要求不高。

 

參考:知乎郵電君


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM