深度學習方法及應用——學習筆記


學習教材是鄧力和俞棟寫的“深度學習方法及應用”,是一本綜述性的書。

1、深度學習全稱應該是深度結構學習,采用多層的、非線性信息處理方法,大概就是結構比較深的神經網絡算法,也是包括輸入層、隱層(多層)、輸出層組成的多層網絡,只有相鄰層節點之間有連接,同一層以及跨層節點之間相互無連接,每一層可以看作是一個邏輯回歸模型;這種分層結構,是比較接近人類大腦的結構的。深度學習算法的實現依賴於三個因素:①算法本身的提出;②硬件處理性能的提升;③大量可用於訓練的數據。

2、屬於機器學習,既然這樣,就包括有監督和無監督的深度學習網絡,還有一種混合深度學習網絡,就是利用無監督學習進行預訓練,輔助下一個階段的監督學習。

3、無監督的深度學習網絡的經典方法是深度自編碼器,此外還有深度玻爾茲曼機、和積網絡、遞歸神經網絡、;

4、混合深度學習網絡適用於在訓練數據有限,並且沒有其他合適的正則化方法可利用的情況下,這種獨特的預訓練方法是以受限玻爾茲曼機為基礎的,利用無監督的深度置信網絡預訓練深度卷積神經網絡就是一種混合深度網絡;

5、有監督的深度學習網絡,有深度堆疊式網絡,卷積神經網絡等。

6、深度學習在自然語言處理、信息檢索等都有成功的應用;

7、而在計算機視覺領域中有關圖像目標識別也有很多的應用,深度卷積神經網絡就是一例。

8、在多模態處理和多任務學習中的應用。比如說文本和圖像、語音和圖像的共同作為訓練樣本。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM