科霍寧SOFM是一個前饋無監督學習網絡，它由兩層組成：輸入層和輸出層。輸入層，也稱匹配層，計算輸入模式向量與權重向量的距離，即匹配度；輸出層也叫比賽層，諸神按照匹配度比賽，匹配度大(距離小)的神經元確定獲勝。獲勝神經元及其場中神經元的權重向量在更接近模式向量的方向上更新。經過反復的競爭和更新 ...

目錄 最優化方法 1 - 梯度下降 Gradient Descent 2 - Mini-Batch Gradient descent 3 - 動量Momentum 4 - Adam 5 - 總結 最優化方法 本文只對吳恩達最優化方法中原 ...

學習率如何影響訓練？ from:https://www.jiqizhixin.com/articles/2017-11-17-2 深度學習模型通常由隨機梯度下降算法進行訓練。隨機梯度下降算法有許多 ...

本文來自於 [1] BP神經網絡 和 [2] Wikipedia: Backpropagation，感謝原文作者！ 1- M-P模型 　　按照生物神經元，我們建立M-P模型。為了使得建模更加簡單，以便於進行形式化表達，我們忽略時間整合作用、不應期等復雜因素，並把 ...

一、神經元 神經元模型是一個包含輸入，輸出與計算功能的模型。（多個輸入對應一個輸出） 一個神經網絡的訓練算法就是讓權重（通常用w表示）的值調整到最佳，以使得整個網絡的預測效果最好。 事實上，在神經網絡的每個層次中，除了輸出層以外，都會含有這樣一個偏置單元。這些節點是默認存在的。它本質上 ...

一、前言 這篇卷積神經網絡是前面介紹的多層神經網絡的進一步深入，它將深度學習的思想引入到了神經網絡當中，通過卷積運算來由淺入深的提取圖像的不同層次的特征，而利用神經網絡的訓練過程讓整個網絡自動調節卷積核的參數，從而無監督的產生了最適合的分類特征。這個概括可能有點抽象，我盡量在下面描述細致一些 ...

　　無論即將到來的是大數據時代還是人工智能時代，亦或是傳統行業使用人工智能在雲上處理大數據的時代，作為一個有理想有追求的程序員，不懂深度學習這個超熱的技術，會不會感覺馬上就out了？現在救命稻草來了，中國知名黑客教父，東方聯盟創始人郭盛華曾在新浪微博作了以下技術分析： 　　遞歸神經網絡是深度學習 ...

根據本文內容用 Numpy 實現的一個前饋神經網絡 https://github.com/massquantity/DNN_implementation 本篇本來是想寫神經網絡反向傳播算法，但感覺光寫這個不是很完整，所以就在前面將相關的求導內容一並補上。所謂的神經網絡求導，核心是損失函數對線 ...