在解決一些簡單的分類問題時，線性回歸與邏輯回歸就足以應付，但面對更加復雜的問題時（例如對圖片中車的類型進行識別），運用之前的線性模型可能就得不到理想的結果，而且由於更大的數據量，之前方法的計算量也會變得異常龐大。因此我們需要學習一個非線性系統：神經網絡。 我在學習 ...

1. 從一個栗子開始 - Slot Filling 比如在一個訂票系統上，我們的輸入 “Arrive Taipei on November 2nd” 這樣一個序列，我們設置幾個槽位（Slot）， ...

第五章 神經網絡 5.1 神經元模型 神經網絡：是由具有適應性的簡單單元組成的廣泛並行互連的網絡，它能夠模擬生物神經系統對真實世界物體所作出的交互反應。 神經網絡中最基本的成分是神經元模型，即上述定義中的“簡單單元 ...

Cost function（代價函數） 1、參數表示： m 個訓練樣本：{(x(1), y(1)), (x(2), y(2)), ..., (x(m), y(m))} 神經網絡的層數：L l 層的神經元數量（不計入偏置單元）：Sl 2、兩種分類問題： （1）Binary ...

1. 背景: 1.1 以人腦中的神經網絡為啟發，歷史上出現過很多不同版本 1.2 最著名的算法是1980年的 backpropagation 2. 多層向前神經網絡(Multilayer Feed-Forward Neural Network ...

###神經網絡基礎概念 人工神經網絡又叫神經網絡，是借鑒了生物神經網絡的工作原理形成的一種數學模型。神經網絡是機器學習諸多算法中的一種，它既可以用來做有監督的任務，如分類、視覺識別等，也可以用作無監督的任務。同時它能夠處理復雜的非線性問題，它的基本結構是神經元，如下圖所示： 其中，x1 ...

　　機器學習中，神經網絡算法可以說是當下使用的最廣泛的算法。神經網絡的結構模仿自生物神經網絡，生物神經網絡中的每個神經元與其他神經元相連，當它“興奮”時，想下一級相連的神經元發送化學物質，改變這些神經元的電位；如果某神經元的電位超過一個閾值，則被激活，否則不被激活。誤差逆傳播算法（error ...

這一章可能是Andrew Ng講得最不清楚的一章，為什么這么說呢？這一章主要講后向傳播(Backpropagration, BP)算法，Ng花了一大半的時間在講如何計算誤差項$\delta$，如何計算 ...