課上習題
【1】代價函數

【2】代價函數計算

【3】

【4】矩陣的向量化

【5】梯度校驗

Answer:(1.013 -0.993) / 0.02 = 3.001
【6】梯度校驗

Answer:學習的時候要去掉梯度校驗,不然會特別慢
【7】隨機初始化

Answer:對於神經網絡這種復雜模型來說,初始值都是同一個值 r,不然第二層會全都一樣。
【8】梯度下降

測驗

Answer: A

Answer:A

Answer:D
3*(1.01)4 - 3*(0.99)4 / 0.02



Answer:ACE
解析E:與邏輯回歸一樣,λ的較大值將懲罰大參數值,從而減少過度擬合訓練集的變化。
解析G: 一個特別大的 λ 可能是非常有害的。 如果將其設置得太大,那么網絡將不適合訓練數據,並且對訓練數據和新的測試數據的預測都很差。


Answer:ADG
