問題 在只考慮重力的作用的情況下，一質點從點A沿某條曲線到點B，問怎樣的曲線能使所需時間最短？ 這一問題被稱為最速降線問題（Brachistochrone），由約翰·伯努利在1696年提出來挑戰歐 ...

神經元 3B1B先討論最簡單的MLP（多層感知器），只是經典的原版，就已經能識別手寫數字。 這里一開始我們把神經元看作裝有數字的容器，裝着一個0~1之間的數字。但是最后更准確一些，我們把神經元 ...

問題 對於任意的閉合環路，是否總能在其上找到四個點形成一個矩形？ 該問題也被稱為內接矩形問題，而內接正方形問題至今沒有解答方案。 首先我們不再關注單個而是成對的點，並利用矩形的性質：對於平 ...

問題 在圓上任取$n$個點，將每對點用直線連接起來，並規定任意三條線不能交於同一點，這些直線會將圓分割成多少份？ 首先我們列出簡單情況來尋找規律： 2個點將圓分成2份 3個點將圓 ...

代價函數 在一開始，我們會完全隨機地初始化所有的權重和偏置值。可想而知，這個網絡對於給定的訓練示例，會表現得非常糟糕。例如輸入一個3的圖像，理想狀態應該是輸出層3這個點最亮。 可是實際情況並不是這 ...

直觀理解反向傳播 反向傳播算法是用來求那個復雜到爆的梯度的。 上一集中提到一點，13000維的梯度向量是難以想象的。換個思路，梯度向量每一項的大小，是在說代價函數對每個參數有多敏感。 如上圖 ...