[1天搞懂深度學習] 讀書筆記 lecture I:Introduction of deep learning


- 通常機器學習,目的是,找到一個函數,針對任何輸入:語音,圖片,文字,都能夠自動輸出正確的結果。

- 而我們可以弄一個函數集合,這個集合針對同一個貓的圖片的輸入,可能有多種輸出,比如貓,狗,猴子等,而我們通過提供大量的training data給這個函數集合,對集合里的各種函數組合的輸出進行比對,最后選出一個能輸出最佳結果(結果是貓)的組合,那么因為這個組合已經很能夠很准確的識別貓,所以這個組合就能用來檢測圖片里是否是貓。

- 具體來說,下面第一張圖,某一個點為一個函數,而整個網絡機構為函數集合,一個集合里存在非常多的可能,任何函數都可以相互組合進行計算。

 

下面第2張圖的第一列為輸入,第二列為第1層,每個輸入都作為layer1的輸入,輸出后又分別作為layer2的輸入,這樣用窮舉法,遍歷針對每一個輸入的每一種計算可能而那么多layer就定義了一個函數集。

 

- 上面提到的大量的training data,是訓練的素材,而如何判斷針對這些輸入的輸出是否正確呢?我理解就是根據label來的

 

 

 

-. 函數集里的每種函數組合,針對每一個training data產生的結果與 target之間的差稱為LOSS,針對所有training data產生的LOSS之和,就是考察某一個函數組合的goodness的數據指標。目標當然是LOSS越小越好,而關鍵就是找到那個network parameters(即下圖中的b和w,因為這個函數里就這些參數是變化的)讓LOSS最小。所以這個問題,最終成為,針對Loss=f(training data, w,b, 函數組合),找到合適的network parameters讓LOSS最小的問題,通過對這個函數求導就能得到結論:

求導為負數,說明L在減小,就增加w,增加L減小的趨勢。
求導為正,說明L在增加,則減小W,向L增加的方向走。
反復操作,直到求導為0
而每次計算求導時,w前進/后退多少,稱之為learning rate

 

 

找到合適的network parameters,就找到了針對這些training data的正確的函數組合了!這樣學習模型就建立成功,可以實現正確的識別同類型的輸入了!


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM