3.對神經網絡訓練中Epoch的理解


 

代表的是迭代的次數,如果過少會欠擬合,反之過多會過擬合

EPOCHS
當一個完整的數據集通過了神經網絡一次並且返回了一次,這個過程稱為一個 epoch。
 
然而,當一個 epoch 對於計算機而言太龐大的時候,就需要把它分成多個小塊。
 
為什么要使用多於一個 epoch?
我知道這剛開始聽起來會很奇怪,在神經網絡中傳遞完整的數據集一次是不夠的,而且我們需要將完整的數據集在同樣的神經網絡中傳遞多次。但是請記住,我們使用的是有限的數據集,並且我們使用一個迭代過程即梯度下降,優化學習過程和圖示。因此僅僅更新權重一次或者說使用一個 epoch 是不夠的。
 
 
隨着 epoch 數量增加,神經網絡中的權重的更新次數也增加,曲線從欠擬合變得過擬合。
 
那么,幾個 epoch 才是合適的呢?
不幸的是,這個問題並沒有正確的答案。對於不同的數據集,答案是不一樣的。但是數據的多樣性會影響合適的 epoch 的數量。比如,只有黑色的貓的數據集,以及有各種顏色的貓的數據集。

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM