深度學習——正則化(L1\L2)(還沒搞明白


什么是正則化?
在機器學習中,我們非常關心模型的預測能力,即模型在新數據上的表現,而不希望過擬合現象的的發生,我們通常使用正則化(regularization)技術來防止過擬合情況。正則化是機器學習中通過顯式的控制模型復雜度來避免模型過擬合、確保泛化能力的一種有效方式。如果將模型原始的假設空間比作“天空”,那么天空飛翔的“鳥”就是模型可能收斂到的一個個最優解。在施加了模型正則化后,就好比將原假設空間(“天空”)縮小到一定的空間范圍(“籠子”),這樣一來,可能得到的最優解能搜索的假設空間也變得相對有限。有限空間自然對應復雜度不太高的模型,也自然對應了有限的模型表達能力。這就是“正則化有效防止模型過擬合的”一種直觀解析。

 

 

 

鏈接:https://blog.csdn.net/vv___/article/details/116396475

https://blog.csdn.net/qq_32806793/article/details/100300925


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM