什么是正則化?
在機器學習中,我們非常關心模型的預測能力,即模型在新數據上的表現,而不希望過擬合現象的的發生,我們通常使用正則化(regularization)技術來防止過擬合情況。正則化是機器學習中通過顯式的控制模型復雜度來避免模型過擬合、確保泛化能力的一種有效方式。如果將模型原始的假設空間比作“天空”,那么天空飛翔的“鳥”就是模型可能收斂到的一個個最優解。在施加了模型正則化后,就好比將原假設空間(“天空”)縮小到一定的空間范圍(“籠子”),這樣一來,可能得到的最優解能搜索的假設空間也變得相對有限。有限空間自然對應復雜度不太高的模型,也自然對應了有限的模型表達能力。這就是“正則化有效防止模型過擬合的”一種直觀解析。
鏈接:https://blog.csdn.net/vv___/article/details/116396475
https://blog.csdn.net/qq_32806793/article/details/100300925