L1不可導的時候該怎么辦


坐標軸下降法

比較淺顯的解釋:

坐標軸下降法(解決L1正則化不可導的問題)

以代碼進行簡單入門的博客(演示的代價函數是可導的):

Coordinate descent in Python

Introduction to Coordinate Descent using Least Squares Regression

這里有兩篇以Lasso為例演示坐標軸下降解決不可導的代價函數:

Lasso regression: derivation of the coordinate descent update rule

Lasso regression: implementation of coordinate descent

花書 P196有相關內容

Proximal Algorithm

L1范數的最優化過程是怎么樣的?梯度下降遇到不可導點怎么辦? - li Eta的回答 - 知乎
https://www.zhihu.com/question/38426074/answer/76683857

西瓜書 P253有相關內容


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM