矩陣分解


矩陣分解-Basic MF

Basic MF是最基礎的分解方式,將評分矩陣R分解為用戶矩陣U和項目矩陣S, 通過不斷的迭代訓練使得U和S的乘積越來越接近真實矩陣,矩陣分解過程如圖:
image

目標函數

預測值與真實值之間的差。采用梯度下降的方式迭代計算U和S,它們收斂時就是分解出來的矩陣。我們用損失函數來表示誤差(等價於目標函數):

\[\sum_{i=1}^{n}\sum_{j=1}^{m}(R_{ij}-U^T_iS_j)^2 \]

上式中\(R_{ij}\)為評分矩陣中已知的打分值,\(U_i\)\(S_j\)是未知變量,為了求上述公式的最小值,相當於求關於U和S二元函數的最小值(極小值),采用梯度下降方法:

梯度下降

\[U_i = U_i - \eta\frac{\partial{L}}{\partial{U_i}} \\ S_j = S_j - \eta\frac{\partial{L}}{\partial{S_j}} \\ \]

正則化矩陣分解-Regularized MF

正則化矩陣分解是Basic MF的優化,解決MF造成的過擬合問題。其不是直接最小化損失函數,而是在損失函數基礎上增加規范化因子,將整體作為損失函數。
image
紅線表示正則化因子,在求解U和S時,仍然采用梯度下降法,此時迭代公式變為:
image
其中,
image


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM