矩陣微分系列二：矩陣跡求導

「本文部分內容摘自一份佚名的資料」

-------------------------------------------------------------------------------------------------------------------------------

符號說明：

1 -------------------------------------------------------------------------------------------------------------------------------

 

 證明tr(AB)=tr(BA)：在以前的一篇博客中，我們證明了求矩陣乘積的跡與矩陣內積的等價性，即$<A, B>=tr(A^TB)$，利用此等式，我們有

$tr(AB)=<A^T, B>=<A, B^T>=<B^T, A>=tr(BA)$

2 -------------------------------------------------------------------------------------------------------------------------------

基本公式1：

記憶方法：若X右上角有轉置，那求導結果就是矩陣A本身；若X右上角沒有轉置，那求導結果就是矩陣A的轉置。

這里我們只證明第一個等式，即$\nabla tr(A^TX)=A$:

如果上式不夠直觀，展開將更直觀：

3 -------------------------------------------------------------------------------------------------------------------------------

基本公式2：

截圖摘自矩陣的 Frobenius 范數及其求偏導法則

4 -------------------------------------------------------------------------------------------------------------------------------

核心公式：

這里的證明推導用到了矩陣微分系列一末尾提到的求導法則

5 -------------------------------------------------------------------------------------------------------------------------------

其它公式：