矩陣求導

一、矩陣求導:

     一般來講，我們約定x=(x1,x2,x3....xn)的轉置(分母布局，關於分子布局自行參考網上)。

    下面介紹3種常見的矩陣求導

1、向量對向量求導 

       注釋： Numerator layout : 分子布局

                  Denominator layout : 分母布局

                《多元統計分析》課堂，按照分子布局來講。

2、標量對向量求導

3、向量對標量求導

二、幾種重要的矩陣（參見我另一篇博客：https://www.cnblogs.com/cy0628/p/13815909.html）

1、梯度（Gradient）

2、雅克比矩陣（Jacobian matrix）

3、海森矩陣（Hessian matrix）

三、常用的矩陣求導公式

另外：我覺得知乎上某人寫的挺好，現給出鏈接供參考：https://zhuanlan.zhihu.com/p/24709748

書籍推薦：The matrix cookbook （矩陣計算）pdf版本，適合矩陣求導和計算，下載鏈接：https://pan.baidu.com/s/1CzVIct_1J1pOkOIWW2o_7w

 

參考文獻：The matrix cookbook 

                  https://www.cnblogs.com/jiaxinwei/p/11450561.html