在矩陣向量求導前4篇文章中，我們主要討論了標量對向量矩陣的求導，以及向量對向量的求導。本文我們就討論下之前沒有涉及到的矩陣對矩陣的求導，還有矩陣對向量，向量對矩陣求導這幾種形式的求導方法。 　　　　本文所有求導布局以分母布局為准，為了適配矩陣對矩陣的求導，本文向量對向量的求導也以分母布局 ...

　　　　在機器學習中的矩陣向量求導(一) 求導定義與求導布局中，我們討論了向量矩陣求導的9種定義與求導布局的概念。今天我們就討論下其中的標量對向量求導，標量對矩陣求導, 以及向量對向量求導這三種場景的基本求解思路。 　　　　對於本文中的標量對向量或矩陣求導這兩種情況，如前文所說，以分母布局為默認 ...

　　　　在機器學習中的矩陣向量求導(三) 矩陣向量求導之微分法中，我們討論了使用微分法來求解矩陣向量求導的方法。但是很多時候，求導的自變量和因變量直接有復雜的多層鏈式求導的關系，此時微分法使用起來也有些麻煩。需要一些簡潔的方法。 　　　　本文我們討論矩陣向量求導鏈式法則，使用該法則很多時 ...

　　　　在機器學習中的矩陣向量求導(二) 矩陣向量求導之定義法中，我們討論了定義法求解矩陣向量求導的方法，但是這個方法對於比較復雜的求導式子，中間運算會很復雜，同時排列求導出的結果也很麻煩。因此我們需要其他的一些求導方法。本文我們討論使用微分法來求解標量對向量的求導，以及標量對矩陣的求導 ...

矩陣微分 http://www.iwenchao.com/mathematics/matrix-differential.html http://en.wikipedia.org/wiki ...

在標量、向量和矩陣的求導過程中一定要知道最后結果的形狀。 這里總結幾個常見的求導形式： 前言： 最基礎最重要的，標量對向量求導和向量對標量求導，有兩種方式，分子布局和分母布局，不同的方式都是對的，只是結果缺一個轉置 1、矩陣乘以列向量，對列向量求導，形如 $\boldsymbol{z ...

原始矩陣 \[\begin{bmatrix} 1 & 3 & 4 \\ 5 & 6 & 9 \\ 2 & 7 & 8 \\ \end{bmatrix} \] 求一階導數 \[\begin{bmatrix} 4 & ...