向量對向量求導鏈式法則:
標量對向量求導鏈式法則:
標量對多個向量求導鏈式法則(以最小二乘法求導為例):
標量對多個矩陣求導鏈式法則(這里沒有給出基於矩陣整體的鏈式求導法則,矩陣對矩陣求導過於復雜,這里沒有涉及):
有用的結論(機器學習尤其深度學習中經常用到):
以上結論證明如下:
總結:優先先考慮鏈式求導法則,尤其是以上四個結論,其次考慮微分法,最后通過定義法保底
該文參考劉建平老師的博客:
向量對向量求導鏈式法則:
標量對向量求導鏈式法則:
標量對多個向量求導鏈式法則(以最小二乘法求導為例):
標量對多個矩陣求導鏈式法則(這里沒有給出基於矩陣整體的鏈式求導法則,矩陣對矩陣求導過於復雜,這里沒有涉及):
有用的結論(機器學習尤其深度學習中經常用到):
以上結論證明如下:
總結:優先先考慮鏈式求導法則,尤其是以上四個結論,其次考慮微分法,最后通過定義法保底
本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。