線性代數（筆記四）
課程來源：網易雲課堂學習計划（課程鏈接）
作者簡述：作者為一名正在讀研的學生，自己的數學狀態較差。本科期間所學均能算跟得上，而且通過自己的努力經過了研究生考試。但是對數學的理解並不透徹，只是根據課上所學去做題而已。如今科研中，許多過程均需要用到所學的數學知識，然而一個好的理解和一個扎實的基礎才是科研之本。數學雖然是作為一種工具，如果不了解含義，無論是是使用上還是在其基礎之上進行修改均顯得支支吾吾。於是決定重新學習線性代數相關知識，並做此筆記以供復習或和他人分享。
用途：此系列文章均是作者在課上所學及其自己相關的數學思想所做的筆記，如有理解錯誤之處還望大家指出。本系列文章均可不咨詢情況下任意轉載和學習（不可商用）。
作者研究方向為機器學習，如果有相同方向的小伙伴想一起學習，請加QQ123854340（備注來源博客），如果人數較多還可能建群。同時發現文章中有錯誤之處也請發郵件到123854340@qq.com。
在上節課中，我們介紹了矩陣乘法的五種方法。同時引出了矩陣的逆，並利用前幾節課的知識對逆進行理解及求解。在這節課中，我們首先介紹求解逆矩陣的幾個基本的公式，然后在消元的基礎上來敘述A的LU分解。
一、逆的基本公式
在這首先介紹兩個逆的基本公式，並且給出其推導方法。這樣我們就可以從定義的角度進行理解，而非死記硬背。
1、由定義而來的最基本的公式AA~ = I = A~A（~為逆），這里兩個矩陣的乘法可以交換順序。
2、求矩陣A和矩陣B的乘積AB的逆矩陣。具體推導過程如下：
AB（？） = I ，我們想求解？所表示的矩陣是什么。不難看出ABB~A~ = I，由結合律可以很明顯的表現出A（BB~）A~ = I，再由結合律可以看出（AB）（B~A~）= I。則由此可以得出？所表示的矩陣為B~A~。
AB的逆為B~A~，這里的乘積順序發生了變化。在視頻中教授開了一個玩笑說。這就好比穿了襪子再穿鞋的相反動作那就是得要先脫鞋再拖襪子。
3、在已知I^ = I（這里的^為轉置）及（AB）^ = B^A^的條件下，求解A^的逆矩陣。推導過程如下：
AA~ = I ，兩邊同時進行轉置操作則得出（A~）^A^ = I。很明顯可以得出A^的逆矩陣為（A~）^。即（A^）~ = （A~）^。
二、A的LU分解
對於矩陣A我們可以通過一種變換將其變成矩陣U，例如對第一行進行加倍並加到第二行中的變換E21。如下矩陣所示：
在上面這個圖中E21所帶表的矩陣是什么呢？我們可以利用上節矩陣相乘的知識求解出E21為如下所示：
很顯然我們所表示的是E21A = U，那么下面我們將對他進行變換使其成為A = LU的形式。在等式兩邊左側同時乘以E21~則可以很容易得出A = E21~U，則L = E21~。A = LU的表示形式如下：
可以看出L（Lower）為下三角陣，U（Uper）為上三角陣。A的LU分解就相當於把A分解為兩個三角陣的乘積形式。從消元的角度出發L為對矩陣A消元成矩陣U所做的變換的逆。下面我們將從3×3矩陣中去深刻理解這句話，並去探討為什么存在A = LU的這種形式。
三、3×3矩陣的A = LU
在我們進行消元的過程中，我們通常去尋找一個矩陣中的主元（前幾節講過），然后利用主元對其他行進行消元。在消元十分順利的情況下（可以進行消元且不存在因為尋找主元而更換矩陣兩行的情況），我們可以將一個3×3的矩陣A消元的過程表示如下：
E32E31E21A = U ①
其所表達的意思為通過第一行的倍數對第二、三行進行消元，同時利用消元過的第二行的倍數再對第三行進行消元，使其成為一個上三角陣。很顯然L矩陣可以表示為：
L = E21~E31~E32~ ②
那么一個很顯然的問題來了，既然我們可以將消元表示為第①種形式，那么我們為什么還要導出其第②種形式呢？下面通過一個例子進行講解。
這里我們首先假設E31為單位矩陣，即在用第一行對第三行進行消元過程中無需做任何變換。看如下例子：
如果將其表示為L，則由②可得如下式子：
如果第一個式子用E表示，那么我們可以看出E和L的區別。E中存在一個10，而相反L中此處卻為0。之所以我們不用E去表示而選擇用L是因為E的消元乘數太大。E中通過第一行的倍數對第二行進了消元，而又通過消元過的第二行的倍數對第三行進行了消元。很明顯這個過程中出現了疊加，導致乘數變大。如果消元中不存在交換兩行的這種變換，那么消元的乘數（E21~等）即可用來直接求解L。