線性代數（筆記六）
課程來源：網易雲課堂學習計划（課程鏈接）
作者簡述：作者為一名正在讀研的學生，自己的數學狀態較差。本科期間所學均能算跟得上，而且通過自己的努力經過了研究生考試。但是對數學的理解並不透徹，只是根據課上所學去做題而已。如今科研中，許多過程均需要用到所學的數學知識，然而一個好的理解和一個扎實的基礎才是科研之本。數學雖然是作為一種工具，如果不了解含義，無論是是使用上還是在其基礎之上進行修改均顯得支支吾吾。於是決定重新學習線性代數相關知識，並做此筆記以供復習或和他人分享。
用途：此系列文章均是作者在課上所學及其自己相關的數學思想所做的筆記，如有理解錯誤之處還望大家指出。本系列文章均可不咨詢情況下任意轉載和學習（不可商用）。
作者研究方向為機器學習，如果有相同方向的小伙伴想一起學習，請加QQ123854340（備注來源博客），如果人數較多還可能建群。同時發現文章中有錯誤之處也請發郵件到123854340@qq.com。
在上節課中，我們主要介紹了矩陣的轉置和置換，在這節課中我們將講述向量空間、及子空間等相關知識。
一、向量空間（vector space）
首先要討論的問題就是什么是向量空間，即向量空間的定義。首先我們給出一個例子，二維空間中所有的向量(向量的分量用實數表示)。那么，由這些向量構成的集合所形成的就是一個二維向量空間（R2）。在這里它滿足，任意向量的數乘、相加、數乘和相加的組合所得的向量均在其內部。
下面列舉兩個非向量空間的例子，如圖：
在上面圖1中，我們可以看到當我們嘗試用-1和其中某個向量（除零向量）相乘時，其所得的向量一定不在第一象限中。所以，他不是向量空間。圖2中是R2中不含有0向量，那么當我們取一個向量和一個向量的反向向量相加時（（2,3），（-2，-3））所得到的零向量也不在其內部，故其也不是向量空間。
綜上所述，我們對向量空間有如下定義：Vector space requirements v+w and cv are in the sapce all combs cv+dw are in the space（這是教授給的）。如果一個向量集合所組成的空間滿足兩種操作（數乘、相加）且通過這兩種操作及他們之間的線性組合后的向量仍然在這個集合所形成的空間中。那么我們就稱它為向量空間。
二、子空間（subspace）
對於子空間，一個很好的解釋就是它滿足向量空間的規則，又不包含向量空間中所有的向量。例如在R2中的一條過原點的直線即為R2的子空間。如圖：
下面讓我們去列舉下在R2（二維向量空間）和R3（三維向量空間）中的所有的子空間。
R2中的子空間有：
①R2本身
②任何一條過原點（0,0）的直線（它就像R1一樣，卻不同於R1）
③零向量
R3中的子空間有：
①R3本身
②任何一個過原點（0,0,0）的平面
③任何一條過原點（0,0,0）的直線。
④零向量
以上列舉了R2和R3中所有的子空間，我們可以根據這些去思考Rn中的子空間是以什么樣的形式的存在，方便以后的理解。
我們用P表示通過原點的平面，用L表示通過原點的直線。那么他們均是R3中的子空間，試問（P∩L）、（P∪L）是否還是子空間呢？從直觀的角度考慮，顯然P∩L仍然是子空間，而P∪L則不是。
由此在課中給出，向量空間中的子空間S、T，他們的交（S∩T）任然是一個子空間！
三、矩陣的列空間（column space）
列空間是由一個矩陣所構造的子空間，下面我們給出一個矩陣A，如圖：
矩陣A的所包含的列有（不包含如下0向量）：
當矩陣的列及零向量自由組合即可形成一個子空間，這個子空間是經過原點的平面，他們是三維向量空間的子空間（矩陣的列向量為三維向量空間中的兩個向量）
下面我們看如下一個例子：
有上述知識我們可知，矩陣A的列空間是由矩陣A的列的線性組合而形成的，那么問題是這個空間具體什么樣？我們怎么表示他呢？
於是，我們把求解方程組Ax = b與其相結合。首先，我們要了解的問題是，對於任意的b，方程組總是有解么？答案很顯然是否定的！矩陣A可以看成是三個列向量，而x則可以看成是向量。博文前幾章講過，我們可以把矩陣和向量的乘積看作是矩陣列向量通過x各分量的線性組合。即：
顯然，這是四維空間向量中的三個向量的線性組合，假設他們均為線性無關，那么他們的組合也無法布滿整個四維空間（至少需要四個線性無關向量）。此時，我們可以得出矩陣A的列向量線性組合后所形成的空間為R4的子空間。那么對於任意的b則可能無法表示，所以方程組可能是無解的。那么什么樣的b使得其有解呢？很顯然的就是b必須在其所構成的子空間內部，才能有解。例如如下b：
四、矩陣的零空間（null space）
對於一個矩陣，它的零空間為Ax = 0的所有的解所構成的向量空間。很顯然x是三維的，所以其解空間也是三維的。對於Ax = 0：
我們能很容易看出他的解有（我們還沒講到對Ax=0的求解，但這個例子很簡單就能看出）：
我們將解進一步表示為：
由這個解我們可以看出，它是三維空間中一條過原點的直線。
不同於列空間，列空間是由其列向量構造而成，其一定滿足向量空間的規則。那么對於零空間，我們給出如下證明。
如果Av = 0 且 Aw = 0 那么 A（v+w）= Av+Aw = 0
同理，如果Av = 0 那么 A（cv） = c（Av）= 0（c為常數）