1. 先說仿射函數和線性函數
線性函數平常非常常見：
這里我們是將一個4維的向量最后投射到一個1維的值。不過這里注意，這個函數是經過原點的。
再看下仿射方程。
這里我們可以看下他們的區別
直觀的區別就是會不會經過原點。
知乎上有大佬是這么解釋“
仿射函數即由由1階多項式構成的函數，一般形式為 f (x) = A x + b，這里，A 是一個 m×k 矩陣，x 是一個 k 向量,b是一個m向量，實際上反映了一種從 k 維到 m 維的空間映射關系。
設f是一個矢性（值）函數，若它可以表示為f(x1,x2,…,xn)=A1x1+A2x2+…+Anxn+b，其中Ai可以是標量，也可以是矩陣，則稱f是仿射函數。
其中的特例是，標性（值）函數f(x)=ax+b，其中a、x、b都是標量。此時嚴格講，只有b=0時，仿射函數才可以叫“線性函數”（“正比例”關系）。”
其中的特例是，標性（值）函數f(x)=ax+b，其中a、x、b都是標量。此時嚴格講，只有b=0時，仿射函數才可以叫“線性函數”（“正比例”關系）。”
接着他們會有一些性質，我貼一下：
那我們也經常用這種辦法來判斷一個方程是不是仿射函數。
2. 泰勒估算
那先簡單說下泰勒公式吧。
這個樣子，就是說，我們可以把一個方程，寫成多項式的形式。這個有其中一個好處，就是，我們去做一些估算。比如一個函數的值不能直接求到，我們能不能用這個方式來計算？
從函數的線性近似f(a+Δx)=f(a)+f′(a)Δxf(a+Δx)=f(a)+f′(a)Δx來估計函數值。
這里，我們就可以嘗試下泰勒的一級展開
當然了，這個倒后面，我們做優化的時候，用到的牛頓法，也有關系了，不過今天我不說。
后面看到那個R沒有，我們叫余項，這里也就是說，n不可能無限對吧，我選了一個N，那一定和實際的有差距，這里也就是只是個估算。當然情況下，是有n階導數了，沒有的話，后面都是0，n也不是無窮的。
那我們看個比較簡單的情況吧，針對我說的線性方程或者是仿射方程。
我們取一階導數 這里 x是n-vector z是n-vector
那這個估值，我們可以表示為
用梯度表示 更舒服一點。
這里有個例題，可以帶着看下
我們用不同的點帶進去看下
其實發現，離的越近，當然誤差越小。
再安利一本數學書，非常推薦，vmls, 配套的語言是julia，有興趣的來這里下載
鏈接：https://pan.baidu.com/s/1g6xSR0XbN7kh-FHetFpzKw
提取碼：gg36