關鍵詞:牛頓法、牛頓迭代法、牛頓切線法、牛頓-拉弗森方法
參考:牛頓迭代法-百度百科、牛頓切線法-百度文庫數學學院、牛頓切線法數值分析、非線性方程(組)的數值解法、Latex入門
https://blog.csdn.net/ccnt_2012/article/details/81837154
一、牛頓切線法基本思想
背景
多數方程不存在求根公式(參考:伽羅瓦理論、一元五次方程求根公式),因此求精確根非常困難,甚至不可能,從而尋找方程的近似根就顯得特別重要。方法使用函數的泰勒級數的前面幾項來尋找方程的根。牛頓迭代法是求方程根的重要方法之一,其最大優點是在方程的單根附近具有平方收斂,而且該法還可以用來求方程的重根、復根,此時線性收斂,但是可通過一些方法變成超線性收斂。
思路
將非線性方程線性化
設$x_{k}$是$f(x)=0$的近似根,將$f(x)$在$x_{k}$附近用一階Tylor多項式近似(帶皮亞諾余項):
$$ \begin{align*} f(x)&=f(x_{k})+f'(x_{k})(x-x_{k})+\frac{2f''(ξ)}{2!}(x-x_{k}) \\ &≈f(x_{k})+f'(x_{k})(x-x_{k})+P(x) \end{align*} $$
令$ P(x)=0 $,當$ f'(x)≠0 $時有意義,可用線性方程近似代替
$ f(x)=f(x_{k})+f'(x_{k})(x-f(x_{k})) $
令$ f(x)=0 $,解此線性的方程得:
$x_{k+1} = x_{k}-\frac{f(x_{k})}{f'(x_{k})}$
此式即為牛頓迭代公式。
二、牛頓法的幾何意義
設一個一元方程:
$$ y = f(x) $$
由圖中可看出:
$f(x)=0$ 的根,就是曲線與x軸的交點的橫坐標x*。
在曲線上任取一點$(x_{0},f(x_{0}))$,過該點做曲線的切線,其斜率為$f'(x_{0})$,由直線方程$y-y_{0}=k(x-x_{0})$,得到過該點的切線方程:
$$ y=f(x_{0})+f'(x_{0})(x-x_{0}) $$
令$ y=0 $,即$f(x_{0})+f'(x_{0})(x-x_{0}) = 0$,得到該切線與x軸交點的橫坐標:
$$ x=x_{0}-\frac{f(x_{0})}{f'(x_{0})} $$
一次迭代后,$ x1=x_{0}-\frac{f(x_{0})}{f'(x_{0})} $
過點$ (x1,f(x1)) $再做曲線的切線,重復以上步驟,切線與x軸交點的橫坐標就越來越接近$x^*$。
設$x_{n}$是$x^*$的第$n$次近似值,過$(x_{n},f(x_{n}))$做曲線$y=f(x)$的切線,切線與x軸交點的橫坐標為:
$$ x_{n+1} = x_{n}-\frac{f(x_{n})}{f'(x_{n})} $$
因此牛頓法也稱牛頓切線法。
三、收斂性與收斂速度
四、應用
1.牛頓迭代法快速尋找平方根
構造方程$f(x)=x^2-n$