函數極限
設函數 \(f(x)\) 在點 \(x_0\) 的某一去心鄰域內有定義,如果存在常數 \(A\) ,對於任意給定的正數 \(\varepsilon\)(無論它多么小),總存在正數 \(\delta\),使得對於 \(0<|x-x_0|<\delta\),均有 \(f(x)-A<\varepsilon\),那么常數 \(A\) 就叫做函數 \(f(x)\) 當時 \(x\rightarrow x_0\) 的極限,記作
夾逼定理:求函數的極限時,我們可以通過上界和下界兩個函數去夾某個函數 \(f(x)\) ;如
導數與斜率
斜率:對於一次函數 \(y=kx+b\) ,\(k\) 即為斜率;
導數:\(f’(x)=\lim\limits_{\Delta x\to 0} \frac{f(x+\Delta x)-f(x)}{\Delta x}\) ,也可記做 \(\frac{{\rm d} x}{{\rm d} y}\)
導數存在性:從左側與右側逼近極限相同時才可以定義導數 \(\lim\limits_{\Delta x\to 0^+}\frac{f(x+\Delta x)-f(x)}{\Delta x} = \lim\limits_{\Delta x\to 0^-}\frac{f(x+\Delta x)-f(x)}{\Delta x}\)
導數表:
導數運算法則:
高階導數:一階導函數的導數稱為二階導數,二階以上的導數可由歸納法逐階定義。二階和二階以上的導數統稱為高階導數。從概念上講,高階導數可由一階導數的運算規則逐階計算。
\(f''(x_0)=\lim \limits_{\Delta x\to 0} \frac{f'(x+x_0)-f'(x_0)}{\Delta x}=\lim \limits_{\Delta x\to 0} \frac{f(x_0+2\Delta x)-2f(x_0+\Delta x)+f(x_0)}{\Delta x ^2}\),記做 \(\frac{\mathrm{d}^2 y }{\mathrm{d}x^2}\) 。
一階導描述函數增減性,函數極值點一階導為 \(0\) ;二階導描述函數的凹凸性。
自然對數\(e\):
\(e=\lim\limits_{n \to \infty}(1+\frac{1}{n})^n=2.718281828459\cdots\)
\((e^x)'=e^x,(\ln(x))'=\frac{1}{x}\)
洛必達法則:
若 \(f(x)\) 和 \(g(x)\) 在 \(a\) 點處為 \(0\) ,即 \(0/0\) 類型
\(\lim\limits_{x\to a}\frac{f(x)}{g(x)}=\lim\limits_{x\to a} \frac{\frac{f(x)-f(a)}{x-a}}{\frac{g(x)-g(a)}{x-a}}=\lim\limits_{x\to a}\frac{f'(x)}{g'(x)}\)
牛頓迭代法:
求解 \(f(x)=0\) :隨機一個初始點,對於當前點求導,計算與 \(x\) 軸交點作為下一次的 \(x_{next}\) ,即
當 \(x<eps\) 終止。
對於大部分函數有效;有些函數會失效,如 \(f(x)=\frac{1}{x}\) (沒有 \(0\) 點);\(f(x)=\sqrt{|x|}\) (來回橫跳)
積分
定積分
\(S=\int_{a}^b f(x)\mathrm{d}x\)
黎曼積分,黎曼和: \(S=\lim\limits_{n\to \infty} \sum\limits_{k=1}^n f(k)\times (x_k-x_{k-1})\)
這樣我們可以方便的求定積分。
積分與微分的關系:
即牛頓-萊布尼茨公式。
自適應辛普森積分法
inline double f(double x) {}
inline double simpson(double l,double r)
{return (f(l)+4*f((l+r)/2)+f(r))*(r-l)/6;}
inline double integral(double l,double r,double ans) {
register double md=(l+r)/2;
register double LL=simpson(l,md),RR=simpson(md,r);
if(fabs(LL+RR-ans)<=15*eps) return LL+RR-(LL+RR-ans)/15;
return integral(l,md,LL)+integral(md,r,RR);
}
integral(l,r,simpson(l,r));
不定積分
積分表:
積分與無窮向量
對於一個函數 \(f(x)\) 可以理解為一個無窮維的向量,每個點的函數值是一個維度,那么兩個函數 \(f(x)\) 和 \(g(x)\) 的內積就可以理解為 \(\int f(x)g(x)\mathrm {d}x\)
函數正交基:
對於線性空間的一組正交基,需要滿足對於任意兩個基向量 \(A,B\) 有 \(A\cdot B=0\)
空間中一個點 \(x\) 在正交基 \({A}\) 上的坐標為 \(\frac{A\cdot x}{A\cdot A}\)
施密特正交化:
大致就是如果兩個向量 \(A\cdot B\ !=0\) ,我們可以讓 \(B'=B-\frac{|B|\cos<A,B>}{|A|}A\) 得到與 \(A\) 正交的向量 \(B'\) 。
函數最優化
給定一多元函數 \(f(x)→R\),\(x\) 為多個參數組成的向量,求 \(f(x)\) 最小值以及尋找使得函數值最小的向量 \(x^{*}\)
迭代法(就是爬山算法):初始隨機一個點 \(a\),隨機一方向 \(d\) ,找一 \(\lambda\) 使 \(f(x+\lambda d)\) 變小,不斷重復。
若 \(f(x)\) 存在導數,則有更好的方法:
偏導:對於二元函數 \(f(x,y)\) ,在 \((x0,y0)\) 處固定 \(y\) 不變移動 \(x\) ,可以得到一個單變量函數 \(g(x)\) ,同理固定 \(x\) 不變可以得到 \(h(y)\);此時可以定義某一個方向的導數 \(\frac{\partial f}{\partial x}\) ,\(\frac{\partial f}{\partial y}\)
梯度:\(\nabla f(x,y)=(\frac{\partial f}{\partial x},\frac{\partial f}{\partial y})\)
那么 \(f(x+\Delta x,y+\Delta y)\approx f(x,y)+\frac{\partial f}{\partial x}\Delta x+\frac{\partial f}{\partial y}\Delta y,|(\Delta x,\Delta y)|\to 0且為定值\) 。注意到后面的部分實際是一個點積,此時顯然 \((\Delta x,\Delta y)\) 與 \((\frac{\partial f}{\partial x},\frac{\partial f}{\partial y})\) 共線時 \(f(x+\Delta x,y+\Delta y)\) 有最大值。
函數極值條件:函數取極值時一定要求切線水平(導數為 \(0\) );多元函數體現為各個方向偏導數均為 \(0\) (必要不充分條件,比如鞍點:\(y=x^3,z=x^2-y^2\) )。
無約束函數極值
我們可以直接帶入偏導數為 \(0\) 的極值條件解方程。
例:
求 \(f(x)=(x_1-x_2-2)^2+(x_2-1)^2\) 的最小值。
\(\nabla f(x)=(\frac{\partial f}{\partial x_1},\frac{\partial f}{\partial x_2})=(2(x_1-x_2-2),-2(x_1-x_2-2)+2(x_2-1))=(0,0)\)
拉格朗日乘數法
設給定多元函數 \(f(x)\) 和附加條件 \(\varphi (x)=0\) ,\(x\) 為向量,為尋找 \(z=f(x)\) 在附加條件下的極值點,**構造拉格朗日函數 \(L(x,\lambda)=f(x)+\lambda\varphi(x)\) **,為關於 \(x\) 向量與 \(\lambda\) 向量的二元函數。
此時有 \(\min\limits_{x} f(x)=\min\limits_{x}\{ \max\limits_{\lambda}(L(x,\lambda)\}=\min\limits_{x}\{\max\limits_{\lambda}(f(x)+\lambda\varphi(x))\}\)
理解:首先我們要符合 \(\varphi(x)=0\) ,否則當 \(\lambda\to \infty\) 是 \(\min\limits_{x}\{ \max\limits_{\lambda}(L(x,\lambda)\} \to \infty\) ,一定不是最終答案;然后在符合條件的函數中取個最值。
求解: \(f(x)\) 為最優的必要條件是拉格朗日函數 \(L\) 梯度為 \(0\) :\(\left\{ \begin{matrix} \nabla_x L(x,\lambda)=0\\ \nabla_\lambda L(x,\lambda)=0\\ \end{matrix} \right.\)
例:
求 \((x,y,z)\) 使得 \((x-4)^2+y^2+z^2\) 最小,並且 \(x+y+z=3, 2x+y+z=4\)
多項式逼近
泰勒展開
\(f(x) = a_0 + a_1(x - x_0) + a_2(x - x_0)^2 + a_3(x - x_0)^3 + ...\)
通常只關心 \(x_0=0\) 處的取值,得到麥克勞林公式:\(f(x)=a_0+a_1x+a_2x^2+a_3x^3+\cdots=\sum\limits_k a_k x^k\)
結論:對於大部分常見的好函數,這種展開都是存在的,而且是唯一的,並且對於全體實數全部成立的。
計算方法:\(f^{(n)}=\sum\limits_{k\geq n} \frac{k!}{(k-n)!}a_k x^{k-n},a_n=\frac{f^{(n)}(0)}{n!}\)
常見泰勒級數:
歐拉公式
\(e^{i\theta}=\cos(\theta)+i\sin(\theta)\) (可以由上面的展開式看出)
特別地 \(e^{i\pi}=-1\)
2020.01.24