問題引入
如何將\(f(x,y)\)變換成\(G(u,y)\)
過程推導
\[\begin{align*} &f(x,y)=f(x_1,\cdots,x_n,y_1,\cdots,y_n)\\ &df=\frac {\partial f} {\partial x_1}dx_i+\cdots+\frac {\partial f} {\partial x_n}dx_n+\frac {\partial f} {\partial y_1}dy_i+\cdots+\frac {\partial f} {\partial y_n}dy_n\\ let \quad &\frac {\partial f} {\partial x_i}=u_i\tag 1\\ &df=\sum_{i=1}^n u_idx_i+\sum_{i=1}^n \frac {\partial f} {\partial y_i}dy_i\\ \because \ &d(ux)=udx+xdu\\ \therefore \ &df=\sum_{i=1}^n d(u_ix_i)-\sum_{i=1}^n x_idu_i+\sum_{i=1}^n \frac {\partial f} {\partial y_i}dy_i\\ &\sum_{i=1}^n x_id_i-\sum_{i=1}^n \frac {\partial f} {\partial y_i}dy_i=d(\sum_{i=1}^n d(u_ix_i)-f(x,y))\tag 2\\ let \quad G(u,y)&=\sum_{i=1}^n d(u_ix_i)-f(x,y)\tag 3\\ &=u^Tx-f(x,y)\\ \end{align*} \]
對\((3)\)求偏導，再和\((2)\)比較得
\[G(u,y)= \begin{cases} & \displaystyle \sum \displaystyle \frac {\partial G} {\partial u_i}du_i-\sum \displaystyle \frac {\partial f} {\partial y_i}dy_i\\ & \displaystyle \sum x_id_i-\sum \displaystyle \frac {\partial f} {\partial y_i}dy_i\\ \end{cases} \]
縱向比較，再綜合前面的\((1)\)得出
\[\begin{cases} & \displaystyle\frac {\partial G} {\partial u_i}du_i=x_i\\ & \displaystyle\frac {\partial G} {\partial y_i}dy_i = -\frac {\partial f} {\partial y_i}dy_i\\ & \displaystyle\frac {\partial f} {\partial x_i}du_i=u_i\\ \end{cases} \]
有趣的事情發生了
原函數\(f\)對原變量\(x\)求偏導等於新變量\(u\)
新函數\(G\)對新變量\(u\)求偏導等於原變量\(x\)
新函數\(G\)對不變量\(y\)求偏導等於負的原函數\(f\)對不變量\(y\)求偏導
最后,Legendre變換結果為
\[G(u)=u^Tx-f(x) \]
幾何意義
將函數與切線(超平面)聯系起來,引入的新變量\(u=\displaystyle\frac {\partial f} {\partial x}\)就是在\(x\)點處的切平面
上圖減反了，應該是\(ux-f(x)\)，在二維空間，\(u\)為函數的斜率(准確來說應該叫梯度)，\(u=tan\theta,\ ux\)就是圖中藍色的豎線，最后得到的結果是負的截距（初中知識預警：截距不是距離，有正負之分）
思考
上述過程均是一階可偏導的,如果遇到非凸函數呢
這個求出來的形式和共軛函數的形式就差一個\(sup\)
其實共軛函數就是對原函數（可能無法求導，非凸函數）求個上界，這個上界是一個凸函數
下一篇：共軛函數