凸函數
仿射函數:affine function
仿射函數即由1階多項式構成的函數,一般形式為 f (x) = A x + b,這里,A 是一個 m×k 矩陣,x 是一個 k 向量,b是一個m向量,實際上反映了一種從 k 維到 m 維的空間映射關系。
設f是一個矢性(值)函數,若它可以表示為f(x1,x2,…,xn)=A1x1+A2x2+…+Anxn+b,其中Ai可以是標量,也可以是矩陣,則稱f是仿射函數。
deg(f)=1的函數稱為仿射函數,常數項為零的仿射函數稱為線性函數,n元仿射(線性)函數的集合記為na(nl).:car+(非負實數)為弧上的權函數,弧(i,j)a上的權c(i,j)稱為容量,記為cij。
海賽矩陣
海賽矩陣
在 數學中,海賽矩陣是一個自變量為向量的實值函數的二階 偏導數組成的 方塊矩陣,此函數如下:如果f所有的二階導數都存在,那么f 的海賽矩陣即:
- H(f)ij(x) = DiDjf(x)
其中
,即
(也有人把海色定義為以上矩陣的行列式) 海賽矩陣被應用於牛頓法解決的大規模優化問題。
混合偏導數和海賽矩陣的對稱性
海賽矩陣的混合偏導數是海色矩陣主對角線上的元素。假如他們是連續的,那么求導順序沒有區別,即
上式也可寫為
在正式寫法中,如果f函數在區域D內連續並處處存在二階導數,那么f的海賽矩陣在D區域內為對稱矩陣。
在 R^2→R 的函數的應用
給定二階導數連續的函數
,海色矩陣的行列式,可用於分辨f的臨界點是屬於鞍點還是極值。
對於f的臨界點(x0,y0)一點,有
,然而憑一階導數不能判斷它是鞍點、局部極大點還是局部極小點。海賽矩陣可能解答這個問題。
H > 0 :若
,則(x0,y0)是局部極小點;若
,則(x0,y0)是局部極大點。
H < 0 :(x0,y0)是鞍點。
H = 0 :二階導數無法判斷該臨界點的性質,得從更高階的導數以 泰勒公式考慮。
