一、方向導數
lim t->0 f(x0+td)-f(x0) / t 存在
則該極限為f在x0處沿方向d的方向導數
記為
∂ f/∂ d
下降方向：
方向導數∂ f/∂ d <0 ，則d為f在x0處的下降方向
二、梯度
對於向量x,若每個偏導數
∂ f/∂ x(i) 都存在
則列向量為f在x處的梯度
記號
▽f(x)
三、可微與梯度
可微則一定存在梯度
梯度存在不一定可微
定理
若f在x處可微，則 方向導數=梯度 的轉置*方向向量d
四、海塞矩陣
（Hessian Matrix），又譯作海森矩陣、海瑟矩陣、海塞矩陣等，是一個多元函數的二階偏導數構成的方陣，描述了函數的局部曲率。
海塞矩陣由目標函數 f在點x處的二階偏導數組成的 n×n階矩陣
當二階偏導連續，矩陣為對稱矩陣