方差這個是什么就不說了;
協方差定義在兩個隨機變量上(設$E(X)=\mu$,$E(Y)=\upsilon$):
$cov(X,Y)=E[(X-\mu)(Y-\upsilon)]=E(XY)-\mu \upsilon$
若X和Y統計獨立,那么協方差為0。
若隨機變量為列向量,協方差為:
$cov(X,Y)=E[(X-\mu)(Y-\upsilon)^T]$
$cov(X,Y)=cov(Y,X)^T$
自協方差定義在隨機過程上。如果$X_t$二階平穩:
$\gamma(\tau)=E[(X_t-\mu)(X_{t+\tau}-\mu)]$
相應的,互協方差定義在兩個隨機過程上。
自相關/互相關類似於自協方差/互協方差,但不減直流。