線性回歸中常見的一些統計學術語（RSE RSS TSS ESS MSE RMSE R2 Pearson's r）

TSS: Total Sum of Squares（總離差平方和） --- 因變量的方差

 

RSS: Residual Sum of Squares （殘差平方和） ---  由誤差導致的真實值和估計值之間的偏差平方和(Sum Of Squares Due To Error)

 

ESS: Explained Sum of Squares （回歸平方和） ---  被模型解釋的方差(Sum Of Squares Due To Regression) 

 

TSS=RSS+ESS

 

R²: Coefficient of Determination（決定系數） --- 因變量方差中可由自變量解釋的比例，是模型解釋力的指標

 

adjusted R²: adjusted R²與R²類似，不過考慮到了樣本數和變量數

 

MSE: Mean Squared Error （均方誤差） ---  真實值和估計值之間的偏差平方和的平均值，用來評估模型的效果

 

RMSE: Root Mean Squared Error（均方根誤差） ---  MSE的方根，可從單位度量上衡量模型的效果

 

RSE: Residual Standard Error（殘差的標准誤差） ---  描述目標和真實回歸線之間的平均偏移量，用來估計殘差的標准差

(n-p-1: 自由度，p: 特征數)

 

Correlation: 也就是Pearson's r（皮爾遜相關系數） ---  用來檢測自變量X和因變量Y之間的線性關系有多強