拓端tecdat|R語言邏輯回歸分析連續變量和分類變量之間的“相關性“

原文鏈接：http://tecdat.cn/?p=18169

 

比如說分類變量為是否幸存、是因變量，連續變量為年齡、是自變量，這兩者可以做相關分析嗎？兩者又是否可以做回歸分析？

我們考慮泰坦尼克號數據集，

1.  
    
2.  
   titanic = titanic[!is.na(titanic$Age),]
3.  
   attach(titanic)

 考慮兩個變量，年齡x（連續變量）和幸存者指標y（分類變量）

1.  
    
2.  
   X = Age
3.  
   Y = Survived

 年齡可能是邏輯回歸中的有效解釋變量，

1.  
   summary(glm(Survived~Age,data=titanic,family=binomial))
2.  
    
3.  
   Coefficients:
4.  
   Estimate Std. Error z value Pr(>|z|)
5.  
   (Intercept) -0.05672 0.17358 -0.327 0.7438
6.  
   Age -0.01096 0.00533 -2.057 0.0397 *
7.  
   ---
8.  
   Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
9.  
    
10.  
    (Dispersion parameter for binomial family taken to be 1)
11.  
     
12.  
    Null deviance: 964.52 on 713 degrees of freedom
13.  
    Residual deviance: 960.23 on 712 degrees of freedom
14.  
    AIC: 964.23

 此處的顯着性檢驗的p值略低於4％。實際上，可以將其與偏差值（零偏差和殘差）相關聯。

而

在x毫無價值的假設下，D_0趨於具有1個自由度的χ2分布。我們可以計算似然比檢驗的p值自由度，

1.  
    
2.  
   1-pchisq(
3.  
   [1] 0.03833717

 與高斯檢驗一致。但是如果我們考慮非線性變換

1.  
   glm(Survived~bs(Age)
2.  
    
3.  
   Coefficients:
4.  
   Estimate Std. Error z value Pr(>|z|)
5.  
   (Intercept) 0.8648 0.3460 2.500 0.012433 *
6.  
   bs(Age)1 -3.6772 1.0458 -3.516 0.000438 ***
7.  
   bs(Age)2 1.7430 1.1068 1.575 0.115299
8.  
   bs(Age)3 -3.9251 1.4544 -2.699 0.006961 **
9.  
   ---
10.  
    Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
11.  
     
12.  
    (Dispersion parameter for binomial family taken to be 1)
13.  
     
14.  
    Null deviance: 964.52 on 713 degrees of freedom
15.  
    Residual deviance: 948.69 on 710 degrees of freedom

Age的p值更小，似乎“更重要”

1.  
    
2.  
   [1] 0.001228712

為了可視化非零相關性，可以考慮給定y = 1時x的條件分布，並將其與給定y = 0時x的條件分布進行比較，

1.  
    
2.  
   Two-sample Kolmogorov-Smirnov test
3.  
    
4.  
   data: X[Y == 0] and X[Y == 1]
5.  
   D = 0.088777, p-value = 0.1324
6.  
   alternative hypothesis: two-sided

 即p值大於10％時，兩個分布沒有顯着差異。

1.  
    
2.  
   v= seq(0,80
3.  
   v1 = Vectorize(F1)(vx)

 

我們可以查看密度

 

另一種方法是離散化變量x並使用Pearson的獨立性檢驗，

1.  
    
2.  
   table(Xc,Y)
3.  
   Y
4.  
   Xc 0 1
5.  
   (0,19] 85 79
6.  
   (19,25] 92 45
7.  
   (25,31.8] 77 50
8.  
   (31.8,41] 81 63
9.  
   (41,80] 89 53
10.  
     
11.  
    Pearson's Chi-squared test
12.  
     
13.  
    data: table(Xc, Y)
14.  
    X-squared = 8.6155, df = 4, p-value = 0.07146

 p值在此處為7％，分為年齡的五個類別。實際上，我們可以比較p值

1.  
   pvalue = function(k=5){
2.  
   LV = quantile(X,(0:k)/k)
3.  
    
4.  
    
5.  
   plot(k,p,type="l")
6.  
   abline(h=.05,col="red",lty=2)

 

 

只要我們有足夠的類別，P值就會接近5％。實際上年齡在試圖預測乘客是否幸存時是一個重要的變量。

---

 

最受歡迎的見解

1.R語言多元Logistic邏輯回歸 應用案例

2.面板平滑轉移回歸(PSTR)分析案例實現

3.matlab中的偏最小二乘回歸（PLSR）和主成分回歸（PCR）

4.R語言泊松Poisson回歸模型分析案例

5.R語言回歸中的Hosmer-Lemeshow擬合優度檢驗

6.r語言中對LASSO回歸，Ridge嶺回歸和Elastic Net模型實現

7.在R語言中實現Logistic邏輯回歸

8.python用線性回歸預測股票價格

9.R語言如何在生存分析與Cox回歸中計算IDI，NRI指標