# 過濾式特征選擇法的原理 使用發散性或相關性指標對各個特征進行評分，選擇分數大於閾值的特征或者選擇前K個分數最大的特征。具體來說，計算每個特征的發散性，移除發散性小於閾值的特征/選擇前k個分數最大的特征；計算每個特征與標簽的相關性，移除相關性小於閾值的特征/選擇前k個分數 ...

一、 背景 1) 問題 在機器學習的實際應用中，特征數量可能較多，其中可能存在不相關的特征，特征之間也可能存在相關性，容易導致如下的后果： 1. 特征個數越多，分析特征、訓練模型所需的時間就越長，模型也會越復雜。 2. 特征個數越多，容易引起“維度災難”，其推廣能力會下 ...

原創博文，轉載請注明出處！ 包裹式特征選擇法的特征選擇過程與學習器相關，使用學習器的性能作為特征選擇的評價准則，選擇最有利於學習器性能的特征子集。常用的包裹式特征選擇法有遞歸特征消除法RFE。 # 遞歸特征消除法 遞歸特征消除法RFE 遞歸特征消除法的英文全名 ...

有時候，數據集中的某一個特征，方差非常小，非常接近，這樣導致的結果就是，沒有區分度，那么這個特征其實就不是一個好的特征，因此方差過濾的思想就是，找到那些有區分度的特征（方差大） 如果一個特征服從伯努利分布，也就是說，這個特征只有兩個類別。這個時候，也可以進行方差過濾，伯努利分布的方差計算公式 ...

原創博文，轉載請注明出處！ 嵌入式特征選擇法使用機器學習模型進行特征選擇。特征選擇過程與學習器相關，特征選擇過程與學習器訓練過程融合，在學習器訓練過程中自動進行特征選擇。 通過L1正則化來選擇特征 sklearn在feature_selection模塊中集 ...

3.1 Filter過濾法過濾方法通常用作預處理步驟，特征選擇完全獨立於任何機器學習算法。它是根據各種統計檢驗中的分數以及相關性的各項指標來選擇特征。 3.1.1 方差過濾3.1.1.1 VarianceThreshold 這是通過特征本身的方差來篩選特征的類。比如一個特征本身的方差很小 ...

3.2 Embedded嵌入法 嵌入法是一種讓算法自己決定使用哪些特征的方法，即特征選擇和算法訓練同時進行。在使用嵌入法時，我們先使用某些機器學習的算法和模型進行訓練，得到各個特征的權值系數，根據權值系數從大到小選擇特征。這些權值系數往往代表了特征對於模型的某種貢獻或某種重要性，比如決策樹和樹 ...

一、關於特征選擇 主要參考連接為：參考鏈接，里面有詳細的特征選擇內容。 介紹 特征選擇是特征工程里的一個重要問題，其目標是尋找最優特征子集。特征選擇能剔除不相關(irrelevant)或冗余(redundant )的特征，從而達到減少特征個數，提高模型精確度，減少運行時間的目的。另一方 ...