特征工程是數據分析中最耗時間和精力的一部分工作，它不像算法和模型那樣是確定的步驟，更多是工程上的經驗和權衡。因此沒有統一的方法。這里只是對一些常用的方法做一個總結。本文關注於特征選擇部分。后面還有兩篇會關注於特征表達和特征預處理。 1. 特征的來源 　　　　在做數據分析的時候，特征 ...

title: sklearn-特征工程之特征選擇 date: 2016-11-25 22:49:24 categories: skearn tags: sklearn 抄襲/參考資料 使用sklearn做單機特征工程 sckearn中文 周志華《機器學習》 當數據 ...

基礎概念 特征工程是通過對原始數據的處理和加工，將原始數據屬性通過處理轉換為數據特征的過程，屬性是數據本身具有的維度，特征是數據中所呈現出來的某一種重要的特性，通常是通過屬性的計算，組合或轉換得到的。比如主成分分析就是將大量的數據屬性轉換為少數幾個特征的過程。某種程度而言，好的數據以及特征往往是 ...

有時候，數據集中的某一個特征，方差非常小，非常接近，這樣導致的結果就是，沒有區分度，那么這個特征其實就不是一個好的特征，因此方差過濾的思想就是，找到那些有區分度的特征（方差大） 如果一個特征服從伯努利分布，也就是說，這個特征只有兩個類別。這個時候，也可以進行方差過濾，伯努利分布的方差計算公式 ...

如何選擇特征 根據是否發散及是否相關來選擇 方差選擇法 先計算各個特征的方差，根據閾值，選擇方差大於閾值的特征 方差過濾使用到的是VarianceThreshold類，該類有個參數threshold，該值為最小方差的閾值，然后使用fit_transform進行特征值過濾 相關系數法 ...

當數據預處理完成后，我們需要選擇有意義的特征輸入機器學習的算法和模型進行訓練。通常來說，從兩個方面考慮來選擇特征： 　· 特征是否發散：如果一個特征不發散，例如方差接近於0，也就是說樣本在這個特征上基本上沒有差異，這個特征對於樣本的區分並沒有什么用。 　· 特征與目標 ...

...

官網的一個例子（需要自己給出計算公式、和k值） 參數 1、score_func ...