特征工程系列：（二）缺失值處理
Pandas判斷缺失值 注意，有些數據用0代替特征值，這個時候，可以將0用None 代替，這樣，isnull 函數就可以檢測出來了，而且fillna 和dropna函數都可以直接工作了。 處理缺失值 直接刪除 將存在遺漏信息屬性值的對象（元組，記錄）刪除，從而得到一個完備的信息表 ...
原文：特征工程系列：（四）異常值識別與處理
在進行特征工程的時候，為了確保模型的准確性，需要將一些異常數據排除，從而防止模型被帶偏。因此，在特征工程任務中，需要一些方法，來識別異常值。 異常值識別 箱線法 通常用戶用某個統計分布對數據點進行建模，再以假定的模型，根據點的分布來確定是否異常。 如通過分析統計數據的散度情況，即數據變異指標，對數據的分布情況有所了解，進而通過數據變異指標來發現數據中的異常點數據。 箱線圖是一種用作顯示一組數據分散 ...
2021-08-01 22:30 0 207 推薦指數：
相關推薦
特征工程系列：特征預處理（下）
特征工程系列：特征預處理（下） 本文為數據茶水間群友原創，經授權在本公眾號發表。 關於作者：JunLiang，一個熱愛挖掘的數據從業者，勤學好問、動手達人，期待與大家一起交流探討機器學習相關內容~ 0x00 前言 數據預處理包含數據探索、數據清洗和特征預處理三部分，《特征工程系列：特征 ...
特征工程系列：（五）特征構造
有的時候，已有的特征可能並沒有有效的表征特征，尤其是針對特殊的業務的時候，極有可能需要對已有的特征進行變換，從而讓特征更加能夠表征特有的業務。這里介紹幾種常用的特征構造方法。 (1) 統計量構造 使用常用的統計量構造特征，常用的統計量有： 四分位數、中位數、平均值、標准差、偏差、偏度 ...
特征工程系列：（三）特征對齊與表征
數據對齊 Z分數標准化 將數據轉換成服從標准正太分布的數據 $$ \hat x = \frac{x-\mu}{\sigma} $$ 歸一化 將數據 ...
特征工程系列：GBDT特征構造以及聚類特征構造
特征工程系列：GBDT特征構造以及聚類特征構造 本文為數據茶水間群友原創，經授權在本公眾號發表。 關於作者：JunLiang，一個熱愛挖掘的數據從業者，勤學好問、動手達人，期待與大家一起交流探討機器學習相關內容~ 0x00 前言 數據和特征決定了機器學習的上限，而模型和算法只是逼近這個上限 ...
特征工程系列：數據清洗
特征工程系列：數據清洗 本文為數據茶水間群友原創，經授權在本公眾號發表。 關於作者：JunLiang，一個熱愛挖掘的數據從業者，勤學好問、動手達人，期待與大家一起交流探討機器學習相關內容~ 0x00 前言 數據和特征決定了機器學習的上限，而模型和算法只是逼近這個上限而已。由此可見，特征工程 ...
特征工程系列：聚合特征構造以及轉換特征構造
特征工程系列：聚合特征構造以及轉換特征構造 本文為數據茶水間群友原創，經授權在本公眾號發表。 關於作者：JunLiang，一個熱愛挖掘的數據從業者，勤學好問、動手達人，期待與大家一起交流探討機器學習相關內容~ 0x00 前言 數據和特征決定了機器學習的上限，而模型和算法只是逼近這個上限 ...
特征工程系列：（六）特征選擇之方差過濾
有時候，數據集中的某一個特征，方差非常小，非常接近，這樣導致的結果就是，沒有區分度，那么這個特征其實就不是一個好的特征，因此方差過濾的思想就是，找到那些有區分度的特征（方差大） 如果一個特征服從伯努利分布，也就是說，這個特征只有兩個類別。這個時候，也可以進行方差過濾，伯努利分布的方差計算公式 ...