前言 1. 刪除重復 2. 異常值監測 3. 替換 4. 數據映射 5. 數值變量類型化 6. 創建啞變量 統計師的Python日記【第7天：數據清洗（1）】 前言 根據我的Python學習計划： Numpy → Pandas ...

　　接觸Python兩年多了，還從來沒有獨立用Python完成一個項目，說來慚愧。最近因為工作需要，用Excel和oracle整理數據貌似不可行了，於是轉向Python，理所當然的踩了很多坑，一一記錄下來，避免以后再次入坑，畢竟不常用，好了傷疤就會忘了疼··· 業務場景： 　　領導拿來幾個 ...

一、英文數據清洗 英文數據清洗是去除縮寫、非字母符號、專有名詞的縮寫、提取詞干、提取詞根。 1.常規的清洗方式 去除非字母符號和常用縮寫 2.詳細的處理方式 去除普通的縮寫，還引入了一些專有名詞的處理、標點符號的處理 3.包括有處理詞根詞綴的處理方式 ...

# -*- coding: utf-8 -*-"""Created on Wed Jul 4 18:40:55 2018 @author: zhen""" import pandas as pdimport numpy as np# 創建空的df，保存測試數據test_df ...

1.數據錯誤： 錯誤類型– 臟數據或錯誤數據• 比如, Age = -2003– 數據不正確• ‘0’ 代表真實的0，還是代表缺失– 數據不一致• 比如收入單位是萬元，利潤單位是元，或者一個單位是美元，一個是人民幣– 數據重復 2.缺失值處理： 處理原則–缺失值少於20%•連續變量 ...

參考：http://blog.sina.com.cn/s/blog_13050351e0102xfis.html https://www.sogou.com/link?url=DOb0bgH2eKh1 ...

對爬蟲數據進行自然語言清洗時用到的一些正則表達式 標簽中的所有屬性匹配（排除src,href等指定參數） 參考鏈接 # \b(?!src|href)\w+=[\'\"].*?[\'\"](?=[\s\>]) # 匹配特征 id="..." # \b(?!...)排除屬性名中 ...