Pandas判断缺失值 注意，有些数据用0代替特征值，这个时候，可以将0用None 代替，这样，isnull 函数就可以检测出来了，而且fillna 和dropna函数都可以直接工作了。 处理缺失值 直接删除 将存在遗漏信息属性值的对象（元组，记录）删除，从而得到一个完备的信息表 ...

本文为数据茶水间群友原创，经授权在本公众号发表。 关于作者：JunLiang，一个热爱挖掘的数据从业者，勤学好问、动手达人，期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 我们在《特征工程系列：特征筛选的原理与实现（上）》中介绍了特征选择的分类，并详细介绍了过滤式特征筛选的原理 ...

有的时候，已有的特征可能并没有有效的表征特征，尤其是针对特殊的业务的时候，极有可能需要对已有的特征进行变换，从而让特征更加能够表征特有的业务。这里介绍几种常用的特征构造方法。 (1) 统计量构造 使用常用的统计量构造特征，常用的统计量有： 四分位数、中位数、平均值、标准差、偏差、偏度 ...

数据对齐 Z分数标准化     将数据转换成服从标准正太分布的数据     $$     \hat x = \frac{x-\mu}{\sigma}     $$ 归一化     将数据 ...

特征工程系列：GBDT特征构造以及聚类特征构造 本文为数据茶水间群友原创，经授权在本公众号发表。 关于作者：JunLiang，一个热爱挖掘的数据从业者，勤学好问、动手达人，期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限 ...

在进行特征工程的时候，为了确保模型的准确性，需要将一些异常数据排除，从而防止模型被带偏。因此，在特征工程任务中，需要一些方法，来识别异常值。 异常值识别 (1) 箱线法 通常用户用某个统计分布对数据点进行建模，再以假定的模型，根据点的分布来确定是否异常。 如通过分析统计数据的散度情况，即数据 ...

特征工程系列：聚合特征构造以及转换特征构造 本文为数据茶水间群友原创，经授权在本公众号发表。 关于作者：JunLiang，一个热爱挖掘的数据从业者，勤学好问、动手达人，期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限 ...

特征工程系列：数据清洗 本文为数据茶水间群友原创，经授权在本公众号发表。 关于作者：JunLiang，一个热爱挖掘的数据从业者，勤学好问、动手达人，期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限而已。由此可见，特征工程 ...