特征工程系列：（二）缺失值处理
Pandas判断缺失值 注意，有些数据用0代替特征值，这个时候，可以将0用None 代替，这样，isnull 函数就可以检测出来了，而且fillna 和dropna函数都可以直接工作了。 处理缺失值 直接删除 将存在遗漏信息属性值的对象（元组，记录）删除，从而得到一个完备的信息表 ...
原文：特征工程系列：（四）异常值识别与处理
在进行特征工程的时候，为了确保模型的准确性，需要将一些异常数据排除，从而防止模型被带偏。因此，在特征工程任务中，需要一些方法，来识别异常值。 异常值识别 箱线法 通常用户用某个统计分布对数据点进行建模，再以假定的模型，根据点的分布来确定是否异常。 如通过分析统计数据的散度情况，即数据变异指标，对数据的分布情况有所了解，进而通过数据变异指标来发现数据中的异常点数据。 箱线图是一种用作显示一组数据分散 ...
2021-08-01 22:30 0 207 推荐指数：
相关推荐
特征工程系列：特征预处理（下）
特征工程系列：特征预处理（下） 本文为数据茶水间群友原创，经授权在本公众号发表。 关于作者：JunLiang，一个热爱挖掘的数据从业者，勤学好问、动手达人，期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据预处理包含数据探索、数据清洗和特征预处理三部分，《特征工程系列：特征 ...
特征工程系列：（五）特征构造
有的时候，已有的特征可能并没有有效的表征特征，尤其是针对特殊的业务的时候，极有可能需要对已有的特征进行变换，从而让特征更加能够表征特有的业务。这里介绍几种常用的特征构造方法。 (1) 统计量构造 使用常用的统计量构造特征，常用的统计量有： 四分位数、中位数、平均值、标准差、偏差、偏度 ...
特征工程系列：（三）特征对齐与表征
数据对齐 Z分数标准化 将数据转换成服从标准正太分布的数据 $$ \hat x = \frac{x-\mu}{\sigma} $$ 归一化 将数据 ...
特征工程系列：GBDT特征构造以及聚类特征构造
特征工程系列：GBDT特征构造以及聚类特征构造 本文为数据茶水间群友原创，经授权在本公众号发表。 关于作者：JunLiang，一个热爱挖掘的数据从业者，勤学好问、动手达人，期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限 ...
特征工程系列：数据清洗
特征工程系列：数据清洗 本文为数据茶水间群友原创，经授权在本公众号发表。 关于作者：JunLiang，一个热爱挖掘的数据从业者，勤学好问、动手达人，期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限而已。由此可见，特征工程 ...
特征工程系列：聚合特征构造以及转换特征构造
特征工程系列：聚合特征构造以及转换特征构造 本文为数据茶水间群友原创，经授权在本公众号发表。 关于作者：JunLiang，一个热爱挖掘的数据从业者，勤学好问、动手达人，期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限 ...
特征工程系列：（六）特征选择之方差过滤
有时候，数据集中的某一个特征，方差非常小，非常接近，这样导致的结果就是，没有区分度，那么这个特征其实就不是一个好的特征，因此方差过滤的思想就是，找到那些有区分度的特征（方差大） 如果一个特征服从伯努利分布，也就是说，这个特征只有两个类别。这个时候，也可以进行方差过滤，伯努利分布的方差计算公式 ...