特征工程系列:GBDT特征构造以及聚类特征构造 本文为数据茶水间群友原创,经授权在本公众号发表。 关于作者:JunLiang,一个热爱挖掘的数据从业者,勤学好问、动手达人,期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限 ...
有的时候,已有的特征可能并没有有效的表征特征,尤其是针对特殊的业务的时候,极有可能需要对已有的特征进行变换,从而让特征更加能够表征特有的业务。这里介绍几种常用的特征构造方法。 统计量构造 使用常用的统计量构造特征,常用的统计量有: 四分位数 中位数 平均值 标准差 偏差 偏度 偏锋 离散系统 通过加大时间周期构造 例如周和月,统计更长周期例如周和月的数据作为特征。 权重 通过时间衰减组合新特征。 ...
2021-08-03 16:23 0 115 推荐指数:
特征工程系列:GBDT特征构造以及聚类特征构造 本文为数据茶水间群友原创,经授权在本公众号发表。 关于作者:JunLiang,一个热爱挖掘的数据从业者,勤学好问、动手达人,期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限 ...
特征工程系列:聚合特征构造以及转换特征构造 本文为数据茶水间群友原创,经授权在本公众号发表。 关于作者:JunLiang,一个热爱挖掘的数据从业者,勤学好问、动手达人,期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限 ...
数据对齐 Z分数标准化 将数据转换成服从标准正太分布的数据 $$ \hat x = \frac{x-\mu}{\sigma} $$ 归一化 将数据 ...
Pandas判断缺失值 注意,有些数据用0代替特征值,这个时候,可以将0用None 代替,这样,isnull 函数就可以检测出来了,而且fillna 和dropna函数都可以直接工作了。 处理缺失值 直接删除 将存在遗漏信息属性值的对象(元组,记录)删除,从而得到一个完备的信息表 ...
特征工程系列:数据清洗 本文为数据茶水间群友原创,经授权在本公众号发表。 关于作者:JunLiang,一个热爱挖掘的数据从业者,勤学好问、动手达人,期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限而已。由此可见,特征工程 ...
特征工程系列:特征预处理(下) 本文为数据茶水间群友原创,经授权在本公众号发表。 关于作者:JunLiang,一个热爱挖掘的数据从业者,勤学好问、动手达人,期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据预处理包含数据探索、数据清洗和特征预处理三部分,《特征工程系列:特征 ...
有时候,数据集中的某一个特征,方差非常小,非常接近,这样导致的结果就是,没有区分度,那么这个特征其实就不是一个好的特征,因此方差过滤的思想就是,找到那些有区分度的特征(方差大) 如果一个特征服从伯努利分布,也就是说,这个特征只有两个类别。这个时候,也可以进行方差过滤,伯努利分布的方差计算公式 ...
本文为数据茶水间群友原创,经授权在本公众号发表。 关于作者:JunLiang,一个热爱挖掘的数据从业者,勤学好问、动手达人,期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 我们在《特征工程系列:特征筛选的原理与实现(上)》中介绍了特征选择的分类,并详细介绍了过滤式特征筛选的原理 ...