背景 随着美团交易规模的逐步增大,积累下来的业务数据和交易数据越来越多,这些数据是美团做为一个团购平台最宝贵的财富。通过对这些数据的分析和挖掘,不仅能给美团业务发展方向提供决策支持,也为业务的迭代指明了方向。目前在美团的团购系统中大量地应用到了机器学习和数据挖掘技术,例如个性化推荐 ...
特征工程系列:数据清洗 本文为数据茶水间群友原创,经授权在本公众号发表。 关于作者:JunLiang,一个热爱挖掘的数据从业者,勤学好问 动手达人,期待与大家一起交流探讨机器学习相关内容 x 前言 数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限而已。由此可见,特征工程在机器学习中占有相当重要的地位。在实际应用当中,可以说特征工程是机器学习成功的关键。 那特征工程是什么 特征工程是利用 ...
2019-08-13 09:16 0 535 推荐指数:
背景 随着美团交易规模的逐步增大,积累下来的业务数据和交易数据越来越多,这些数据是美团做为一个团购平台最宝贵的财富。通过对这些数据的分析和挖掘,不仅能给美团业务发展方向提供决策支持,也为业务的迭代指明了方向。目前在美团的团购系统中大量地应用到了机器学习和数据挖掘技术,例如个性化推荐 ...
、偏锋、离散系统 通过加大时间周期构造 例如周和月,统计更长周期例如周和月的数据作为特征。 ...
数据对齐 Z分数标准化 将数据转换成服从标准正太分布的数据 $$ \hat x = \frac{x-\mu}{\sigma} $$ 归一化 将数据缩放到0-1之间,注意对于稀疏数据,最好不要使用归一化,因为稀疏数据大部分是由0构成,归一化之后 ...
Pandas判断缺失值 注意,有些数据用0代替特征值,这个时候,可以将0用None 代替,这样,isnull 函数就可以检测出来了,而且fillna 和dropna函数都可以直接工作了。 处理缺失值 直接删除 将存在遗漏信息属性值的对象(元组,记录)删除,从而得到一个完备的信息表 ...
特征工程系列:GBDT特征构造以及聚类特征构造 本文为数据茶水间群友原创,经授权在本公众号发表。 关于作者:JunLiang,一个热爱挖掘的数据从业者,勤学好问、动手达人,期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限 ...
特征工程系列:聚合特征构造以及转换特征构造 本文为数据茶水间群友原创,经授权在本公众号发表。 关于作者:JunLiang,一个热爱挖掘的数据从业者,勤学好问、动手达人,期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限 ...
特征工程系列:特征预处理(下) 本文为数据茶水间群友原创,经授权在本公众号发表。 关于作者:JunLiang,一个热爱挖掘的数据从业者,勤学好问、动手达人,期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据预处理包含数据探索、数据清洗和特征预处理三部分,《特征工程系列:特征 ...
有时候,数据集中的某一个特征,方差非常小,非常接近,这样导致的结果就是,没有区分度,那么这个特征其实就不是一个好的特征,因此方差过滤的思想就是,找到那些有区分度的特征(方差大) 如果一个特征服从伯努利分布,也就是说,这个特征只有两个类别。这个时候,也可以进行方差过滤,伯努利分布的方差计算公式 ...