特征工程系列：（五）特征构造
有的时候，已有的特征可能并没有有效的表征特征，尤其是针对特殊的业务的时候，极有可能需要对已有的特征进行变换，从而让特征更加能够表征特有的业务。这里介绍几种常用的特征构造方法。 (1) 统计量构造 使用常用的统计量构造特征，常用的统计量有： 四分位数、中位数、平均值、标准差、偏差、偏度 ...
原文：特征工程系列：（六）特征选择之方差过滤
有时候，数据集中的某一个特征，方差非常小，非常接近，这样导致的结果就是，没有区分度，那么这个特征其实就不是一个好的特征，因此方差过滤的思想就是，找到那些有区分度的特征 方差大 如果一个特征服从伯努利分布，也就是说，这个特征只有两个类别。这个时候，也可以进行方差过滤，伯努利分布的方差计算公式为： sigma p p , 其中 p 为莫一个类别的占比。 例如，一个特征 x ，其中一个类别数量为 ，另外 ...
2021-08-27 14:24 0 217 推荐指数：
相关推荐
特征选择-Filter过滤法（方差）
3.1 Filter过滤法过滤方法通常用作预处理步骤，特征选择完全独立于任何机器学习算法。它是根据各种统计检验中的分数以及相关性的各项指标来选择特征。 3.1.1 方差过滤3.1.1.1 VarianceThreshold 这是通过特征本身的方差来筛选特征的类。比如一个特征本身的方差很小 ...
特征工程系列：（三）特征对齐与表征
数据对齐 Z分数标准化 将数据转换成服从标准正太分布的数据 $$ \hat x = \frac{x-\mu}{\sigma} $$ 归一化 将数据 ...
特征工程系列：GBDT特征构造以及聚类特征构造
特征工程系列：GBDT特征构造以及聚类特征构造 本文为数据茶水间群友原创，经授权在本公众号发表。 关于作者：JunLiang，一个热爱挖掘的数据从业者，勤学好问、动手达人，期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限 ...
特征选择法之方差选择
使用方差选择法，先要计算各个特征的方差，然后根据阈值，选择方差大于阈值的特征。如果一个特征不发散，例如方差接近于0，也就是说样本在这个特征上基本上没有差异，这个特征对于样本的区分并没有什么用。 方差过滤可以使用在巨大的稀疏矩阵中，稀疏矩阵中可以考虑将方差的过滤阈值设置为0，这样就会 ...
2. 特征工程之特征选择
1. 特征工程之特征预处理 2. 特征工程之特征选择 1. 前言 当数据预处理完成后，我们需要选择有意义的特征输入机器学习的算法和模型进行训练。 2. 特征选择的方法 通常来说，从两个方面考虑来选择特征： 特征是否发散：如果一个特征不发散，例如方差接近于0，也就是说样本在这个特征 ...
特征工程之特征选择
特征工程是数据分析中最耗时间和精力的一部分工作，它不像算法和模型那样是确定的步骤，更多是工程上的经验和权衡。因此没有统一的方法。这里只是对一些常用的方法做一个总结。本文关注于特征选择部分。后面还有两篇会关注于特征表达和特征预处理。 1. 特征的来源 在做数据分析的时候，特征 ...
特征工程系列：聚合特征构造以及转换特征构造
特征工程系列：聚合特征构造以及转换特征构造 本文为数据茶水间群友原创，经授权在本公众号发表。 关于作者：JunLiang，一个热爱挖掘的数据从业者，勤学好问、动手达人，期待与大家一起交流探讨机器学习相关内容~ 0x00 前言 数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限 ...