非平衡数据的处理(SMOTE算法)


主要内容:

  非平衡数据的特征

  SMOTE算法的思想及步骤

  SMOTE算法的手工案例

  SMOTE算法的函数介绍

1.非平衡数据的特征

在实际应用中,类别型的因变量可能存在严重的偏倚,即类别之间的比例严重失调。如欺诈问题中,欺诈类观测在样本集中毕竟占少数;客户流失问题中,忠实的客户往往也是占很少一部分;在某营销活动的响应问题中,真正参与活动的客户也同样只是少部分。

如果数据存在严重的不平衡,预测得出的结论往往也是有偏的,即分类结果会偏向于较多观测的类。为了解决数据的非平衡问题,2002年Chawla提出了SMOTE算法,即合成少数过采样技术,它是基于随机过采样算法的一种改进方案。

2.SMOTE算法的思想及步骤

SMOTE算法的基本思想就是对少数类别样本进行分析和模拟,并将人工模拟的新样本添加到数据集中,进而使原始数据中的类别不再严重失衡。

算法步骤为:

  • 采样最邻近算法,计算出每个少数类样本的K个近邻。
  • 从K个近邻中随机挑选N个样本进行随机线性插值。
  • 构造新的少数类样本。
  • 将新样本与原数据合成,产生新的训练集。

3.SMOTE算法的手工案例

 

 

 (4)重复步骤(1)、(2)和(3),通过迭代少数类别中的每一个样本𝑥𝑖,最终将原始的少数类别样本量扩大为理想的比例。

 4.SMOTE算法的函数介绍

 

Note: 在anaconda下 输入命令conda install -c glemaitre imbalanced-learn 即可安装imblearn第三方库

具体使用:from imblearn.over_sampling import SMOTE


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM