Index 数据采样的原因 常见的采样算法 失衡样本的采样 0 2 数据采样的原因 其实我们在训练模型的过程，都会经常进行数据采样，为了就是让我们的模型可以更好的去学习数据的特征，从而让效果更佳。但这是比较浅层的理解，更本质上，数据采样就是对随机现象的模拟，根据给定的概率分布从而模拟一个 ...

机器学习中常用的三种方法 一、总结 一句话总结： a、人工神经网络（Artificial Neural Network, ANN） b、决策树算法：树中的每一个节点表示对象属性的判断条件，其分支表示符合节点条件的对象。树的叶子节点表示对象所属的预测结果。 c、支持向量机（support ...

1. 过采样和欠采样 这是两种解决分类训练过程中数据量不平衡的采样方法 拿二分类举例，期望阳性样本数量：阴性样本数量 = 1：1，但实际上阳性样本数量：阴性样本数量 = 1000：100 过采样 将100数据复制10份，达到两个样本数量之比为1000：1000 欠采样 将1000数据 ...

1.决策树算法 　　决策树是一种树形分类结构，一棵决策树由内部结点和叶子结点构成，内部结点代表一个属性（或者一组属性），该结点的孩子代表这个属性的不同取值；叶子结点表示一个类标。决策树保证每一个实例 ...

在机器学习中，有很多的问题并没有解析形式的解，或者有解析形式的解但是计算量很大（譬如，超定问题的最小二乘解），对于此类问题，通常我们会选择采用一种迭代的优化方式进行求解。 这些常用的优化算法包括：梯度下降法（Gradient Descent），共轭梯度法 ...

机器学习之类别不平衡问题 (1) —— 各种评估指标 机器学习之类别不平衡问题 (2) —— ROC和PR曲线 机器学习之类别不平衡问题 (3) —— 采样方法 完整代码 前两篇主要谈类别不平衡问题的评估方法，重心放在各类评估指标以及ROC和PR曲线上，只有在明确了这些后 ...

0x00 概述 在数据挖掘中，我们经常需要计算样本之间的相似度，通常的做法是计算样本之间的距离。 在本文中，数据科学家 Maarten Grootendorst 向我们介绍了 9 种距离度量方法，其中包括欧氏距离、余弦相似度等。 许多算法，无论是监督学习还是无监督学习，都会使用距离度量 ...

1. 激活函数 1.1 各激活函数曲线对比 常用激活函数： 1.2 各激活函数优缺点 sigmoid函数 优点：在于输出映射在（0，1）范围内，单调连续，适合用作输出层，求导容易 缺点：一旦输入落入饱和区，一阶导数接近0，就可能产生 ...