前言 看了好久书了，该总结一下了。如果有理解不到位的地方，欢迎批评。 摘要 1 个体与集成 集成学习通过结合多个学习器来完成学习任务，他的一般结构是：先产生一组“个体学习器”，再用某种策略结合起来。“个体学习器”通常由现有算法（如决策树算法、BP ...

集成学习（Ensemble Learning） 　　通过构建并结合多个学习器来完成学习任务，在集成学习通过过个学习器进行结合，可以获得比单一学习器显著优越的泛化性能。 　　同质学习器和异质学习器。弱学习器：泛化性能略优于随机猜测的学习器， 　　集成学习中对个体学习器的要求是要有准确性和差异性 ...

于分类问题集成，回归问题集成，特征选取集成，异常点检测集成等等，可以说所有的机器学习领域都可以看到集成学 ...

一、集成学习法 在机器学习的有监督学习算法中，我们的目标是学习出一个稳定的且在各个方面表现都较好的模型，但实际情况往往不这么理想，有时我们只能得到多个有偏好的模型（弱监督模型，在某些方面表现的比较好）。集成学习就是组合这里的多个弱监督模型以期得到一个更好更全面的强监督模型，集成学习潜在的思想 ...

一、集成学习算法的问题 可参考：模型集成（Enxemble） 博主：独孤呆博 思路：集成多个算法，让不同的算法对同一组数据进行分析，得到结果，最终投票决定各个算法公认的最好的结果； 弊端：虽然有很多机器学习的算法，但是从投票的角度看，仍然不够多；如果想要 ...

集成学习 目录： 个体和集成 Boosting Bagging与随机森林 Bagging 随机森林 综合策略 平均法 投票法 学习法 多样性 误差-分歧分解 ...

过拟合是什么呢？ 过拟合简单来说就是模型是由训练数据集得来的，得到的模型只针对训练集有更好的预测效果，对于未知的数据集预测效果很差。这其实是由于训练过程中，模型过于偏向于训练数据集，导致模型对训练数据集的拟合效果很好，导致模型失去了泛化能力。 模型的泛化能力即指模型对于未知数据的预测 ...

随着机器学习领域不断发展，对于处理机器学习的团队来说，在1台机器上训练1个模型已经有些难以为继，并且现在业界的共识是机器学习已经不仅仅是简单的模型训练。 在模型训练之前、过程中和之后，需要进行许多活动，对于要生成自己的ML模型的团队来说尤其如此。下图常常被引用来说明此类情况： 对于许多团队 ...