模型评估和参数调优 本博客根据 百面机器学习，算法工程师带你去面试 一书总结归纳，公式图片均出自该书. 本博客仅为个人总结学习，非商业用途，侵删. 网址 http://www.ptpress.com.cn 1. 准确率 准确率是指分类正确的样本占总样本个数的比例， 即 其中\(n_ ...

XGBoost算法在实际运行的过程中，可以通过以下要点进行参数调优： （1）添加正则项： 　　　　在模型参数中添加正则项，或加大正则项的惩罚力度，即通过调整加权参数，从而避免模型出现过拟合的情况。 （2）控制决策树的层数: 通过叶子结点数目控制决策树的层数，视乎样本量大小决定，对于１０万 ...

...

【Spark内存模型】 Spark在一个executor中的内存分为3块：storage内存、execution内存、other内存。 　　1. storage内存：存储broadcast，cache，persist数据的地方。 　　2. execution内存：执行内存，join ...

JVM内存结构： 主要分为：方法区、堆、虚拟机栈、本地方法栈、程序计数器，其中方法区和堆是线程共享的，其他的都是线程隔离的。 方法区： 主要存放类的信息、静态变量、常量、编译后的方法代码，永 ...

模型评估 使用metric函数来进行评分 　　sklearn.metrics里面提供了一些函数来帮助我们进行评分。其中里面以_score结尾的函数的返回值越大，模型的性能越好。而以_error或_loss结尾的函数，返回值越小，表示模型性能越好。从命名上来看，这一点不难理解 ...

Python之ML–机器学习分类算法 介绍最早以算法方式描述的分类机器学习算法：感知器(perceptron)和自适应线性神经元(adaptive linear neuron).我们将使用python循序渐进地实现一个感知器,并且通过训练使其具备对鸢尾花数据集中数据进行分类的能力 ...

机器学习算法 原理、实现与实践——模型评估与模型选择 1. 训练误差与测试误差 机器学习的目的是使学习到的模型不仅对已知数据而且对未知数据都能有很好的预测能力。 假设学习到的模型是$Y = \hat{f}(X)$，训练误差是模型$Y = \hat{f}(X)$关于训练数据集的平均损失 ...