目录 1、简介 1.1 训练误差和测试误差 1.2、过拟合与欠拟合 2、模型选择 2.1、正则化 2.2、简单交叉验证 2.3、S折交叉验证 2.4、自助方法 3、模型评估 ...

6. 学习模型的评估与选择 Content 　　6. 学习模型的评估与选择 　　　　6.1 如何调试学习算法 　　　　6.2 评估假设函数(Evaluating a hypothesis) 　　　　6.3 模型选择与训练/验证/测试集(Model selection ...

1、损失函数和风险函数 (1)损失函数：常见的有 0-1损失函数 绝对损失函数 平方损失函数 对数损失函数 (2)风险函数：损失函数的期望 经验风险：模型在数据集T上的平均损失 　 根据大数定律，当N趋向于∞时，经验风险趋向于风险函数 2、模型评估方法 (1)训练误差 ...

【第2章 模型评估与选择】 〖一、知识点归纳〗 一、经验误差与过拟合 【分类】：对是离散值的结果进行预测。 【回归】：对是连续值的结果进行预测。 分类和回归属于监督学习。 【错误率】：分类错误的样本数占样本总数的比例。 eg：m个样本中有 ...

线性回归： 可以用损失函数来评估模型，这个损失函数可以选择平方损失函数， 将所有样本的x和y代入， 只要损失函数最小，那么得到的参数就是模型参数 逻辑回归： 可以使用似然概率来评估模型，将所有样本的x和y代入， 只要这个似然概率最大，那么得到的参数，就是模型参数 常见的损失函数 机器学习 ...

一、模型的评估方法 （1）留出法：顾名思义，就是留出一部分作为测试样本。将已知的数据集分成两个互斥的部分，其中一部分用来训练模型，另一部分用来测试模型，评估其误差，作为泛化误差的估计。 　　注意：（1） 两个数据集的划分要尽可能保持数据分布的一致性，避免因数据划分过程引入人为的偏差 ...

第二章 模型评估与选择 2.1 经验误差与过拟合 错误率（error rate）：分类错误的样本数占样本总数的比例。 精度（accuracy）：1 - 错误率 误差（error）：学习器的实际预测输出与样本的真实输出之间的差异称为误差。 训练误差 ...

2.1经验误差与过拟合 错误率 = a个样本分类错误/m个样本 精度 = 1 - 错误率 误差：学习器实际预测输出与样本的真是输出之间的差异。 训练误差：即经验误差。学习器在训练集上的误差。 泛化误差：学习器在新样本上的误差。 过拟合：学习器把训练样本学的”太好”，把不太一般 ...