参数正则化方法 - Dropout 受人类繁衍后代时男女各一半基因进行组合产生下一代的启发，论文（Dropout: A Simple Way to Prevent Neural Networks f ...

过节福利，我们来深入理解下L1与L2正则化。 1 正则化的概念 正则化(Regularization) 是机器学习中对原始损失函数引入额外信息，以便防止过拟合和提高模型泛化性能的一类方法 ...

Batch Normalization S. Ioffe 和 C. Szegedy 在2015年《Batch Normalization: Accelerating Deep Network Tra ...

注：在上一篇的一般线性回归中，使用的假设函数是一元一次方程，也就是二维平面上的一条直线。但是很多时候可能会遇到直线方程无法很好的拟合数据的情况，这个时候可以尝试使用多项式回归。多项式回归中，加入了特征 ...

机器学习的基本问题是利用模型对数据进行拟合，学习的目的并非是对有限训练集进行正确预测，而是对未曾在训练集合出现的样本能够正确预测。模型对训练集数据的误差称为经验误差，对测试集数据的误差称为泛化误差。模 ...

1. 基本概念 偏差：偏差度量了学习算法的期望预测与真实结果的偏离程度, 即刻画了学习算法本身的拟合能力。 方差：方差度量了同样大小的训练集的变动所导致的学习性能的变化, 即刻画了数据扰动 ...

背景：数据挖掘/机器学习中的术语较多，而且我的知识有限。之前一直疑惑正则这个概念。所以写了篇博文梳理下 摘要： 　　1.正则化（Regularization） 　　　　1.1 正则化的目的　 ...

pooling 是仿照人的视觉系统进行降维（降采样），用更高层的抽象表示图像特征，这一部分内容从Hubel&wiesel视觉神经研究到Fukushima提出，再到LeCun的LeNet5 ...

所谓过拟合，就是当一个模型过于复杂后，它可以很好的处理训练数据的每一个数据，甚至包括其中的随机噪点。而没有总结训练数据中趋势。使得在应对未知数据时错误里一下变得很大。这明显不是我们要的结果。 我们想 ...

目录 1、基本介绍 2、原因 3、解决方法 4、正则化 4.2 L2正则化 4.1 L1正则化 1、基本介绍 ...