偏差和方差 　　 在学习Ridge和Lasso之前，我们先看一下偏差和方差的概念。 机器学习算法针对特定数据所训练出来的模型并非是十全十美的，再加上数据本身的复杂性，误差不可避免。说到误差，就必须考虑其来源：模型误差 = 偏差（Bias）+ 方差（Variance）+ 数据 ...

Lasso 是一个线性模型，它给出的模型具有稀疏的系数（sparse coefficients）。它在一些场景中是很有用的，因为它倾向于使用较少参数的情况，能够有效减少给定解决方案所依赖变量的个数。因此，Lasso 及其变体是压缩感知（compressed sensing）领域的基础。在某些特 ...

就是修改线性回归中的损失函数形式即可，岭回归以及Lasso回归就是这么做的。 岭回归与Las ...

Ridge回归 由于直接套用线性回归可能产生过拟合，我们需要加入正则化项，如果加入的是L2正则化项，就是Ridge回归，有时也翻译为岭回归。它和一般线性回归的区别是在损失函数上增加了一个L2正则化的项，和一个调节线性回归项和正则化项权重的系数α。损失函数表达式如下： J(θ)=1/2(Xθ−Y ...

线性回归模型的短板 岭回归模型 λ值的确定--交叉验证法 岭回归模型应⽤ 寻找最佳的Lambda值 基于最佳的Lambda值建模 Lasso回归模型 LASSO回归模型的交叉验证 Lasso回归模型应用 ...

由于计算一般线性回归的时候，其计算方法是： p = (X’* X)**(-1) * X’ * y 很多时候 矩阵(X’* X)是不可逆的，所以回归系数p也就无法求解， 需要转换思路和方法求解：加2范数的最小二乘拟合（岭回归） 岭回归模型的系数表达式： p = (X’ * X ...

回归和分类是机器学习算法所要解决的两个主要问题。分类大家都知道，模型的输出值是离散值，对应着相应的类别，通常的简单分类问题模型输出值是二值的，也就是二分类问题。但是回归就稍微复杂一些，回归模型的输出值是连续的，也就是说，回归模型更像是一个函数，该函数通过不同的输入，得到不同的输出 ...

线性回归——最小二乘 线性回归（linear regression），就是用线性函数 f(x)=w⊤x+b">f(x)=w⊤x+bf(x)=w⊤x+b 去拟合一组数据 D={(x1,y1),(x2,y2),...,(xn,yn)}">D={(x1,y1),(x2,y2 ...