机器学习-正则化（岭回归、lasso）和前向逐步回归 观看本文之前，您也许可以先看一下后来写的一篇补充：https://www.cnblogs.com/jiading/p/12104854.html 本文代码均来自于《机器学习实战》 这三种要处理的是同样的问题，也就是数据的特征数量大于样本 ...

前情提要：关于logistic regression，其实本来这章我是不想说的，但是刚看到岭回归了，我感觉还是有必要来说一下。 一:最小二乘法 最小二乘法的基本思想：基于均方误差最小化来进行模型求解的方法。在线性回归中，最小二乘法就是试图找到一条直线，使所有样本到直线上的欧氏距离之和最小 ...

机器学习-线性回归 本文代码均来自于《机器学习实战》 分类算法先说到这里，接下来说一个回归算法 线性回归 线性回归比较简单，就不怎么说了，要是模型记不得了就百度一下吧，这里列一下公式就直接上代码了 线性回归的一个问题就是可能会出现欠拟合现象，因为它求的是具有最小均方误差 ...

对于一个原始数据集，如果是csv 需要导入文本文件，而不是文件 步骤： 分析------回归-------线性 向前回归 向后回归 逐步回归 可以看出三种方法的结果并不一致，在向前回归与逐步回归中，如果变量的t检验值小于0.05 ...

一 线性回归（Linear Regression ) 1. 线性回归概述 　　回归的目的是预测数值型数据的目标值，最直接的方法就是根据输入写出一个求出目标值的计算公式，也就是所谓的回归方程，例如y = ax1+bx2，其中求回归系数的过程就是回归。那么回归是如何预测的呢？当有了这些回归 ...

R语言 逐步回归分析
逐步回归分析是以AIC信息统计量为准则，通过选择最小的AIC信息统计量，来达到删除或增加变量的目的。 R语言中用于逐步回归分析的函数 step() drop1() add1() #1.载入数据 首先对数据进行多元线性回归 ...

注：正则化是用来防止过拟合的方法。在最开始学习机器学习的课程时，只是觉得这个方法就像某种魔法一样非常神奇的改变了模型的参数。但是一直也无法对其基本原理有一个透彻、直观的理解。直到最近再次接触到这个概念，经过一番苦思冥想后终于有了我自己的理解。 0. 正则化（Regularization ...

0.交叉验证 　　交叉验证的基本思想是把在某种意义下将原始数据(dataset)进行分组,一部分做为训练集(train set),另一部分做为验证集(validation set or test s ...