应该是去年的这个时候，我开始接触机器学习的相关知识，当时的入门书籍是《数据挖掘导论》。囫囵吞枣般看完了各个知名的分类器：决策树、朴素贝叶斯、SVM、神经网络、随机森林等等；另外较为认真地复习了统计学，学习了线性回归，也得以通过orange、spss、R做一些分类预测工作。可是对外说自己是搞机器学习 ...

线性回归 算法优缺点： 优点：结果易于理解，计算不复杂 缺点：对非线性数据拟合不好 适用数据类型：数值型和标称型 算法思想： 这里是采用了最小二乘法计算（证明比较冗长略去）。这种方式的优点是计算简单，但是要求 ...

机器学习-线性回归 本文代码均来自于《机器学习实战》 分类算法先说到这里，接下来说一个回归算法 线性回归 线性回归比较简单，就不怎么说了，要是模型记不得了就百度一下吧，这里列一下公式就直接上代码了 线性回归的一个问题就是可能会出现欠拟合现象，因为它求的是具有最小均方误差 ...

转自穆晨 阅读目录 前言 基本线性回归解决方案 - 最小二乘法 最小二乘法的具体实现 局部加权线性回归 岭回归 具体方案的制定 小结 回到顶部 前言 本文将系统的介绍机器学习中监督学习的回归部分，系统 ...

一直听闻Logistic Regression逻辑回归的大名，比如吴军博士在《数学之美》中提到，Google是利用逻辑回归预测搜索广告的点击率。因为自己一直对个性化广告感兴趣，于是疯狂google过逻辑回归的资料，但没有一个网页资料能很好地讲清到底逻辑回归是什么。幸好，在CS229第三节课介绍 ...

线性回归的一个问题可能是有可能出现欠拟合（如下图所示样本），因为它求的是具有最小均方误差的无偏估计。如果模型欠拟合将不能取得最好的预测效果。所以有些方法允许在估计中引入一些偏差，从而降低预测的均方误差。其中的一个方法是局部加权线性回归。在该算法中，我们给待预测点附近的每一个点赋予一定的权重，在这 ...

目录： 1、简述 2、数学表达 3、总结 1、简述 　　线性回归是一种 parametric learning algorithm，而局部加权线性回归是一种 non-parametric learning algorithm。Parametric learning ...

前言 回顾一下 回归（一）中的 标准线性回归： step1： 对于训练集，求系数w，使得 最小 step2： 对于新输入x，其预测输出为w*x 从中我们知道，标准线性回归可能表达能力比较差，出现如图所示的欠拟合的情况（underfitting ...