简介 最近在参加一个利用机器学习来解决安全问题的算法比赛，但是对机器学习的算法一直不了解，所以先了解一下机器学习相关的算法。 Andrew Ng就是前段时间从百度离职的吴恩达。关于吴恩达是谁，相信程序员/媛都知道。 Andrew Ng的机器学习的公开课其实就是当年吴恩达还在斯坦福大学 ...

矩阵定义 数学上，一个m×n的矩阵是一个由m行n列元素排列成的矩形阵列 使用Aij来获取矩阵中第i行j列的数据 向量的定义 向量就是n行1列的特殊矩阵 由于向量仅仅只有1行，那么通过一 ...

逻辑回归 先前所讲的线性回归主要是一个预测问题，根据已知的数据去预测接下来的情况。线性回归中的房价的例子就很好地说明了这个问题。 然后在现实世界中，很多问题不是预测问题而是一个分类问题。 如邮件 ...

机器学习的定义 Arthur Samuel给出的定义，Field of Study that gives computers the ability to learn without being explicitly programmed.（在不直接针对问题进行编程的情况下，赋予计算机 ...

多变量线性回归 之前讨论的都是单变量的情况。例如房价与房屋面积之前的关系，但是实际上，房价除了房屋面积之外，还要房间数，楼层等因素相关。那么此时就变成了一个多变量线性回归的问题。在实际问题中，多变量 ...

为： 其中X表示的房屋面积。 所以选择了合适的特征，对算法进行预测和分类是非常有好处的 多项式回 ...

网易公开课，监督学习应用.梯度下降 notes，http://cs229.stanford.edu/notes/cs229-notes1.pdf 线性回归（Linear Regression） 先看个例子，比如，想用面积和卧室个数来预测房屋的价格 训练集如下 首先，我们假设为线性模型 ...

梯度下降法是一个 最优化算法，通常也称为 最速下降法。 最速下降法是求解无约束优化问题最简单和最古老的方法之一，虽然现在已经不具有实用性，但是许多有效算法都是以它为基础进行改进和修正而得到的。 最速下降法是用 负梯度方向为搜索方向的，最速下降法越接近目标值，步长越小，前进 ...