1. 损失函数 在线性回归分析中，假设我们的线性回归模型为： 样本对应的正确数值为： 现在假设判别函数的系数都找出来了，那么通过判别函数G(x)，我们可以预测是样本x对的值为。那这个跟实际的y的差距有多大呢？这个时候我就出来一个损失函数： 其实损失函数很容易理解，就是所有 ...

一、逻辑回归简介 　　logistic回归又称logistic回归分析，是一种广义的线性回归分析模型，常用于数据挖掘，疾病自动诊断，经济预测等领域。 　　logistic回归是一种广义线性回归（generalized linear model），因此与多重线性回归分析有很多相 ...

线性回归与梯度下降算法 作者：上品物语 转载自：线性回归与梯度下降算法讲解 知识点： 线性回归概念 梯度下降算法 l 批量梯度下降算法 l 随机梯度下降算法 l 算法收敛判断方法 1.1 线性回归 在统计学中 ...

　　梯度下降算法是通过沿着目标函数J(θ)参数θ∈R的梯度（一阶导数）相反方向−∇θJ(θ)来不断更新模型参数来到达目标函数的极小值点（收敛），更新步长为η。有三种梯度下降算法框架，它们不同之处在于每次学习（更新模型参数）使用的样本个数，每次更新使用不同的样本会导致每次学习的准确性和学习时间 ...

一、逻辑回归 1) Classification(分类) 分类问题举例： 邮件：垃圾邮件/非垃圾邮件？ 在线交易：是否欺诈（是/否）？ 肿瘤：恶性/良性？ 以上问题可以称之为二分类问题，可以用如下形式定义： 其中0称之为负例，1称之为正例。 对于多分类问题 ...

一、The data 我们将建立一个逻辑回归模型来预测一个学生是否被大学录取。假设你是一个大学系的管理员，你想根据两次考试的结果来决定每个申请人的录取机会。你有以前的申请人的历史数据，你可以用它作为逻辑回归的训练集。对于每一个 ...

一个典型的机器学习的过程，首先给出一组输入数据X，我们的算法会通过一系列的过程得到一个估计的函数，这个函数有能力对没有见过的新数据给出一个新的估计Y，也被称为构建一个模型。 我们用X1、X2...Xn 去描述feature里面的分量，用Y来描述我们的估计，得到一下模型： 我们需要一种机制 ...