逻辑斯蒂回归和感知机的异同： 两类都是线性分类器； 损失函数两者不同：逻辑斯蒂回归使用极大似然（对数损失函数），感知机使用的是均方损失函数（即错误点到分离平面的距离，最小化这个值） 逻辑斯蒂比感知机的优点在于对于激活函数的改进。 前者为sigmoid function，后者 ...

前言 最近有遇到些同学找我讨论sigmoid训练多标签或者用在目标检测中的问题，我想写一些他们的东西，想到以前的博客里躺着这篇文章（2015年读研时机器学课的作业）感觉虽然不够严谨，但是很多地方还算直观，就先把它放过来吧。 说明: 本文只讨论Logistic回归的交叉熵，对Softmax回归 ...

线性回归 线性回归是一个回归问题，即用一条线去拟合训练数据 线性回归的模型： 通过训练数据学习一个特征的线性组合，以此作为预测函数。 训练目标：根据训练数据学习参数(w1,w2, ... , wn,b) 学习策略： 要确定参数(w1,w2, ... , wn,b)，即关键在于 ...

https://www.cnblogs.com/cxchanpin/p/7359672.html https://www.cnblogs.com/yangzsnews/p/7496639.html ...

前言 AI 人工智能包含了机器学习与深度学习，在前几篇文章曾经介绍过机器学习的基础知识，包括了监督学习和无监督学习，有兴趣的朋友可以阅读《 Python 机器学习实战 》。而深度学习开始只是机器学习 ...

《统计学习方法》（第二版）第2章 2 感知机 二类分类、线性分类模型、判别模型 输入：实例的特征向量 输出：实例的类别（+1，-1） 2.1 感知机模型 \[f(x)=sign(w·x+b) \] 几何解释 \(w·x+b=0\)对应一个超平面\(S\)，\(w\)是超平面 ...

多层感知机 多层感知机的基本知识 深度学习主要关注多层模型。在这里，以多层感知机（multilayer perceptron，MLP）为例，介绍多层神经网络的概念。 隐藏层 下图展示了一个多层感知机的神经网络图，它含有一个隐藏层，该层中有5个隐藏单元。 表达公式 具体来说，给定一个 ...

感知机是二分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别 感知机模型的假设空间为分类超平面wx+b=0 模型复杂度主要体现在x(x(1),x(2),....x(d))的特征数量也就是x的维度d上 感知机模型的求解策略（伪代码）： 对于感知机模型我们进行一次训练 ...