前言 最近有遇到些同学找我讨论sigmoid训练多标签或者用在目标检测中的问题，我想写一些他们的东西，想到以前的博客里躺着这篇文章（2015年读研时机器学课的作业）感觉虽然不够严谨，但是很多地方还算直观，就先把它放过来吧。 说明: 本文只讨论Logistic回归的交叉熵，对Softmax回归 ...

问题：线性回归中，当我们有m个样本的时候，我们用的是损失函数是但是，到了逻辑回归中，损失函数一下子变成那么，逻辑回归的损失函数为什么是这个呢？ 本文目录 1. 前置数学知识：最大似然估计 1.1 似然函数 1.2 最大似然估计 2. 逻辑回归损失函数 ...

感知机、logistic回归 损失函数对比探讨 感知机 　　假如数据集是线性可分的，感知机学习的目标是求得一个能够将正负样本完全分开的分隔超平面 \(wx+b=0\) 。其学习策略为，定义(经验)损失函数并将损失函数最小化。通常，定义损失函数的策略是：误分类点到分隔超平面的总距离。【李航 ...

...

2.2 logistic回归损失函数（非常重要，深入理解） 上一节当中，为了能够训练logistic回归模型的参数w和b，需要定义一个成本函数 使用logistic回归训练的成本函数 为了让模型通过学习 ...

上一节当中，为了能够训练logistic回归模型的参数w和b，需要定义一个成本函数 使用logistic回归训练的成本函数 为了让模型通过学习来调整参数，要给出一个含有m和训练样本的训练集 很自然的，希望通过训练集找到 ...

有监督学习 机器学习分为有监督学习，无监督学习，半监督学习。强化学习。对于逻辑回归来说，就是一种典型的有监督学习。 既然是有监督学习，训练集自然能够用例如以下方式表述： {(x1,y1),(x2,y2),⋯,(xm,ym ...

sum_weights 可以通过参数设置。 如果不设置，那么值就是样本的个数。 指定每个样本的权重。 我突然想到基金预测，可以设置样本的权重。 真实涨幅越高，权重越小。 反之，权重越高。 因为如果预测偏低，那么loss 损失越大 ...