1、说在前面 最近在学习object detection的论文，又遇到交叉熵、高斯混合模型等之类的知识，发现自己没有搞明白这些概念，也从来没有认真总结归纳过，所以觉得自己应该沉下心，对以前的知识做一个回顾与总结，特此先简单倒腾了一下博客，使之美观一些，再进行总结。本篇博客先是对交叉熵损失函数进行 ...

、cross_entropy loss(交叉熵损失)： 1：hinge loss(合页损失) 又叫 ...

交叉熵 分类问题常用的损失函数为交叉熵（Cross Entropy Loss）。 交叉熵描述了两个概率分布之间的距离，交叉熵越小说明两者之间越接近。 原理这篇博客介绍的简单清晰： https://blog.csdn.net/xg123321123/article/details ...

首先需要说明的是PyTorch里面的BCELoss和CrossEntropyLoss都是交叉熵，数学本质上是没有区别的，区别在于应用中的细节。 BCE适用于0/1二分类，计算公式就是 “ -ylog(y^hat) - (1-y)log(1-y^hat) ”，其中y为GT，y_hat为预测值 ...

出发点 对于一个样本，有输入和输出结果，我们的目的是优化训练我们的模型，使得对于样本输入，模型的预测输出尽可能的接近真实输出结果。现在需要一个损失函数来评估预测输出与真实结果的差距。 均方误差 回归问题 样本有若干维，每一维都有一个真实值。我们要将样本的数据通过我们的模型预测也得到同样 ...

目录 信息量 熵 相对熵（Relative Entropy） 交叉熵（Cross Entropy） 本文介绍交叉熵的概念，涉及到信息量、熵、相对熵、交叉熵； 信息量 信息量是用来衡量一个事件发生的不确定性，一个事件发生的概率越大，不确定性越小 ...

...

交叉熵损失函数 熵的本质是香浓信息量\(\log(\frac{1}{p})\)的期望 既然熵的本质是香浓信息量\(\log(\frac{1}{p})\)的期望，那么便有 \[H(p)=E[p_i\times\log(\frac{1}{p_i})]=\sum p_i\times ...