1、说在前面 最近在学习object detection的论文，又遇到交叉熵、高斯混合模型等之类的知识，发现自己没有搞明白这些概念，也从来没有认真总结归纳过，所以觉得自己应该沉下心，对以前的知识做一个回顾与总结，特此先简单倒腾了一下博客，使之美观一些，再进行总结。本篇博客先是对交叉熵损失函数进行 ...

、cross_entropy loss(交叉熵损失)： 1：hinge loss(合页损失) 又叫 ...

目录 信息量 熵 相对熵（Relative Entropy） 交叉熵（Cross Entropy） 本文介绍交叉熵的概念，涉及到信息量、熵、相对熵、交叉熵； 信息量 信息量是用来衡量一个事件发生的不确定性，一个事件发生的概率越大，不确定性越小 ...

在信息论中，Rényi熵是Hartley熵，Shannon熵，碰撞熵和最小熵的推广。熵能量化了系统的多样性，不确定性或随机性。Rényi熵以AlfrédRényi命名。在分形维数估计的背景下，Rényi熵构成了广义维数概念的基础。 Rényi熵在生态学和统计学中是重要的多样性指标。Rényi熵 ...

上一篇博客熵（entropy）：宇宙的终极规则 比较有哲理性，但对于熵具体的解释没有太多，有的地方可能不太明白，比如冰变水应该是一个吸收热量的过程，文中举得例子冰变成水，从有序变成无序，是一个能量释放的工程，这个能量是指热量还是其他的？下面这篇文章科普一下。 有一种概念对物理和化学有极 ...

二分~多分~Softmax~理预 一、简介 　在二分类问题中，你可以根据神经网络节点的输出，通过一个激活函数如Sigmoid，将其转换为属于某一类的概率，为了给出具体的分类结果，你可以取0.5作为阈值，凡是大于0.5的样本被认为是正类，小于0.5则认为是负类 　然而这样的做法并不容易推广 ...

之所以会有这个问题，是因为在学习 logistic regression 时，《统计机器学习》一书说它的负对数似然函数是凸函数，而 logistic regression 的负对数似然函数（negative log likelihood）和 交叉熵函数（cross entropy）具有一样的形式 ...

交叉熵 分类问题常用的损失函数为交叉熵（Cross Entropy Loss）。 交叉熵描述了两个概率分布之间的距离，交叉熵越小说明两者之间越接近。 原理这篇博客介绍的简单清晰： https://blog.csdn.net/xg123321123/article/details ...