信息熵 　　信息量和信息熵的概念最早是出现在通信理论中的，其概念最早是由信息论鼻祖香农在其经典著作《A Mathematical Theory of Communication》中提出的。如今，这些概念不仅仅是通信领域中的基础概念，也被广泛的应用到了其他的领域中，比如机器学习。 　　信息量用来 ...

一、熵 熵的定义： 其对数log的底为2，若使用底为b的对数，则记为。当对数底为时，熵的单位为奈特。 用表示数学期望，如果，则随机变量的期望值为， 当，关于的分布自指数学期望。而熵为随机变量的期望值，其是的概率密度函数，则可写为， 引理： 证明： 二、联合熵与条件熵 ...

摘要： 　　1.信息的度量 　　2.信息不确定性的度量 内容： 1.信息的度量 　　直接给出公式，这里的N(x)是随机变量X的取值个数，至于为什么这么表示可以考虑以下两个事实： 　　（1）两个独立事件X,Y的联合概率是可乘的，即，而X,Y同时发生的信息量应该是可加的，即，因此对概率 ...

引入1：随机变量函数的分布 给定X的概率密度函数为fX(x), 若Y = aX, a是某正实数，求Y得概率密度函数fY(y). 解：令X的累积概率为FX(x), Y的累积概率为FY(y) ...

一、信息熵 若一个离散随机变量 \(X\) 的可能取值为 \(X = \{ x_{1}, x_{2},...,x_{n}\}\)，且对应的概率为： \[p(x_{i}) = p(X=x_{i}) \] 那么随机变量 \(X\) 的熵定义为： \[H(X) = -\sum_{i ...

1. 绪论 0x1：信息论与其他学科之间的关系 信息论在统计物理（热力学）、计算机科学（科尔莫戈罗夫复杂度或算法复杂度）、统计推断（奥卡姆剃刀，最简洁的解释最佳）以及概率和统计（关于最优化假设检验与估计的误差指数）等学科中都具有奠基性的贡献。如下图 这个小节，我们简要介绍信息论及其关联 ...

0 前言 上"多媒体通信"课，老师讲到了信息论中的一些概念，看到交叉熵，想到这个概念经常用在机器学习中的损失函数中。 这部分知识算是机器学习的先备知识，所以查资料加深一下理解。 1 信息熵的抽象定义 熵的概念最早由统计热力学引入。 信息熵是由信息论之父香农提出来的，它用于随机变量 ...

熵，条件熵，相对熵，互信息的相关定义及公式推导 熵是随机变量不确定性的度量，不确定性越大，熵值越大，若随机变量退化成定值，熵为0，均匀分布是最不确定的分布。熵其实定义了一个函数(概率分布函数)到一个值(信息熵)的映射。熵的定义公式如下： 在经典熵的定义中，底数是2，此时熵 ...