一、方差（variance)：衡量随机变量或一组数据时离散程度的度量。 概率论中方差用来度量随机变量和其数学期望（即均值）之间的偏离程 ...

1.条件概率 设A,B是两个事件，且P(B)>0,则在事件B发生的条件下，事件A发生的条件概率（conditional probability)为： ...

一、无偏估计 所谓总体参数估计量的无偏性指的是，基于不同的样本，使用该估计量可算出多个估计值，但它们的平均值等于被估参数的真值。 在某些场合下，无偏性的要求是有实际意义的。例如，假设在某 ...

一、通俗解释 熵是衡量“信息量“大小的一个数值。什么叫”信息量“？举个例子。 假设你现在玩一个猜硬币正反面的游戏，有个人扔一次硬币，你猜正反面，猜对了可以拿100块钱，猜错了就没有钱。 现在有一 ...

一、概念 互信息，Mutual Information，缩写为MI，表示两个变量X与Y是否有关系，以及关系的强弱，或者说是X与Y的相关性。 如果 (X, Y) ~ p(x, y), X, Y 之间 ...

原文地址：https://www.cnblogs.com/kyrieng/p/8694705.html 1、信息熵 (information entropy) 熵 (entropy) 这一词最初来 ...

一、条件概率公式 举个例子，比如让你背对着一个人，让你猜猜背后这个人是女孩的概率是多少？ 直接猜测，肯定是只有５０％的概率，假如现在告诉你背后这个人是个长头发，那么女的概率就变为９０％。 所以条 ...