原博客作者：TsReaper 原博客链接：https://www.cnblogs.com/tsreaper/p/exp-family.html 原博客公式全显示为LaTex代码，我临时复制过来显示公式 为什么需要指数族分布 机器学习经常要做这样一件事：给定一组训练数据 D，我们希望通过 D ...

指数族分布是一大类分布，基本形式为： 分布函数框架中的h(x),η(θ),T(x)和A(θ)并不是任意定义的，每一部分都有其特殊的意义。 θ是自然参数(natural parameter)，通常是一个实数； h(x)是底层观测值（underlying measure）； T(x)是充分统计 ...

在之前的博客中，我们为了理解广义线性模型引入了指数族分布，不过我们并没有理解指数族分布是怎么来的。这篇博客我们就来简单介绍指数族分布的推导与应用。 为什么需要指数族分布 机器学习经常要做这样一件事：给定一组训练数据 D，我们希望通过 D 得到我们研究的空间的概率分布。这样，给出一个 ...

一、指数族分布指的是概率密度函数都能够表述成以下形式的概率分布。 其中fai(x)是充分统计量，A(ita)是对数配分函数。ita是规范化参数。【配分函数其实就是归一化因子的概念，为了使概率满足概率总和为1的约束】 指数族分布包括Gauss分布，bernoulli分布（0，1分布 ...

指数族分布是一大类分布，基本形式为： T(x)是x的充分统计量（能为相应分布提供足够信息的统计量） 为了满足归一化条件，有： 可以看出，当T(x)=x时，e^A(theta)是h(x)的拉普拉斯变换。 指数族分布的例子： 伯努利分布转换成指数族分布形式： 单变量 ...

Exponential family(指数分布族)是一个经常出现的概念，但是对其定义并不是特别的清晰，今天好好看了看WIKI上的内容，有了一个大致的了解，先和大家分享下。本文基本是WIKI上部分内容的翻译。 1. 几个问题 什么是指数分布族？ 既然是”族“，那么族 ...

上升法、牛顿法、引出感知机学习算法； 广义线性模型：指数分布族、给定概率分布推导出线性模型。 ...

1、什么是指数分布族 1.1 基本描述 指数型分布是一类重要的分布族，在统计推断中，指数型分布族占有重要的地位，在各领域应用广泛。许多的统计分布都是指数型分布，彼此之间具有一定的共性，在研究其统计性质与分布特征时，利用指数型分布族的特征，可以将这一族分布的特征分别表示出 ...