参考资料：360百科、概率统计 琴生不等式，又名詹森(Jensen)不等式。 在机器学习中对凸函数的定义不同于以往在数学中接触的凹函数定义，我们把类似碗形的函数称之为凸函数，类似拱形的函数称之为凹函数。如下图所示： 定义 如果函数f(x)满足对定义域上任意两个x1、x2都有(f(x1 ...

刷题遇到的证明题，一下想到了琴生不等式，主要是根据f``(x)>0【这里仅以>0为例】来联想步骤。 通过这个条件可以联系到： Taylor公式 f`单调增 凹函数 凹函数与切线作图形成的不等式 凹函数定义证明： 琴生不等式证明： ...

若f(x)为区间I上的下凸（上凸）函数，则对于任意xi∈I和满足∑λi=1的λi>0（i=1，2，...，n），成立： \[f(\sum ^{n} _{i=1} \lambda _{i}x_{ ...

（1）定义 设f是定义域为实数的函数，如果对所有的实数x，f(x)的二阶导数都大于0，那么f是凸函数。 Jensen不等式定义如下： 如果f是凸函数，X是随机变量，那么： 。当且仅当X是常量时，该式取等号。其中，E(X)表示X的数学期望。 注：Jensen不等式应用于凹函数时，不等号方向 ...

转载自：碎片化学习之数学（一）：Jensen不等式 定义：对于一个凸函数\(f\)，都有函数值的期望大于等于期望的函数值：$$E[f(x)]\geq f(E[x])$$上式当中\(x\)是一个随机变量，它可以是离散的或者连续的，假设\(x~p(x)\) 。 回顾一下凸函数的定义：对于任意的值 ...

Jensen不等式的形式有很多种，这里重点关注有关于随机变量期望的形式。 1 Jensen不等式 Jensen不等式：已知函数\(\phi: \mathbb{R}\to\mathbb{R}\)为凸函数，则有\(\phi[\text{E}(X)]\leq \text{E}[\phi(X ...

1 凸函数的定义 1.1 一元凸函数与凹函数     对于一元函数\(f(x)\)，若满足\(f(x)\)在\([a,b]\)上连续，且对于任意\(x_1\)，\(x_2\)，恒有： \[ ...

https://blog.csdn.net/lanchunhui/article/details/50482842 ...