Hoeffding霍夫丁不等式 在<<机器学习>>第八章"集成学习"部分, 考虑二分类问题\(y \in \{-1, +1\}\) 和真实函数\(f\), 假定基分类器的错误率为\(\epsilon\), 即对每个基分类器\(h_{i}\)有 \[\begin ...

马尔可夫不等式 结论 　　对于任意非负随机变量$X$，$\forall \epsilon>0$，有： $\displaystyle P(X\ge\epsilon)\le\frac{E(X)}{\epsilon}$ 　　切比雪夫不等式是它的特例。 证明 $ \begin{align ...

1. 霍夫丁引理 设 $X$ 是均值为 0 的随机变量，即 $E(X) = 0$，且 $X \in [a,b]$，则对于任意的 $\lambda \in R$ ，可以得到一个关于区间长度 $b-a$ 的不等式 $$E(e^{\lambda X}) \leq exp \left ...

马尔可夫不等式与切比雪夫不等式 一、总结 一句话总结： 马尔科夫不等式：P(X>=a) <= E(X)/a，X>=0,a>0 切比雪夫不等式：P{|X-E(X)|>=ε} <= δ^2/ε^2，δ是标准差 1、马尔可夫不等式与切比雪夫不等式 选择 ...

1. 切比雪夫不等式 \(P(|X−EX|≥ϵ)≤DX/ϵ^2\) 等价的是： \(P(|X−EX|<ϵ)≥1−DX/ϵ^2\) 证明： 设连续型变量X的密度函数是f(x),事件|X−EX|≥ϵ表示X落在区间(EX−ϵ,EX+ϵ)外部。所以（将上下限扩展到正负无穷会比原来 ...

切比雪夫不等式：对于任何分布的观测样本，观测样本落在偏离其均值k个标准差范围内的概率最小为$1-1/k^2$，对于所有k>1成立。 $P(-k\sigma<x-\mu<k\sigma)\geqslant 1-1/k^2 $其中，$k>1$ 根据切比雪夫不等式，样本落在 ...

形象的运用马尔可夫不等式在实际应用中 ...

马尔可夫不等式 若随机变量\(X\)只取非负值，则任意\(a>0\)，有\(P(X>=a)<=\frac{E(X)}{a}\) 该不等式的证明主要是利用对期望概念的理解，根据下图的计算过程走就是了。 该不等式对随机变量的信息利用不够全面，只使用了期望进行计算，所以计算出来 ...