切比雪夫不等式与马尔可夫不等式

切比雪夫不等式与马尔可夫不等式为随机变量与其期望值偏离程度提供了数值上的证明，统计学与概率论上著名的大数定律可以基于这两个不等式得到证明。

切比雪夫不等式

切比雪夫不等式将随机变量的分布与其期望和方差关联起来，有以下形式：

P{∣X−μ∣≥ϵ}≤σ2ϵ2ϵ>0P\{|X-\mu|\ge\epsilon\}\le\frac{\sigma^2}{\epsilon^2}\\ \epsilon\gt 0 P{∣X−μ∣≥ϵ}≤ϵ2σ2​ϵ>0

这个不等式直观上理解就是随机变量越偏离其期望值的概率越小，关于这个概率的度量可以和其方差联系到一起。关于这个不等式的证明，有以下推导：

P{∣X−μ∣≥ϵ}=∫∣x−μ∣≥ϵf(x)dx≤∫∣x−μ∣≥ϵ(x−μ)2ϵ2f(x)dx≤1ϵ2∫(x−μ)2f(x)dx=σ2ϵ2P\{|X-\mu|\ge\epsilon\}=\int_{|x-\mu|\ge\epsilon}f(x)dx\le\int_{|x-\mu|\ge\epsilon}\frac{(x-\mu)^2}{\epsilon^2}f(x)dx\\\le\frac{1}{\epsilon^2}\int (x-\mu)^2f(x)dx=\frac{\sigma^2}{\epsilon^2} P{∣X−μ∣≥ϵ}=∫∣x−μ∣≥ϵ​f(x)dx≤∫∣x−μ∣≥ϵ​ϵ2(x−μ)2​f(x)dx≤ϵ21​∫(x−μ)2f(x)dx=ϵ2σ2​

马尔可夫不等式

马尔可夫不等式相比切比雪夫不等式不需要知道随机变量的方差。马尔可夫不等式有以下式子：

P{X≥a}≤E(X)aa>0P{X≥0}=1P\{X\ge a\}\le\frac{E(X)}{a}\\ a\gt 0\\ P\{X\ge 0\}=1 P{X≥a}≤aE(X)​a>0P{X≥0}=1

这个不等式给随机变量的分布函数提出了一个宽泛而有用的边界，证明如下：

E(x)=∫0∞xf(x)dx≥∫a∞xf(x)dx≥a∫a∞f(x)dx=aP{X≥a}E(x)=\int_0^{\infin} xf(x)dx\ge\int_a^{\infin}xf(x)dx\ge a\int_a^{\infin}f(x)dx=aP\{X\ge a\} E(x)=∫0∞​xf(x)dx≥∫a∞​xf(x)dx≥a∫a∞​f(x)dx=aP{X≥a}

对于取值大于0的随机变量，可以使用马尔可夫不等式证明切比雪夫不等式：

P{∣X−μ∣≥ϵ}=P{(X−μ)2≥ϵ2}≤E((X−μ)2)ϵ2=σ2ϵ2P\{|X-\mu|\ge\epsilon\}=P\{(X-\mu)^2\ge\epsilon^2\}\le\frac{E((X-\mu)^2)}{\epsilon^2}=\frac{\sigma^2}{\epsilon^2} P{∣X−μ∣≥ϵ}=P{(X−μ)2≥ϵ2}≤ϵ2E((X−μ)2)​=ϵ2σ2​

如果觉得《切比雪夫不等式与马尔可夫不等式》对你有帮助，请点赞、收藏，并留下你的观点哦！