29 广义 Markov 不等式：用一个期望控制一个尾概率 · 第2讲

这一页在讲什么

人话版一句话版

一个非负随机变量「取到很大值」的概率，不会超过它的（某个变换后的）期望除以那个大值： $P (X \geq t) \leq E ψ (X) / ψ (t) 。$ 只要 $ψ$ 单调不减就行。换不同的 $ψ ，$ 就得到 Markov、Chebyshev、Chernoff 等一系列著名不等式。

位置：第 5 部分「用矩控制概率」的第一个结论。上一页（第 28 页）提出问题：前面的不等式（Jensen、Hölder、Minkowski）控制的都是期望，怎么控制事件的概率 $P (∣ W ∣ \geq t) ？$ 这一页给出统一的答案。
核心技巧只有一行： $ψ (t) 1_{{X \geq t}} \leq ψ (X) ，$ 两边取期望。
后面怎么用：第 30 页用它的思想说明「有限矩 ⇒ 尾巴衰减」；第 32 页用它（配合一个平移参数）证明 Cantelli 不等式；第 3 讲到处用它把「期望小」变成「概率小」（例如第 10 页）。

先补基础

基础补课示性函数的期望就是概率

$E [1_{A}] = P (A) ：$ $1_{A}$ 只取 0 和 1，取 1 的概率是 $P (A) 。$ 所以「控制概率」可以转化为「控制一个示性函数的期望」，而期望可以用不等式比较大小（第 5 页的单调性： $Y \leq Z$ ⇒ $E Y \leq E Z ）。$

基础补课单调不减的函数

$ψ : [0, \infty) \to [0, \infty)$ 单调不减： $x \leq y \Rightarrow ψ (x) \leq ψ (y) 。$ 常用的例子： $ψ (x) = x 、$ $x^{2} 、$ $x^{p}$ （ $p > 0 ）、$ $e^{λ x}$ （ $λ > 0 ）、$ $min (x, 1) 。$

基础补课方差（回顾）

$Var W = E (W - E W)^{2} ，$ 衡量 $W$ 围绕均值的波动； $Var W$ 叫标准差。

课件原文逐句精读

课件原文Generalized Markov inequality

Proposition 27 (Generalized Markov inequality) Let $X \geq 0$ , let $ψ : [0, \infty) \to [0, \infty)$ be nondecreasing, and let $t \geq 0$ satisfy $ψ (t) > 0$ . Then（留白）

中文翻译

命题 27（广义 Markov 不等式） 设 $X \geq 0 ，$ $ψ : [0, \infty) \to [0, \infty)$ 单调不减， $t \geq 0$ 满足 $ψ (t) > 0 。$ 则（课件留白，见下一节。）

逐个条件：

$X \geq 0$ ：非负随机变量。要控制一般随机变量 $W ，$ 就取 $X = ∣ W ∣$ 或 $X = ∣ W - E W ∣ 。$
$ψ$ 非负、单调不减：「 $X$ 大， $ψ (X)$ 也大」，这是证明的关键。
$ψ (t) > 0$ ：结论里要除以 $ψ (t) ，$ 不能是 0。

补全课件留白

补充说明

课件此处留白（课堂板书），以下内容由本站根据标准教材补写，记号与本课件保持一致；如与老师课堂写法不同，以老师为准。

命题 27（广义 Markov 不等式）

在上述条件下，

P (X \geq t) \leq \frac{E [ ψ ( X )]}{ψ ( t )} .

推导证明思路

在事件 ${X \geq t}$ 上， $ψ (X) \geq ψ (t) ；$ 在事件外，左边是 0。所以 $ψ (t) 1_{{X \geq t}} \leq ψ (X)$ 处处成立，取期望即可。

第 1 步（逐点不等式）：任取 $ω 。$

若 $X (ω) \geq t ：$ $ψ$ 单调不减， $ψ (X (ω)) \geq ψ (t) = ψ (t) 1_{{X \geq t}} (ω) 。$
若 $X (ω) < t ：$ 左边 $ψ (t) 1_{{X \geq t}} (ω) = 0 \leq ψ (X (ω))$ （ $ψ \geq 0 ）。$

所以

ψ (t) 1_{{X \geq t}} \leq ψ (X) 处处成立 .

第 2 步（取期望）：两边都是非负随机变量，期望保持不等号（第 5 页），左边是常数乘示性函数：

ψ (t) P (X \geq t) \leq E [ψ (X)] .

第 3 步（除以 $ψ (t) > 0 ）$ ：得到结论。 $■$

（ $E ψ (X) = \infty$ 时结论是平凡的「 $\leq \infty 」，$ 仍然成立。）

四个最常用的特例

名字	取法	不等式
Markov 不等式	$ψ (x) = x ，$ $t > 0$	$P (X \geq t) \leq \frac{E X}{t}$
$p$ 阶矩版本	$ψ (x) = x^{p} ，$ $p > 0$	$P (X \geq t) \leq \frac{E X ^{p}}{t ^{p}}$
Chebyshev 不等式	$X = ∣ W - E W ∣ ，$ $ψ (x) = x^{2}$	$P (∣ W - E W ∣ \geq t) \leq \frac{Var W}{t ^{2}}$
指数型（Chernoff）	$X = e^{W}$ 型；等价地对实值 $W$ 用 $ψ (x) = e^{λ x} ，$ $λ > 0$	$P (W \geq t) \leq e^{- λ t} E e^{λW}$

最后一行的说明：对实值 $W ，$ ${W \geq t} = {e^{λW} \geq e^{λ t}}$ （指数函数严格递增），对非负随机变量 $e^{λW}$ 用 Markov 即可。 $λ > 0$ 可以自由选，选得好界就紧。

人话版为什么叫「用一个期望控制一个事件」

$E ψ (X)$ 是 $ψ (X)$ 的「平均水平」。如果 $X$ 经常 $\geq t ，$ 那么 $ψ (X)$ 就经常 $\geq ψ (t) ，$ 平均水平至少是 $ψ (t) P (X \geq t) 。$ 反过来，平均水平不高，「经常很大」就不可能。 $ψ$ 增长得越快（例如指数），大值对平均的贡献越突出，界就越紧——前提是 $E ψ (X)$ 有限。

图解

图解：Markov 不等式就是「曲线下面积 ≥ 一个矩形」

回忆第 12 页：非负随机变量的期望等于尾概率曲线下的面积，

E X = \int_{0}^{\infty} P (X > s) d s .

画出函数 $s \mapsto P (X > s) ：$ 它从 $s = 0$ 处的值（不超过 1）开始单调下降。

在 $0 \leq s < t$ 这一段，曲线的高度至少是 $P (X \geq t)$ （因为 $s < t$ 时 ${X \geq t} \subseteq {X > s} ）。$
所以曲线下面积至少包含一个宽为 $t 、$ 高为 $P (X \geq t)$ 的矩形：

E X \geq t \cdot P (X \geq t) .

这正是 Markov 不等式。图上一目了然：矩形之外还有大块面积被「浪费」了，所以 Markov 往往很松；只有当曲线在 $[0, t)$ 上恰好是平的、在 $t$ 处直接掉到 0（ $X$ 只取 0 和 $t ）$ 时，矩形才和面积一样大，等号成立。

例子

例 1：Markov——平均工资推出「高收入」的比例上限

某公司员工收入 $X \geq 0 ，$ 平均月收入 1 万元。那么月收入至少 5 万元的员工比例不超过 $P (X \geq 5) \leq \frac{1}{5} = 20% 。$ 注意：这个界只用了「非负 + 平均值」，没有用任何分布信息，所以往往很松。

例 2：同一个尾概率，几种界的松紧对比

$W \sim exp (1)$ （ $E W = 1 ，$ $Var W = 1 ，$ $E W^{2} = 2 ，$ $E e^{λW} = \frac{1}{1 - λ} ，$ $λ < 1 ）。$ 估计 $P (W \geq 10) ：$

方法	计算	上界
精确值	$e^{- 10}$	$\approx 4.5 \times 1 0^{- 5}$
Markov	$E W /10$	$0.1$
二阶矩	$E W^{2} /1 0^{2}$	$0.02$
Chebyshev	$P (∣ W - 1 ∣ \geq 9) \leq 1/81$	$\approx 0.012$
Chernoff（最优 $λ ）$	$e^{- 10 λ} / (1 - λ) ，$ 取 $λ = 0.9$ 得 $10 e^{- 9}$	$\approx 1.2 \times 1 0^{- 3}$

最优 $λ$ 的求法：令 $g (λ) = e^{- λ t} / (1 - λ) ，$ $ln g = - λ t - ln (1 - λ) ，$ 求导令其为 0： $- t + \frac{1}{1 - λ} = 0 ，$ 得 $λ = 1 - \frac{1}{t} ，$ 代回得 $g = t e^{- (t - 1)} 。$ $t = 10$ 时为 $10 e^{- 9} 。$

规律：用的矩越「高」（ $ψ$ 增长越快），界越紧；指数型最紧，但需要 $E e^{λW} < \infty 。$

例 3：Chebyshev 的经典用法——「几个标准差之外」

任何方差有限的 $W ，$ 偏离均值超过 $k$ 个标准差的概率不超过 $1/ k^{2} ：$ 取 $t = kσ ，$ $P (∣ W - μ ∣ \geq kσ) \leq \frac{σ ^{2}}{k ^{2} σ ^{2}} = \frac{1}{k ^{2}} 。$ 例如偏离 3 个标准差以上的概率 $\leq \frac{1}{9} \approx 11%$ ——对任何分布都成立（对正态分布，实际只有约 0.27%）。

例 4：样本均值为什么会靠近真实均值——弱大数定律的雏形

设 $W_{1}, \dots, W_{n}$ 独立同分布，均值 $μ 、$ 方差 $σ^{2} < \infty ，$ 样本均值 $\overset{ˉ}{W}_{n} = \frac{1}{n} \sum_{i = 1}^{n} W_{i} 。$

均值： $E \overset{ˉ}{W}_{n} = \frac{1}{n} \sum E W_{i} = μ$ （期望是线性的）。
方差：独立随机变量的方差可以相加（第 3 讲第 37 页会推导），所以 $Var \overset{ˉ}{W}_{n} = \frac{1}{n ^{2}} \sum Var W_{i} = \frac{σ ^{2}}{n} 。$
Chebyshev：对任意 $ε > 0 ，$ $P (∣ \overset{ˉ}{W}_{n} - μ ∣ \geq ε) \leq \frac{Var W ˉ _{n}}{ε ^{2}} = \frac{σ ^{2}}{n ε ^{2}} n \to \infty 0.$

也就是说：样本越多，样本均值偏离真实均值超过任意给定精度的概率越小。这就是「弱大数定律」，它只用了这一页的 Chebyshev 不等式。数值感受：抛公平硬币 $n = 10000$ 次（ $σ^{2} = \frac{1}{4} ），$ 正面比例偏离 $\frac{1}{2}$ 超过 $0.02$ 的概率不超过 $\frac{1/4}{10000 \times 0.0004} = 0.0625 。$

常见疑问与易错点

易错点问：Markov 和 Chebyshev 是两个不同的不等式吗？

答：本质上是同一个。Chebyshev 就是把 Markov 用在非负随机变量 $(W - E W)^{2}$ 上： $P (∣ W - E W ∣ \geq t) = P ((W - E W)^{2} \geq t^{2}) \leq \frac{E ( W - E W ) ^{2}}{t ^{2}} 。$ 广义 Markov 把这类技巧统一成一句话：选一个单调不减的 $ψ ，$ 把事件 ${X \geq t}$ 换成 ${ψ (X) \geq ψ (t)} 。$

易错点问：为什么要求 X ≥ 0？

答：Markov 用到 $X 1_{{X \geq t}} \leq X ，$ 这需要 $X$ 在 ${X < t}$ 上非负。若 $X$ 可以是负的，例如 $X = \pm 10$ 各一半， $E X = 0 ，$ Markov 会给出 $P (X \geq 5) \leq 0 ，$ 显然错误（实际是 $\frac{1}{2} ）。$ 处理一般随机变量时，先取绝对值或平方。

易错点问：ψ 不单调可以吗？

答：不行。证明第 1 步要用「 $X \geq t \Rightarrow ψ (X) \geq ψ (t) 」。$ 例如 $ψ (x) = 1_{{x < 1}}$ （不单调，在 $x \geq 1$ 后反而变小），取 $X \equiv 5 、$ $t = 0.5 ：$ $P (X \geq 0.5) = 1 ，$ 但 $E ψ (X) / ψ (0.5) = 0/1 = 0 ，$ 不等式不成立。

易错点问：这些不等式什么时候「紧」？

答：Markov 在 $X$ 只取 0 和 $t$ 两个值时取等号： $P (X = t) = p ，$ $E X = pt ，$ $P (X \geq t) = p = E X / t 。$ 所以在只知道均值的前提下，Markov 不能再改进；要更紧的界，就要用更多信息（更高的矩、指数矩）。

小结与自测

小结本页小结

广义 Markov： $X \geq 0 ，$ $ψ$ 非负单调不减， $ψ (t) > 0$ ⇒ $P (X \geq t) \leq E ψ (X) / ψ (t) 。$
证明一行： $ψ (t) 1_{{X \geq t}} \leq ψ (X) ，$ 取期望。
特例：Markov（ $ψ = x ）、$ $p$ 阶矩（ $ψ = x^{p} ）、$ Chebyshev（ $X = ∣ W - E W ∣ ，$ $ψ = x^{2} ）、$ Chernoff（ $ψ = e^{λ x} ）。$
用的信息越多（矩越高），界越紧；Markov 只用均值，在这个前提下已经最好。

自测

1. $X \geq 0 ，$ $E X = 2 ，$ $E X^{2} = 5 。$ 用 Markov 和二阶矩版本分别估计 $P (X \geq 4) ，$ 哪个更好？

点开看答案

Markov： $\leq \frac{2}{4} = 0.5 ；$ 二阶矩： $\leq \frac{5}{16} \approx 0.31 。$ 二阶矩的界更好。

2. 若 $Var W = 4 ，$ 用 Chebyshev 估计 $P (∣ W - E W ∣ \geq 5) 。$

点开看答案

$\leq \frac{4}{25} = 0.16 。$

3. 用指数型不等式证明：若 $Z \sim N (0, 1) ，$ 则 $P (Z \geq t) \leq e^{- t^{2} /2}$ （ $t > 0 ）。$ 已知 $E e^{λ Z} = e^{λ^{2} /2} 。$

点开看答案

$P (Z \geq t) \leq e^{- λ t} e^{λ^{2} /2} = e^{λ^{2} /2 - λ t} 。$ 对 $λ$ 求最小：指数 $λ^{2} /2 - λ t$ 在 $λ = t$ 处最小，值为 $- t^{2} /2 ，$ 所以 $P (Z \geq t) \leq e^{- t^{2} /2} 。$

本页术语中英对照（按出现顺序）

中文	English	白话解释
随机变量	random variable	从样本空间到实数的（可测）函数，把结局翻译成数字；随机性来自「实现了哪个 ω」。
期望	expectation	随机变量对概率测度的积分 E[X] = ∫ X dP，也就是「加权平均」。
单调递增	nondecreasing	后一项不小于前一项；单调有界的数列一定有极限。
事件	event	样本空间的（允许谈概率的）子集；实现的 ω 落在里面，就说事件发生。
示性函数	indicator function	𝟏_A(x) 在 x ∈ A 时取 1，否则取 0；它的积分就是 A 的测度。
Markov 不等式	Markov's inequality	X ≥ 0 时 P(X ≥ t) ≤ E X / t：期望小，取大值的概率就小。
函数	function / map	f: A → B 给 A 中每个元素指定 B 中唯一一个元素。
阶矩	moment	E[\|X\|ᵖ] 叫 p 阶（绝对）矩；它有限与否反映尾部有多「重」。
Chebyshev 不等式	Chebyshev's inequality	P(\|X − μ\| ≥ t) ≤ σ² / t²：方差控制偏离均值的概率。
尾概率	tail probability	随机变量取到「很大的值」的概率，例如 P(X > t) 或 P(\|X\| ≥ t)。它随 t 增大而下降得越慢，分布的尾巴就越「厚」。
分布	law / distribution	X 把概率「推」到取值空间上得到的测度：L(X)(B) = P(X ∈ B)。
上界	upper bound	数集 A 的上界是一个数 M，A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界；所有上界中最小的那个叫上确界。
方差	variance	Var X = E[(X − E X)²]，衡量随机变量围绕均值的波动大小。
独立同分布	independent and identically distributed (i.i.d.)	一列随机变量相互独立，并且分布都相同，例如反复独立地掷同一颗骰子。
独立	independence	任意有限个事件同时发生的概率等于各自概率的乘积。
弱大数定律	weak law of large numbers (WLLN)	样本均值依概率收敛到真实均值：对每个 ε > 0，P(\|Sₙ/n − μ\| > ε) → 0。方差有限时可由 Chebyshev 不等式直接推出。