27 Minkowski 不等式：p > 1 时只需一次 Hölder 计算 · 第2讲

这一页在讲什么

人话版一句话版

$1 \leq p \leq \infty$ 时

∥ X + Y ∥_{p} \leq ∥ X ∥_{p} + ∥ Y ∥_{p},

这就是 $L^{p}$ 里的三角不等式：「两边之和不小于第三边」。 $p = 1$ 时逐点的 $∣ x + y ∣ \leq ∣ x ∣ + ∣ y ∣$ 取期望就够了； $p > 1$ 时把 $∣ X + Y ∣^{p}$ 拆成 $∣ X + Y ∣ \cdot ∣ X + Y ∣^{p - 1} ，$ 对每一块用一次 Hölder 不等式。

位置：第 4 部分的最后一页。前面控制了「变换」（第 24 页）和「乘积」（第 26 页），本页控制「和」。
为什么需要：第 22 页说 $∥ \cdot ∥_{p}$ 想当一把「尺子」（范数），正定性和齐次性那一页已经验证，只差三角不等式。本页补上最后一块： $p \geq 1$ 时 $L^{p}$ 是赋范向量空间，可以谈「两个随机变量之间的距离」 $∥ X - Y ∥_{p} 。$
还要说明： $0 < p < 1$ 时三角不等式失败（第 22 页留下的反例在本页例 3）。

先补基础

基础补课数的三角不等式

对实数 $x, y ：$ $∣ x + y ∣ \leq ∣ x ∣ + ∣ y ∣ 。$ 理由： $x, y$ 同号（或有一个为 0）时两边相等；异号时左边有抵消，严格更小。例： $∣3 + (- 1) ∣ = 2 < 4 。$
平面向量的版本：三角形两边长之和不小于第三边。Minkowski 不等式就是把它搬到随机变量上，长度用 $∥ \cdot ∥_{p}$ 来量。

基础补课回顾：Hölder 与共轭指数（第 26 页）

$1 < p < \infty ，$ $q = \frac{p}{p - 1} ，$ 则 $E ∣ U V ∣ \leq ∥ U ∥_{p} ∥ V ∥_{q} 。$
两个恒等式： $(p - 1) q = p ，$ 以及 $\frac{p}{q} = p - 1 。$ 下面会用它们计算 $∣ X + Y ∣^{p - 1}_{q} 。$

基础补课一个保证有限的粗糙不等式：|x+y|ᵖ ≤ 2ᵖ⁻¹(|x|ᵖ + |y|ᵖ)

设 $p \geq 1 。$ $t \mapsto ∣ t ∣^{p}$ 在 $R$ 上凸（第 25 页的基础补课）。在凸性定义中取 $λ = \frac{1}{2} ：$

\frac{x + y}{2}^{p} \leq \frac{∣ x ∣ ^{p} + ∣ y ∣ ^{p}}{2} .

两边乘以 $2^{p} ：$ $∣ x + y ∣^{p} \leq 2^{p - 1} (∣ x ∣^{p} + ∣ y ∣^{p}) 。$ 例： $p = 2$ 时是 $(x + y)^{2} \leq 2 (x^{2} + y^{2}) ，$ 等价于 $(x - y)^{2} \geq 0 。$ 它比第 22 页用过的 $2^{p} (∣ x ∣^{p} + ∣ y ∣^{p})$ 好一倍，但两者的作用一样：保证 $X, Y \in L^{p}$ 时 $X + Y \in L^{p}$ 。

课件原文逐句精读

课件原文Minkowski for p > 1 is one Hölder calculation

Theorem 26 (Minkowski's inequality)

中文翻译

蓝条标题： $p > 1$ 时的 Minkowski 不等式，就是一次 Hölder 计算。

定理 26（Minkowski 不等式）（课件只印了名称，正文留白，见下一节。）

for p > 1｜为什么标题单说 p > 1

$p = 1$ 时，Minkowski 不等式就是 $E ∣ X + Y ∣ \leq E ∣ X ∣ + E ∣ Y ∣ ，$ 由逐点的 $∣ X + Y ∣ \leq ∣ X ∣ + ∣ Y ∣$ 取期望立刻得到，不需要任何新工具。
$p > 1$ 时， $∥ X + Y ∥_{p} = (E ∣ X + Y ∣^{p})^{1/ p}$ 外面套着一个 $\frac{1}{p}$ 次方，不能直接逐点比较再取期望，需要一个技巧。标题说：这个技巧就是一次 Hölder 计算。

is one Hölder calculation｜一次 Hölder 计算

「一次」是说核心只有一行： $E [∣ X ∣ ∣ X + Y ∣^{p - 1}] \leq ∥ X ∥_{p} ∣ X + Y ∣^{p - 1}_{q}$ （对 $Y$ 也写一行）。其余都是代数整理。

Theorem 26 (Minkowski's inequality)｜名字

Hermann Minkowski（闵可夫斯基，德国数学家，1896 年前后）。他也是狭义相对论「时空」几何的提出者。

补全课件留白

补充说明

课件此处留白（课堂板书），以下内容由本站根据标准教材补写，记号与本课件保持一致；如与老师课堂写法不同，以老师为准。

定理 26（Minkowski 不等式）

设 $(Ω, F, P)$ 是概率空间， $1 \leq p \leq \infty ，$ $X, Y$ 是实值随机变量。则

∥ X + Y ∥_{p} \leq ∥ X ∥_{p} + ∥ Y ∥_{p} (两边允许取 + \infty) .

因此 $p \geq 1$ 时 $∥ \cdot ∥_{p}$ 是 $L^{p}$ 上的范数（第 22 页的三条全部满足）， $d (X, Y) := ∥ X - Y ∥_{p}$ 是 $L^{p}$ 中的距离。

逐项解释：

$p \geq 1$ ：这是必要的。 $0 < p < 1$ 时不等式可以失败（例 3）。
两边允许取 $+ \infty$ ：若 $∥ X ∥_{p}$ 或 $∥ Y ∥_{p}$ 是 $\infty ，$ 右边是 $\infty ，$ 不等式自动成立。真正要证的是两者都有限的情形。
范数：正定性（ $∥ X ∥_{p} = 0 ⟺ X = 0$ a.s.）和齐次性（ $∥ c X ∥_{p} = ∣ c ∣∥ X ∥_{p} ）$ 在第 22 页已证，三角不等式由本定理给出。
距离： $∥ X - Z ∥_{p} \leq ∥ X - Y ∥_{p} + ∥ Y - Z ∥_{p} ，$ 把 $X - Y$ 和 $Y - Z$ 代入定理即得。

推导证明思路

$p = 1$ 与 $p = \infty$ 逐点比较即可。 $1 < p < \infty$ 时：先用粗糙不等式说明 $∥ X + Y ∥_{p} < \infty ；$ 然后写 $∣ X + Y ∣^{p} \leq ∣ X ∣ ∣ X + Y ∣^{p - 1} + ∣ Y ∣ ∣ X + Y ∣^{p - 1} ，$ 对右边两项各用一次 Hölder（ $q = \frac{p}{p - 1} ），$ 得到 $∥ X + Y ∥_{p}^{p} \leq (∥ X ∥_{p} + ∥ Y ∥_{p}) ∥ X + Y ∥_{p}^{p - 1} ，$ 最后两边除以 $∥ X + Y ∥_{p}^{p - 1} 。$

情形 $p = 1 。$ 对每个 $ω ，$ $∣ X + Y ∣ \leq ∣ X ∣ + ∣ Y ∣ 。$ 由单调性和非负随机变量期望的可加性， $E ∣ X + Y ∣ \leq E ∣ X ∣ + E ∣ Y ∣ 。$

情形 $p = \infty 。$ 已在第 22 页证明： $∣ X + Y ∣ \leq ∣ X ∣ + ∣ Y ∣ \leq ∥ X ∥_{\infty} + ∥ Y ∥_{\infty}$ a.s.，所以 $∥ X ∥_{\infty} + ∥ Y ∥_{\infty}$ 是 $∣ X + Y ∣$ 的几乎必然上界， $∥ X + Y ∥_{\infty}$ 不超过它。

情形 $1 < p < \infty 。$ 若 $∥ X ∥_{p} = \infty$ 或 $∥ Y ∥_{p} = \infty ，$ 右边是 $\infty ，$ 无需证明。下面设 $X, Y \in L^{p} ，$ 记 $S = X + Y ，$ $q = \frac{p}{p - 1} 。$

第 1 步： $∥ S ∥_{p} < \infty 。$ 由粗糙不等式（逐点）， $∣ S ∣^{p} \leq 2^{p - 1} (∣ X ∣^{p} + ∣ Y ∣^{p}) ，$ 取期望：

E ∣ S ∣^{p} \leq 2^{p - 1} (E ∣ X ∣^{p} + E ∣ Y ∣^{p}) < \infty.

第 2 步： $∥ S ∥_{p} = 0$ 的情形。 此时左边是 0，不等式成立。下面设 $0 < ∥ S ∥_{p} < \infty 。$

第 3 步：拆出一个因子，用三角不等式。 对每个 $ω ，$

∣ S ∣^{p} = ∣ S ∣ \cdot ∣ S ∣^{p - 1} \leq (∣ X ∣ + ∣ Y ∣) ∣ S ∣^{p - 1} = ∣ X ∣ ∣ S ∣^{p - 1} + ∣ Y ∣ ∣ S ∣^{p - 1} .

取期望（非负随机变量，单调且可加）：

E ∣ S ∣^{p} \leq E [∣ X ∣ ∣ S ∣^{p - 1}] + E [∣ Y ∣ ∣ S ∣^{p - 1}] .

第 4 步：对两项各用一次 Hölder。 取 $U = X ，$ $V = ∣ S ∣^{p - 1} ，$ 指数 $p$ 与 $q ：$

E [∣ X ∣ ∣ S ∣^{p - 1}] \leq ∥ X ∥_{p} ∣ S ∣^{p - 1}_{q} .

计算第二个因子，用 $(p - 1) q = p$ 和 $\frac{1}{q} = \frac{p - 1}{p} ：$

∣ S ∣^{p - 1}_{q} = (E ∣ S ∣^{(p - 1) q})^{1/ q} = (E ∣ S ∣^{p})^{\frac{p - 1}{p}} = ∥ S ∥_{p}^{p - 1} .

它是有限数（第 1 步）。对 $Y$ 那一项完全一样，得 $E [∣ Y ∣ ∣ S ∣^{p - 1}] \leq ∥ Y ∥_{p} ∥ S ∥_{p}^{p - 1} 。$

第 5 步：合起来再约分。 第 3、4 步合起来，左边 $E ∣ S ∣^{p} = ∥ S ∥_{p}^{p} ：$

∥ S ∥_{p}^{p} \leq (∥ X ∥_{p} + ∥ Y ∥_{p}) ∥ S ∥_{p}^{p - 1} .

由第 1、2 步， $∥ S ∥_{p}^{p - 1}$ 是一个有限的正数，两边除以它，不等号方向不变：

∥ X + Y ∥_{p} = ∥ S ∥_{p} \leq ∥ X ∥_{p} + ∥ Y ∥_{p} .

证毕。

第 1 步为什么不能省：如果不知道 $∥ S ∥_{p}$ 有限，第 5 步可能是「 $\infty \leq (有限数) \cdot \infty 」，$ 即 $\infty \leq \infty ，$ 除不下去，什么也推不出来。粗糙不等式的唯一作用就是先排除这种情况。

为什么要把 |S|ᵖ 拆成 |S| · |S|ᵖ⁻¹

我们想要的不等式里， $∥ X ∥_{p} 、$ $∥ Y ∥_{p}$ 是一次方出现的，而 $E ∣ S ∣^{p}$ 是 $p$ 次方。拆出一个 $∣ S ∣$ 用三角不等式换成 $∣ X ∣ + ∣ Y ∣ ，$ 就把 $X 、$ $Y$ 以一次方的形式请了出来；剩下的 $∣ S ∣^{p - 1}$ 正好属于 $L^{q}$ （因为 $(p - 1) q = p ），$ 可以和 $∣ X ∣ \in L^{p}$ 配成 Hölder 的一对。最后两边都有 $∥ S ∥_{p}$ 的幂，约掉 $p - 1$ 次，留下一次方。这就是共轭指数 $q = \frac{p}{p - 1}$ 被设计出来的原因之一。

等号条件与反向三角不等式

等号（ $1 < p < \infty ，$ $X, Y$ 都不几乎必然为 0）：成立当且仅当 $Y = c X$ a.s. 对某个常数 $c > 0$ 成立。理由的要点：第 3 步要取等号，需要 $X 、$ $Y$ 在 $S \neq = 0$ 处同号；第 4 步要取等号，需要第 26 页的等号条件（ $∣ X ∣^{p}$ 与 $∣ S ∣^{p}$ 成比例）。
反向三角不等式： $∥ X ∥_{p} - ∥ Y ∥_{p} \leq ∥ X - Y ∥_{p} 。$ 理由： $∥ X ∥_{p} = ∥ (X - Y) + Y ∥_{p} \leq ∥ X - Y ∥_{p} + ∥ Y ∥_{p} ，$ 移项得 $∥ X ∥_{p} - ∥ Y ∥_{p} \leq ∥ X - Y ∥_{p} ；$ 交换 $X 、$ $Y$ 得另一边。它说明： $X_{n}$ 在 $L^{p}$ 距离下接近 $X$ 时， $∥ X_{n} ∥_{p}$ 也接近 $∥ X ∥_{p} 。$

图解

图解：两个结局的世界里，Minkowski 就是平面上的三角形

课件这里没有图，可以这样画：

取 $Ω = {ω_{1}, ω_{2}} ，$ 各有概率 $\frac{1}{2} 。$ 随机变量 $X$ 就是一对数 $(X (ω_{1}), X (ω_{2})) ，$ 可以画成平面上的一个箭头。
$p = 2$ 时， $∥ X ∥_{2} = \frac{1}{2} X (ω_{1})^{2} + \frac{1}{2} X (ω_{2})^{2}$ 就是这个箭头的普通长度乘以 $\frac{1}{2} 。$
$X + Y$ 是两个箭头首尾相接后的「第三边」。三角形两边之和大于第三边，所以 $∥ X + Y ∥_{2} \leq ∥ X ∥_{2} + ∥ Y ∥_{2} 。$
一般的 $p$ 只是换了一种量长度的方式： $p = 1$ 量的是「横走加竖走」的出租车距离（乘以 $\frac{1}{2} ），$ $p = \infty$ 量的是两个坐标中较大的那个。只要 $p \geq 1 ，$ 「单位圆」 ${∥ X ∥_{p} \leq 1}$ 是一个凸的形状，三角不等式就成立； $p < 1$ 时「单位圆」向内凹成星形，三角不等式失败。

数值见例 1。

例子

例 1：两个结局的数值检验

$Ω = {ω_{1}, ω_{2}} ，$ 各概率 $\frac{1}{2} 。$ $X = (3, 0) ，$ $Y = (0, 4)$ （括号里依次是在 $ω_{1} 、$ $ω_{2}$ 上的取值）， $X + Y = (3, 4) 。$

$p$	$∥ X ∥_{p}$	$∥ Y ∥_{p}$	和	$∥ X + Y ∥_{p}$
$1$	$1.5$	$2$	$3.5$	$3.5$
$2$	$4.5 \approx 2.121$	$8 \approx 2.828$	$\approx 4.950$	$12.5 \approx 3.536$
$\infty$	$3$	$4$	$7$	$4$

例如 $p = 2 ：$ $∥ X + Y ∥_{2} = \frac{9 + 16}{2} 。$ 三行都满足 Minkowski。 $p = 1$ 时取等号，因为 $X 、$ $Y$ 都非负，逐点的三角不等式 $∣ x + y ∣ \leq ∣ x ∣ + ∣ y ∣$ 处处取等号。

例 2：标准差的次可加性——「分散投资」

设 $X, Y \in L^{2} ，$ 标准差 $σ_{X} = ∥ X - E X ∥_{2} 。$ 对 $X - E X$ 和 $Y - E Y$ 用 $p = 2$ 的 Minkowski：

σ_{X + Y} = (X - E X) + (Y - E Y)_{2} \leq σ_{X} + σ_{Y} .

组合的风险不超过各部分风险之和。数值：两个资产收益的标准差都是 1。若协方差为 0， $Var (X + Y) = Var X + Var Y + 2 Cov (X, Y) = 2 ，$ $σ_{X + Y} = 2 \approx 1.414 < 2 ；$ 若 $Y = X$ （完全正相关）， $σ_{X + Y} = 2 σ_{X} = 2 ，$ 取等号；若 $Y = - X ，$ $σ_{X + Y} = 0 ，$ 风险完全对冲。

例 3（反例）：0 < p < 1 时三角不等式失败

取事件 $A ，$ $P (A) = \frac{1}{2} ，$ $X = 1_{A} ，$ $Y = 1_{A^{c}} ，$ 则 $X + Y = 1 。$ 对任意 $p > 0 ：$

∥ X ∥_{p} = ∥ Y ∥_{p} = (\frac{1}{2})^{1/ p}, ∥ X + Y ∥_{p} = 1, ∥ X ∥_{p} + ∥ Y ∥_{p} = 2 \cdot 2^{- 1/ p} = 2^{1 - \frac{1}{p}} .

$p = \frac{1}{2} ：$ 右边 $2^{1 - 2} = \frac{1}{2} ，$ 而左边 $∥ X + Y ∥_{1/2} = 1 > \frac{1}{2} 。$ 三角不等式失败。
$p = 1 ：$ $2^{0} = 1 ，$ 恰好相等。
$p = 2 ：$ $2^{1/2} \approx 1.414 \geq 1 ，$ 成立。

一般地， $p < 1$ 时 $1 - \frac{1}{p} < 0 ，$ $2^{1 - 1/ p} < 1 ，$ 总是失败。这就是第 22 页说「 $0 < p < 1$ 时 $∥ \cdot ∥_{p}$ 不是范数」的原因。失败的根源： $∣ t ∣^{p}$ 在 $p < 1$ 时不是凸函数，粗糙不等式和 Hölder 都用不上。

常见疑问与易错点

易错点问：既然第 22 页已经证明了 X + Y ∈ Lᵖ，Minkowski 多给了什么？

答：多给了一个精确的常数。第 22 页的 $E ∣ X + Y ∣^{p} \leq 2^{p} (E ∣ X ∣^{p} + E ∣ Y ∣^{p})$ 只能说明「有限」，开 $p$ 次方后得到 $∥ X + Y ∥_{p} \leq 2 (∥ X ∥_{p}^{p} + ∥ Y ∥_{p}^{p})^{1/ p} ，$ 前面有一个多余的系数。Minkowski 把系数压到最好的 1，这样 $∥ \cdot ∥_{p}$ 才是真正的范数，才能当「距离」用。

易错点问：第 5 步两边除以 ‖S‖ₚᵖ⁻¹，需要注意什么？

答：要确认它是有限的正数。它是 0 时不能除（第 2 步单独处理）；它是 $\infty$ 时除法没有意义（第 1 步排除）。这两种边界情况各用一句话就能处理，但证明里必须写出来，否则证明有漏洞。

易错点问：能不能逐点用 |x + y|ᵖ ≤ |x|ᵖ + |y|ᵖ 再取期望？

答： $p > 1$ 时这个逐点不等式是错的： $x = y = 1 ，$ $∣ x + y ∣^{p} = 2^{p} > 2 。$ 正确的逐点不等式是 $∣ x + y ∣^{p} \leq 2^{p - 1} (∣ x ∣^{p} + ∣ y ∣^{p}) ，$ 它太粗，只能说明有限。反过来， $0 < p \leq 1$ 时 $∣ x + y ∣^{p} \leq ∣ x ∣^{p} + ∣ y ∣^{p}$ 是对的。理由：记 $u = ∣ x ∣ 、$ $v = ∣ y ∣ ，$ 先有 $∣ x + y ∣^{p} \leq (u + v)^{p} ；$ 若 $u + v > 0 ，$ 令 $s = \frac{u}{u + v} \in [0, 1] ，$ 由于 $p \leq 1 ，$ $s^{p} \geq s 、$ $(1 - s)^{p} \geq 1 - s ，$ 相加得 $\frac{u ^{p} + v ^{p}}{( u + v ) ^{p}} \geq 1 。$ 它给出 $E ∣ X + Y ∣^{p} \leq E ∣ X ∣^{p} + E ∣ Y ∣^{p} ：$ 这时「不开方的 $E ∣ X - Y ∣^{p} 」$ 可以当距离，弥补了 $∥ \cdot ∥_{p}$ 不是范数的缺陷。

小结与自测

小结本页小结

定理 26： $1 \leq p \leq \infty$ 时 $∥ X + Y ∥_{p} \leq ∥ X ∥_{p} + ∥ Y ∥_{p} ；$ 于是 $∥ \cdot ∥_{p}$ 是 $L^{p}$ 上的范数， $∥ X - Y ∥_{p}$ 是距离。
$p = 1 、$ $p = \infty ：$ 逐点三角不等式取期望 / 取本质上确界。
$1 < p < \infty ：$ 先用 $∣ x + y ∣^{p} \leq 2^{p - 1} (∣ x ∣^{p} + ∣ y ∣^{p})$ 保证有限 → $∣ S ∣^{p} \leq (∣ X ∣ + ∣ Y ∣) ∣ S ∣^{p - 1}$ → 对两项用 Hölder， $∥∣ S ∣^{p - 1} ∥_{q} = ∥ S ∥_{p}^{p - 1}$ → 约分。
$0 < p < 1$ 时失败： $X = 1_{A} 、$ $Y = 1_{A^{c}} 、$ $P (A) = \frac{1}{2}$ 给出 $1 > 2^{1 - 1/ p} 。$

自测

1. 在例 1 中取 $p = 4 ，$ 验证 Minkowski 不等式（可用计算器）。

点开看答案

$∥ X ∥_{4} = (\frac{81}{2})^{1/4} \approx 2.523 ，$ $∥ Y ∥_{4} = (\frac{256}{2})^{1/4} = 12 8^{1/4} \approx 3.364 ，$ 和 $\approx 5.887 。$ $∥ X + Y ∥_{4} = (\frac{81 + 256}{2})^{1/4} = 168. 5^{1/4} \approx 3.603 。$ $3.603 \leq 5.887 ，$ 成立。

2. 已知 $∥ X ∥_{3} = 2 ，$ $∥ Y ∥_{3} = 5 。$ $∥ X - Y ∥_{3}$ 最大可能是多少？最小可能是多少？

点开看答案

最大： $∥ X - Y ∥_{3} = ∥ X + (- Y) ∥_{3} \leq ∥ X ∥_{3} + ∥ - Y ∥_{3} = 2 + 5 = 7$ （取 $Y = - \frac{5}{2} X$ 时等号成立）。最小：由反向三角不等式 $∥ X - Y ∥_{3} \geq ∥ X ∥_{3} - ∥ Y ∥_{3} = 3$ （取 $Y = \frac{5}{2} X$ 时 $∥ X - Y ∥_{3} = \frac{3}{2} ∥ X ∥_{3} = 3 ，$ 取到）。

3. 判断：「对 $p = \frac{1}{2} ，$ $E ∣ X + Y ∣ \leq E ∣ X ∣ + E ∣ Y ∣$ 总成立。」

点开看答案

对。这是不开方的版本。对 $u, v \geq 0 ，$ $(u + v)^{2} = u + v + 2 uv \geq u + v ，$ 所以 $u + v \leq u + v ；$ 再用 $∣ x + y ∣ \leq ∣ x ∣ + ∣ y ∣ ，$ 逐点得 $∣ X + Y ∣ \leq ∣ X ∣ + ∣ Y ∣ ，$ 取期望即可。它和例 3 不矛盾：例 3 失败的是开了 $\frac{1}{p} = 2$ 次方之后的 $∥ \cdot ∥_{1/2} 。$

本页术语中英对照（按出现顺序）

中文	English	白话解释
三角不等式	triangle inequality	\|a + b\| ≤ \|a\| + \|b\|：分两段走的总路程不会比直接走更短。推广有 \|∫f\| ≤ ∫\|f\|、E\|X + Y\| ≤ E\|X\| + E\|Y\|，以及 Lᵖ 范数的 Minkowski 不等式。
期望	expectation	随机变量对概率测度的积分 E[X] = ∫ X dP，也就是「加权平均」。
Hölder 不等式	Hölder's inequality	E\|XY\| ≤ ‖X‖_p ‖Y‖_q（1/p + 1/q = 1）；p = q = 2 就是柯西–施瓦茨不等式。
正定	positive definite	对称矩阵 Σ 满足：对所有非零向量 x，xᵀΣx > 0。多元正态要求协方差矩阵正定。
随机变量	random variable	从样本空间到实数的（可测）函数，把结局翻译成数字；随机性来自「实现了哪个 ω」。
概率空间	probability space	三元组 (Ω, 𝓕, P)：样本空间、事件的 σ-代数、概率测度。
几乎必然收敛	almost sure convergence	除了概率为 0 的结局以外，Xₙ(ω) 都收敛到 X(ω)。
上界	upper bound	数集 A 的上界是一个数 M，A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界；所有上界中最小的那个叫上确界。
当且仅当	if and only if (iff)	「A 当且仅当 B」：A 成立就一定有 B，B 成立也一定有 A，两者同真同假，记作 A ⟺ B。
反向三角不等式	reverse triangle inequality	\| \|a\| − \|b\| \| ≤ \|a − b\|：两个数的绝对值之差不超过它们的距离。常用来从「fₙ 接近 f」推出「\|fₙ\| 接近 \|f\|」。
协方差	covariance	Cov(X, Y) = E[(X − EX)(Y − EY)]，衡量两个变量一起变大或变小的倾向。独立 ⇒ 协方差为 0，反之一般不成立。
事件	event	样本空间的（允许谈概率的）子集；实现的 ω 落在里面，就说事件发生。
凸函数	convex function	图像上任意两点连线都在图像上方的函数，例如 x²、eˣ。
上确界	supremum (sup)	最小的上界。最大值不一定存在，但有上界的实数集一定有上确界。