26 Hölder 不等式就是归一化之后的 Young 不等式 · 第2讲

这一页在讲什么

人话版一句话版

指数 $p, q$ 满足 $\frac{1}{p} + \frac{1}{q} = 1$ 时，

E ∣ X Y ∣ \leq ∥ X ∥_{p} ∥ Y ∥_{q} .

乘积的平均，被两个因子各自的「大小」之积控制。证明分两步：先对数证明 Young 不等式 $ab \leq \frac{a ^{p}}{p} + \frac{b ^{q}}{q} ；$ 再把 $X 、$ $Y$ 各自除以范数（归一化），代入 Young，取期望。

位置：第 4 部分第四页。前两页（第 24 页、第 25 页）控制「变换」 $E φ (X) ；$ 本页控制「乘积」 $E ∣ X Y ∣ 。$
为什么需要： $E ∣ X Y ∣$ 要知道 $X$ 和 $Y$ 的联合分布才能算，而 $∥ X ∥_{p} 、$ $∥ Y ∥_{q}$ 只需要各自的分布。Hölder 让我们在不知道两者如何关联的情况下，仍能给乘积画一个上限。
最常用的特例： $p = q = 2$ 时就是柯西–施瓦茨不等式 $E ∣ X Y ∣ \leq E X^{2} E Y^{2} ，$ 它推出相关系数在 $[- 1, 1]$ 之间。
下一页：第 27 页的 Minkowski 不等式（ $L^{p}$ 的三角不等式）就是「一次 Hölder 计算」。

先补基础

基础补课共轭指数：1/p + 1/q = 1

满足 $\frac{1}{p} + \frac{1}{q} = 1$ 的一对 $p, q \in (1, \infty)$ 叫共轭指数（conjugate exponents）。由 $p$ 解出 $q = \frac{p}{p - 1} 。$
例： $p = 2 \Rightarrow q = 2 ；$ $p = 3 \Rightarrow q = \frac{3}{2} ；$ $p = 4 \Rightarrow q = \frac{4}{3} 。$ $p$ 越接近 1， $q$ 越大； $p \to 1$ 时 $q \to \infty 。$ 所以 $(1, \infty)$ 的「搭档」规定为 $(\infty, 1) ：$ $\frac{1}{1} + \frac{1}{\infty} = 1 + 0 = 1 。$
两个下一页要用的恒等式： $\frac{p}{q} = p - 1$ （两边乘以 $p ：$ $\frac{p}{p} + \frac{p}{q} = p ），$ 以及 $(p - 1) q = p 。$

基础补课对数与指数

本课的 $lo g$ 是自然对数，它是 $e^{x}$ 的反函数： $lo g e^{x} = x ，$ $e^{l o g y} = y$ （ $y > 0 ）。$
运算规则： $lo g (ab) = lo g a + lo g b ，$ $lo g a^{p} = p lo g a$ （ $a, b > 0 ）。$
$lo g$ 和 $e^{x}$ 都严格递增，所以不等式两边同时取 $lo g$ 或同时取指数，方向不变。
$lo g$ 在 $(0, \infty)$ 上凹： $(lo g x)^{''} = - \frac{1}{x ^{2}} < 0$ （第 23 页的判别法）。即对 $x, y > 0 、$ $λ \in [0, 1] ：$ $lo g (λ x + (1 - λ) y) \geq λ lo g x + (1 - λ) lo g y 。$

基础补课归一化与约定 0 · ∞ = 0

归一化（normalize）：把一个量除以它自己的「大小」，使新量的大小恰好是 1。由齐次性 $∥ c X ∥_{p} = ∣ c ∣ ∥ X ∥_{p}$ （第 22 页），当 $0 < ∥ X ∥_{p} < \infty$ 时， $\frac{X}{∥ X ∥ _{p}}$ 的 $p$ -范数是 1。
约定 $0 \cdot \infty = 0$ （第 5 页）：Hölder 的右边可能出现「一个范数是 0、另一个是 $\infty 」，$ 按此约定右边算作 0。下面会说明这时左边也确实是 0。

课件原文逐句精读

课件原文Hölder is the normalized form of scalar Young

Theorem 25 (Hölder's inequality)

中文翻译

蓝条标题：Hölder 不等式是标量 Young 不等式的归一化形式。

定理 25（Hölder 不等式）（课件只印了名称，正文留白，见下一节。）

scalar Young｜标量 Young 不等式

scalar（标量）指普通的数，与随机变量相对。Young 指 Young 不等式：对非负数 $a, b ，$ $ab \leq \frac{a ^{p}}{p} + \frac{b ^{q}}{q} 。$ 它是一个关于两个数的不等式，没有任何期望。

the normalized form｜归一化形式

把 Young 不等式里的 $a, b$ 换成 $\frac{∣ X ( ω ) ∣}{∥ X ∥ _{p}} 、$ $\frac{∣ Y ( ω ) ∣}{∥ Y ∥ _{q}} ，$ 对每个 $ω$ 都成立；再取期望，右边的两项恰好都变成常数，加起来是 $\frac{1}{p} + \frac{1}{q} = 1 。$
所以标题的意思是：Hölder 不等式没有新内容，它就是「归一化后的 Young 不等式取期望」。

Theorem 25 (Hölder's inequality)｜名字

Otto Hölder（德国数学家，1889 年）。Young 指英国数学家 W. H. Young。 $p = q = 2$ 的特例更早，分别以 Cauchy（柯西，数列版本）和 Schwarz（施瓦茨，积分版本）命名。

补全课件留白

补充说明

课件此处留白（课堂板书），以下内容由本站根据标准教材补写，记号与本课件保持一致；如与老师课堂写法不同，以老师为准。

引理（标量 Young 不等式）

设 $1 < p < \infty ，$ $q = \frac{p}{p - 1}$ （即 $\frac{1}{p} + \frac{1}{q} = 1 ）。$ 则对所有 $a, b \geq 0 ，$

ab \leq \frac{a ^{p}}{p} + \frac{b ^{q}}{q},

等号成立当且仅当 $a^{p} = b^{q} 。$

推导Young 不等式的证明（用 log 的凹性）

$a = 0$ 或 $b = 0$ ：左边是 0，右边 $\geq 0 ，$ 成立。等号成立 $⟺$ 右边也是 0 $⟺ a = b = 0 ，$ 此时 $a^{p} = b^{q} = 0 。$
$a, b > 0$ ：在 $lo g$ 的凹性中取 $λ = \frac{1}{p}$ （则 $1 - λ = \frac{1}{q} ），$ $x = a^{p} ，$ $y = b^{q} ：$

lo g (\frac{1}{p} a^{p} + \frac{1}{q} b^{q}) \geq \frac{1}{p} lo g a^{p} + \frac{1}{q} lo g b^{q} = lo g a + lo g b = lo g (ab) .

两边取指数（ $e^{x}$ 递增），得 $\frac{a ^{p}}{p} + \frac{b ^{q}}{q} \geq ab 。$

等号： $lo g$ 严格凹（二阶导数严格为负），所以上式取等号当且仅当 $x = y ，$ 即 $a^{p} = b^{q} 。$

用第 24 页的语言说：令随机变量 $Z$ 以概率 $\frac{1}{p}$ 取 $a^{p} 、$ 以概率 $\frac{1}{q}$ 取 $b^{q} ，$ 这一步就是凹函数 $lo g$ 的 Jensen 不等式 $E lo g Z \leq lo g E Z 。$

定理 25（Hölder 不等式）

设 $(Ω, F, P)$ 是概率空间， $X, Y$ 是实值随机变量。

若 $1 < p < \infty ，$ $q = \frac{p}{p - 1} ，$ 则

E ∣ X Y ∣ \leq ∥ X ∥_{p} ∥ Y ∥_{q} .

若 $p = 1 ，$ $q = \infty$ （或反过来），则 $E ∣ X Y ∣ \leq ∥ X ∥_{1} ∥ Y ∥_{\infty} 。$

两边都允许取 $+ \infty ，$ 右边按 $0 \cdot \infty = 0$ 约定。特别地， $X \in L^{p} 、$ $Y \in L^{q}$ 时 $X Y \in L^{1}$ ，从而 $∣ E [X Y] ∣ \leq E ∣ X Y ∣ \leq ∥ X ∥_{p} ∥ Y ∥_{q} 。$

$p = q = 2$ 的情形叫柯西–施瓦茨不等式（Cauchy–Schwarz）： $E ∣ X Y ∣ \leq E X^{2} E Y^{2} 。$

逐项解释：

为什么必须是共轭指数：证明里取期望后，右边是 $\frac{1}{p} + \frac{1}{q} ，$ 只有它等于 1 才能得到干净的结论。指数不共轭时结论可以失败（例 4）。
左边是 $E ∣ X Y ∣$ ：先取绝对值再平均。它控制了 $∣ E [X Y] ∣ ，$ 因为 $∣ E Z ∣ \leq E ∣ Z ∣$ （第 5 页性质 4）。
不需要 $X 、$ $Y$ 有任何关系：没有独立性、没有同分布的要求。

推导证明思路

先处理「某个范数是 0 或 $\infty 」$ 的边界情形；剩下的情形把 $X 、$ $Y$ 归一化成范数为 1 的 $\tilde{X} 、$ $\tilde{Y} ，$ 对每个 $ω$ 用 Young 不等式，取期望得 $E [\tilde{X} \tilde{Y}] \leq \frac{1}{p} + \frac{1}{q} = 1 ，$ 最后乘回两个范数。

第 1 步：某个范数为 0。 若 $∥ X ∥_{p} = 0 ，$ 则 $X = 0$ a.s.（第 22 页第 3 条的解释），所以 $∣ X Y ∣ = 0$ a.s.， $E ∣ X Y ∣ = 0 。$ 右边是 $0 \cdot ∥ Y ∥_{q} = 0$ （即使 $∥ Y ∥_{q} = \infty ，$ 也按约定算作 0）。不等式 $0 \leq 0$ 成立。 $∥ Y ∥_{q} = 0$ 的情形完全一样。

第 2 步：某个范数为 $\infty ，$ 另一个大于 0。 右边是 $+ \infty ，$ 不等式自动成立。

第 3 步：归一化。 剩下的情形是 $0 < ∥ X ∥_{p} < \infty$ 且 $0 < ∥ Y ∥_{q} < \infty 。$ 令

\tilde{X} := \frac{∣ X ∣}{∥ X ∥ _{p}}, \tilde{Y} := \frac{∣ Y ∣}{∥ Y ∥ _{q}} .

它们非负，并且

E \tilde{X}^{p} = \frac{E ∣ X ∣ ^{p}}{∥ X ∥ _{p}^{p}} = \frac{E ∣ X ∣ ^{p}}{E ∣ X ∣ ^{p}} = 1, E \tilde{Y}^{q} = 1.

第 4 步：逐点用 Young。 对每个 $ω ，$ 取 $a = \tilde{X} (ω) ，$ $b = \tilde{Y} (ω) ：$

\tilde{X} (ω) \tilde{Y} (ω) \leq \frac{X ~ ( ω ) ^{p}}{p} + \frac{Y ~ ( ω ) ^{q}}{q} .

第 5 步：取期望。 两边都是非负随机变量。由单调性和非负随机变量期望的线性，

E [\tilde{X} \tilde{Y}] \leq \frac{1}{p} E \tilde{X}^{p} + \frac{1}{q} E \tilde{Y}^{q} = \frac{1}{p} + \frac{1}{q} = 1.

第 6 步：乘回范数。 $\tilde{X} \tilde{Y} = \frac{∣ X Y ∣}{∥ X ∥ _{p} ∥ Y ∥ _{q}} ，$ 所以第 5 步就是 $\frac{E ∣ X Y ∣}{∥ X ∥ _{p} ∥ Y ∥ _{q}} \leq 1 ，$ 两边乘以正数 $∥ X ∥_{p} ∥ Y ∥_{q} ：$

E ∣ X Y ∣ \leq ∥ X ∥_{p} ∥ Y ∥_{q} .

$p = 1 、$ $q = \infty$ 的情形。 若 $∥ Y ∥_{\infty} = \infty ：$ $∥ X ∥_{1} > 0$ 时右边是 $\infty ；$ $∥ X ∥_{1} = 0$ 时 $X = 0$ a.s.，左边是 0。若 $∥ Y ∥_{\infty} < \infty ：$ $∣ Y ∣ \leq ∥ Y ∥_{\infty}$ a.s.（第 22 页），所以 $∣ X Y ∣ \leq ∥ Y ∥_{\infty} ∣ X ∣$ a.s.，取期望得 $E ∣ X Y ∣ \leq ∥ Y ∥_{\infty} E ∣ X ∣ 。$ 证毕。

为什么一定要归一化：Young 不等式不是「齐次」的

Hölder 的两边在 $X \to c X$ （ $c > 0 ）$ 时都乘以 $c ，$ 是齐次的；Young 的右边 $\frac{a ^{p}}{p} + \frac{b ^{q}}{q}$ 却不是。直接把 $a = ∣ X ∣ 、$ $b = ∣ Y ∣$ 代入 Young 并取期望，只能得到 $E ∣ X Y ∣ \leq \frac{E ∣ X ∣ ^{p}}{p} + \frac{E ∣ Y ∣ ^{q}}{q} ，$ 这个界会随 $X 、$ $Y$ 的单位而变，常常很差。

改进办法：对任意 $c > 0 ，$ $∣ X Y ∣ = ∣ c X ∣ \cdot ∣ Y / c ∣ ，$ 所以 $E ∣ X Y ∣ \leq \frac{c ^{p} E ∣ X ∣ ^{p}}{p} + \frac{E ∣ Y ∣ ^{q}}{q c ^{q}}$ 对每个 $c$ 都成立，可以挑最好的 $c 。$ 挑出来的最优值恰好使 $c^{p} E ∣ X ∣^{p} = c^{- q} E ∣ Y ∣^{q}$ （两项的「大小」相等），代回去正好是 $∥ X ∥_{p} ∥ Y ∥_{q} 。$ 归一化就是一步到位地选好了这个最优的尺度。

Hölder 的等号条件

设 $0 < ∥ X ∥_{p}, ∥ Y ∥_{q} < \infty 。$ 若 $E ∣ X Y ∣ = ∥ X ∥_{p} ∥ Y ∥_{q} ，$ 则第 5 步取等号， $D := \frac{X ~ ^{p}}{p} + \frac{Y ~ ^{q}}{q} - \tilde{X} \tilde{Y} \geq 0$ 的期望为 0，所以 $D = 0$ a.s.（第 5 页自测第 2 题）。由 Young 的等号条件， $\tilde{X}^{p} = \tilde{Y}^{q}$ a.s.，即 $∣ X ∣^{p}$ 与 $∣ Y ∣^{q}$ 几乎必然成比例。 $p = q = 2$ 时就是 $∣ Y ∣ = c ∣ X ∣$ a.s.。

图解

图解：Young 不等式的面积证明

课件这里没有图，可以这样画（取 $p = 3 ，$ $q = \frac{3}{2} ）：$

在第一象限画曲线 $y = x^{p - 1} = x^{2} ，$ 它也可以看作 $x = y^{q - 1} = y^{1/2}$ （因为 $(p - 1) (q - 1) = 1 ，$ 两者互为反函数）。
取 $a, b > 0 ，$ 画出矩形 $[0, a] \times [0, b] ，$ 面积是 $ab 。$
曲线下方、 $x$ 从 0 到 $a$ 的面积是 $\int_{0}^{a} x^{p - 1} d x = \frac{a ^{p}}{p} ；$ 曲线左方、 $y$ 从 0 到 $b$ 的面积是 $\int_{0}^{b} y^{q - 1} d y = \frac{b ^{q}}{q} 。$
这两块合起来盖住了整个矩形（可能还多出一块），所以 $ab \leq \frac{a ^{p}}{p} + \frac{b ^{q}}{q} 。$
恰好不多不少的情形是矩形的右上角 $(a, b)$ 正好在曲线上，即 $b = a^{p - 1} ，$ 等价于 $b^{q} = a^{(p - 1) q} = a^{p} 。$ 这就是等号条件。

这张图给出了 Young 不等式的另一种证明，也解释了权重 $\frac{1}{p} 、$ $\frac{1}{q}$ 的来历：它们来自 $x^{p - 1} 、$ $y^{q - 1}$ 的积分。

例子

例 1：Young 不等式的数值检验

$p = q = 2 ：$ $ab \leq \frac{a ^{2} + b ^{2}}{2} ，$ 等价于 $(a - b)^{2} \geq 0 。$ $a = 3 、$ $b = 1 ：$ $3 \leq 5 。$
$p = 3 ，$ $q = \frac{3}{2} ，$ $a = 2 ，$ $b = 1 ：$ 左边 $2 ，$ 右边 $\frac{8}{3} + \frac{1}{3/2} = \frac{8}{3} + \frac{2}{3} = \frac{10}{3} \approx 3.33 。$
等号： $p = 3 ，$ $a = 1 ，$ $b = 1$ 满足 $a^{p} = b^{q} = 1 ：$ 左边 1，右边 $\frac{1}{3} + \frac{2}{3} = 1 ，$ 恰好相等。

例 2：p = 3, q = 3/2 时检验 Hölder

$U \sim Unif (0, 1) ，$ 取 $X = Y = U 。$

左边： $E ∣ X Y ∣ = E U^{2} = \frac{1}{3} \approx 0.3333 。$
右边： $∥ U ∥_{3} = (E U^{3})^{1/3} = (\frac{1}{4})^{1/3} \approx 0.6300 ；$ $∥ U ∥_{3/2} = (E U^{3/2})^{2/3} = (\frac{1}{2.5})^{2/3} = 0. 4^{2/3} \approx 0.5429 ；$ 乘积 $\approx 0.3420 。$

$0.3333 \leq 0.3420 ，$ 成立而且很接近。不相等是因为等号条件「 $U^{3}$ 与 $U^{3/2}$ 成比例」不成立。

例 3：柯西–施瓦茨推出 |相关系数| ≤ 1

设 $X, Y \in L^{2} ，$ 均值 $μ_{X}, μ_{Y} ，$ 标准差 $σ_{X}, σ_{Y} > 0 。$ 协方差 $Cov (X, Y) = E [(X - μ_{X}) (Y - μ_{Y})] 。$ 对 $X - μ_{X} 、$ $Y - μ_{Y}$ 用柯西–施瓦茨：

∣ Cov (X, Y) ∣ \leq E (X - μ_{X}) (Y - μ_{Y}) \leq E (X - μ_{X})^{2} E (Y - μ_{Y})^{2} = σ_{X} σ_{Y} .

所以相关系数 $ρ = \frac{Cov ( X , Y )}{σ _{X} σ _{Y}} \in [- 1, 1] 。$ 数值：掷一颗骰子， $X$ 是点数， $Y = 7 - X$ 是背面的点数， $Y - μ_{Y} = - (X - μ_{X}) ，$ $Cov = - Var X = - \frac{35}{12} ，$ $ρ = - 1 ，$ 取到了下界（等号条件： $∣ Y - μ_{Y} ∣ = 1 \cdot ∣ X - μ_{X} ∣ ）。$

例 4（反例）：指数不共轭，结论会失败

取 $p = q = 1$ （ $\frac{1}{1} + \frac{1}{1} = 2 \neq = 1 ）。$ 若「 $E ∣ X Y ∣ \leq E ∣ X ∣ E ∣ Y ∣ 」$ 成立，那么两个可积变量的乘积总可积。反例： $X = Y = U^{- 1/2} ，$ $E X = E Y = \int_{0}^{1} u^{- 1/2} d u = 2 ，$ 但

E ∣ X Y ∣ = E U^{- 1} = \int_{0}^{1} \frac{d u}{u} = \infty > 2 \cdot 2.

两个 $L^{1}$ 变量的乘积不一定在 $L^{1}$ 里；Hölder 说的是：要乘积可积，两个因子的可积性要「互补」，一个在 $L^{p} ，$ 另一个在 $L^{q} 。$

常见疑问与易错点

易错点问：Hölder 要求 X 和 Y 独立吗？

答：不要求。证明是逐个 $ω$ 用 Young 不等式再取期望，与 $X 、$ $Y$ 怎样关联无关。独立时有更精确的等式 $E ∣ X Y ∣ = E ∣ X ∣ E ∣ Y ∣$ （以后会证）；Hölder 的价值恰恰在于不知道关联方式时也能用。

易错点问：为什么要先单独处理范数为 0 或 ∞ 的情形？

答：因为第 3 步要除以范数。除以 0 没有意义；除以 $\infty$ 会把 $\tilde{X}$ 变成 0，得到的 $E \tilde{X}^{p} = 0 \neq = 1 ，$ 后面的计算就不对了。边界情形一句话就能处理，但不能省略。

易错点问：右边出现 0 · ∞ 怎么办？

答：按约定算作 0，而且这是对的： $∥ X ∥_{p} = 0$ 意味着 $X = 0$ a.s.，乘积 $X Y$ 也几乎必然为 0，左边确实是 0。例： $X = 1_{{1/2}}$ （在 $(0, 1)$ 上，几乎必然为 0）， $Y$ 是柯西变量（ $∥ Y ∥_{2} = \infty ），$ $E ∣ X Y ∣ = 0 。$

易错点问：Hölder 和上一页的单调性是什么关系？

答：Hölder 可以推出单调性：取 $Y \equiv 1 ，$ $∥1 ∥_{q} = 1 ，$ 再把 $X$ 换成 $∣ X ∣^{p} 、$ 指数换成 $\frac{q}{p}$ 与它的共轭（第 25 页的补充）。反过来，两者的证明都靠凹凸性：单调性用 $y^{q / p}$ 的凸性，Young 用 $lo g$ 的凹性。

小结与自测

小结本页小结

Young： $a, b \geq 0 ，$ $\frac{1}{p} + \frac{1}{q} = 1$ 时 $ab \leq \frac{a ^{p}}{p} + \frac{b ^{q}}{q} ，$ 证明用 $lo g$ 的凹性；等号 $⟺ a^{p} = b^{q} 。$
Hölder（定理 25）： $E ∣ X Y ∣ \leq ∥ X ∥_{p} ∥ Y ∥_{q} ；$ $p = 1, q = \infty$ 也成立； $X \in L^{p} 、$ $Y \in L^{q}$ 推出 $X Y \in L^{1} 。$
证明：处理范数为 0 / $\infty$ 的边界 → 归一化 → 逐点 Young → 取期望得 $\leq \frac{1}{p} + \frac{1}{q} = 1$ → 乘回范数。
$p = q = 2$ 是柯西–施瓦茨，推出 $∣ Cov (X, Y) ∣ \leq σ_{X} σ_{Y} ，$ 相关系数在 $[- 1, 1]$ 中。

自测

1. 写出 $p = 5$ 的共轭指数 $q ，$ 并验证 $(p - 1) q = p 。$

点开看答案

$q = \frac{5}{5 - 1} = \frac{5}{4} 。$ 检验： $\frac{1}{5} + \frac{4}{5} = 1 ；$ $(p - 1) q = 4 \cdot \frac{5}{4} = 5 = p 。$

2. 已知 $E X^{2} = 4 ，$ $E Y^{2} = 9 。$ $E ∣ X Y ∣$ 最大可能是多少？什么时候取到？

点开看答案

由柯西–施瓦茨， $E ∣ X Y ∣ \leq 4 \cdot 9 = 6 。$ 取到等号当且仅当 $∣ Y ∣ = c ∣ X ∣$ a.s.（ $c \geq 0 ）；$ 由二阶矩， $c^{2} \cdot 4 = 9 ，$ $c = \frac{3}{2} 。$ 例如 $Y = \frac{3}{2} X$ 时 $E ∣ X Y ∣ = \frac{3}{2} E X^{2} = 6 。$

3. 设 $X \in L^{3} ，$ $Y \in L^{3/2} 。$ $X Y$ 一定可积吗？ $X \in L^{3} 、$ $Y \in L^{1}$ 呢？

点开看答案

第一问：一定。 $3$ 与 $\frac{3}{2}$ 共轭（ $\frac{1}{3} + \frac{2}{3} = 1 ），$ Hölder 给出 $E ∣ X Y ∣ \leq ∥ X ∥_{3} ∥ Y ∥_{3/2} < \infty 。$ 第二问：不一定。 $1$ 的共轭是 $\infty ，$ Hölder 要求 $X \in L^{\infty} ，$ 而 $L^{3}$ 不够。反例： $X = U^{- 1/4}$ （ $E X^{3} = \int_{0}^{1} u^{- 3/4} d u = 4 < \infty ），$ $Y = U^{- 3/4}$ （ $E Y = \int_{0}^{1} u^{- 3/4} d u = 4 < \infty ），$ 但 $E X Y = \int_{0}^{1} u^{- 1} d u = \infty 。$

本页术语中英对照（按出现顺序）

中文	English	白话解释
期望	expectation	随机变量对概率测度的积分 E[X] = ∫ X dP，也就是「加权平均」。
分布	law / distribution	X 把概率「推」到取值空间上得到的测度：L(X)(B) = P(X ∈ B)。
柯西–施瓦茨不等式	Cauchy–Schwarz inequality	E\|XY\| ≤ √(E X²) · √(E Y²)：Hölder 不等式取 p = q = 2 的特例。
相关系数	correlation coefficient	ρ = Cov(X, Y) / √(Var X · Var Y)，在 −1 到 1 之间，衡量线性相关的强弱。
三角不等式	triangle inequality	\|a + b\| ≤ \|a\| + \|b\|：分两段走的总路程不会比直接走更短。推广有 \|∫f\| ≤ ∫\|f\|、E\|X + Y\| ≤ E\|X\| + E\|Y\|，以及 Lᵖ 范数的 Minkowski 不等式。
反函数	inverse function	f 把不同的输入送到不同的输出时，反函数 f⁻¹ 把输出送回原来的输入：f⁻¹(f(x)) = x。例：ln 是 eˣ 的反函数。注意：集合的原像 f⁻¹(D) 不需要反函数存在。
Hölder 不等式	Hölder's inequality	E\|XY\| ≤ ‖X‖_p ‖Y‖_q（1/p + 1/q = 1）；p = q = 2 就是柯西–施瓦茨不等式。
随机变量	random variable	从样本空间到实数的（可测）函数，把结局翻译成数字；随机性来自「实现了哪个 ω」。
当且仅当	if and only if (iff)	「A 当且仅当 B」：A 成立就一定有 B，B 成立也一定有 A，两者同真同假，记作 A ⟺ B。
凹函数	concave function	−φ 是凸函数时，φ 叫凹函数：任意两点间的弦都在图像下方，例如 log x、√x。对凹函数，Jensen 不等式反向：E φ(X) ≤ φ(E X)。
Jensen 不等式	Jensen's inequality	φ 凸时 φ(E X) ≤ E φ(X)，例如 (E X)² ≤ E X²。
概率空间	probability space	三元组 (Ω, 𝓕, P)：样本空间、事件的 σ-代数、概率测度。
独立	independence	任意有限个事件同时发生的概率等于各自概率的乘积。
几乎必然收敛	almost sure convergence	除了概率为 0 的结局以外，Xₙ(ω) 都收敛到 X(ω)。
函数	function / map	f: A → B 给 A 中每个元素指定 B 中唯一一个元素。
协方差	covariance	Cov(X, Y) = E[(X − EX)(Y − EY)]，衡量两个变量一起变大或变小的倾向。独立 ⇒ 协方差为 0，反之一般不成立。
下界	lower bound	数集 A 的下界是一个数 m，A 里每个数都 ≥ m。例如 0 和 −3 都是 (0,1] 的下界；所有下界中最大的那个叫下确界。
可积	integrable (L¹)	∫\|f\| dμ < ∞。全体可积函数记作 L¹(μ)。
阶矩	moment	E[\|X\|ᵖ] 叫 p 阶（绝对）矩；它有限与否反映尾部有多「重」。