25 Lᵖ 空间的单调性：p 越大，范数越大、空间越小 · 第2讲

这一页在讲什么

人话版一句话版

在概率空间上， $0 < p < q \leq \infty$ 时

∥ X ∥_{p} \leq ∥ X ∥_{q}, 因此 L^{q} \subseteq L^{p} .

高阶矩有限 ⇒ 低阶矩有限。例如方差有限的随机变量一定可积。证明就是对 $∣ X ∣^{p}$ 用一次 Jensen 不等式，凸函数取 $φ (y) = ∣ y ∣^{q / p} 。$

位置：第 4 部分第三页，是上一页 Jensen 不等式（第 24 页）的第一个重要应用。
回答的问题：第 2 页里问过「已知 $E X^{2} < \infty ，$ 能不能推出 $E ∣ X ∣ < \infty 」$ ——本页回答：能，而且 $E ∣ X ∣ \leq E X^{2} 。$
为什么重要：第 22 页的例 2 用表格看到 $∥ X ∥_{p}$ 随 $p$ 增大而增大，本页给出一般证明。它让各个 $L^{p}$ 空间像俄罗斯套娃一样一层套一层： $L^{\infty} \subseteq \dots \subseteq L^{2} \subseteq L^{1} \subseteq L^{1/2} 。$
关键提醒：这件事依赖总概率为 1。在 $R$ 上的勒贝格测度下它是错的（本页例 4）。

先补基础

基础补课回顾：p-范数（第 22 页定义 22）

$0 < p < \infty ：$ $∥ X ∥_{p} = (E ∣ X ∣^{p})^{1/ p} \in [0, \infty] ，$ $L^{p} = {X : E ∣ X ∣^{p} < \infty} 。$
$∥ X ∥_{\infty} = in f {M : P (∣ X ∣ > M) = 0} ，$ 并且 $∣ X ∣ \leq ∥ X ∥_{\infty}$ a.s.（下确界能取到）。
顺序是「先 $p$ 次方，再取期望，最后开 $p$ 次方」。

基础补课幂运算的三条规则

对 $u \geq 0 ：$

$(u^{a})^{b} = u^{ab}$ （ $a, b > 0 ）。$ 例： $(u^{2})^{1/2} = u 。$
$s > 0$ 时 $u \mapsto u^{s}$ 在 $[0, \infty)$ 上严格递增： $0 \leq u < v \Rightarrow u^{s} < v^{s} 。$ 所以不等式两边可以同时开方或同时乘方，方向不变。
比较 $u^{p}$ 与 $u^{q}$ （ $p < q ）$ 要看 $u$ 和 1 的大小： $u \leq 1$ 时 $u^{q} \leq u^{p}$ （例： $0. 5^{2} = 0.25 < 0.5 ）；$ $u \geq 1$ 时 $u^{p} \leq u^{q}$ （例： $3 < 9 ）。$ 合起来：

u^{p} \leq 1 + u^{q} 对所有 u \geq 0.

（ $u \leq 1$ 时左边 $\leq 1 ；$ $u > 1$ 时左边 $\leq u^{q} 。）$

基础补课凸函数 |y|ʳ（r ≥ 1）

要用的凸函数是 $φ (y) = ∣ y ∣^{r} ，$ $r \geq 1 ，$ 定义在整个 $R$ 上。它是凸的，理由分三步：

$g (t) = t^{r}$ 在 $(0, \infty)$ 上凸： $g^{''} (t) = r (r - 1) t^{r - 2} \geq 0$ （第 23 页的二阶导数判别法）。
推广到 $[0, \infty) ：$ 对 $s, t \geq 0 、$ $λ \in [0, 1] ，$ 把第 1 步用在 $s + ε, t + ε > 0$ 上，再令 $ε ↓ 0 ；$ $g$ 连续，不等式在极限中保持。
推广到 $R ：$ 对任意实数 $x, y ，$ 由三角不等式 $∣ λ x + (1 - λ) y ∣ \leq λ ∣ x ∣ + (1 - λ) ∣ y ∣ ，$ 再用 $g$ 在 $[0, \infty)$ 上递增和第 2 步：

∣ λ x + (1 - λ) y ∣^{r} \leq (λ ∣ x ∣ + (1 - λ) ∣ y ∣)^{r} \leq λ ∣ x ∣^{r} + (1 - λ) ∣ y ∣^{r} .

例： $r = 2$ 时就是 $x^{2} ；$ $r = 1$ 时就是 $∣ x ∣ 。$

课件原文逐句精读

课件原文Monotonicity of Lp space

（本页课件只印了蓝条标题，没有编号，正文全部留白。）

中文翻译

蓝条标题： $L^{p}$ 空间的单调性。

Monotonicity of Lp space｜「单调」指什么

「单调」同时说了两件方向相反的事：

范数随 $p$ 增大而增大：固定一个随机变量 $X ，$ 函数 $p \mapsto ∥ X ∥_{p}$ 单调不减。
空间随 $p$ 增大而缩小： $p < q$ 时 $L^{q} \subseteq L^{p} 。$ 条件 $E ∣ X ∣^{q} < \infty$ 比 $E ∣ X ∣^{p} < \infty$ 更严格，满足它的随机变量更少。

第二件事由第一件事直接推出：若 $X \in L^{q} ，$ 则 $∥ X ∥_{p} \leq ∥ X ∥_{q} < \infty ，$ 所以 $X \in L^{p} 。$

课件这一页没有给结论编号。下面把它写成一个命题，名称照抄标题；有的教材把 $∥ X ∥_{p} \leq ∥ X ∥_{q}$ 叫作 Lyapunov 不等式。

补全课件留白

补充说明

课件此处留白（课堂板书），以下内容由本站根据标准教材补写，记号与本课件保持一致；如与老师课堂写法不同，以老师为准。

命题（

L^{p}

空间的单调性）

设 $(Ω, F, P)$ 是概率空间， $0 < p < q \leq \infty 。$ 则对每个实值随机变量 $X ，$

∥ X ∥_{p} \leq ∥ X ∥_{q} (两边都允许取 + \infty),

因此 $L^{q} \subseteq L^{p} 。$ 特别地， $L^{\infty} \subseteq L^{q} \subseteq L^{p} ，$ 并且 $X \in L^{2}$ 时 $E ∣ X ∣ \leq E X^{2} 。$

逐项解释：

概率空间：总质量 $P (Ω) = 1 ，$ 证明里用了两次（第 1 步和 Jensen 本身）。
$0 < p$ ：不要求 $p \geq 1 ，$ 例如 $∥ X ∥_{1/2} \leq ∥ X ∥_{1}$ 也成立。
$q$ 可以是 $\infty$ ：此时右边是本质上确界。
两边可以是 $+ \infty$ ：若 $∥ X ∥_{q} = \infty ，$ 不等式自动成立；若 $∥ X ∥_{q} < \infty ，$ 结论说 $∥ X ∥_{p}$ 也有限。

推导证明思路

$q = \infty$ 时直接用「 $∣ X ∣ \leq ∥ X ∥_{\infty}$ a.s.」。 $q < \infty$ 时令 $Y = ∣ X ∣^{p} ，$ $r = q / p > 1 ，$ 先说明 $Y$ 可积，再对凸函数 $∣ y ∣^{r}$ 用 Jensen： $(E Y)^{r} \leq E Y^{r} = E ∣ X ∣^{q} ，$ 最后两边开 $q$ 次方。

情形 A： $q = \infty 。$ 若 $∥ X ∥_{\infty} = \infty ，$ 无需证明。否则记 $M = ∥ X ∥_{\infty} ，$ 有 $∣ X ∣ \leq M$ a.s.，所以 $∣ X ∣^{p} \leq M^{p}$ a.s.。由单调性和 $E [M^{p}] = M^{p} P (Ω) = M^{p} ，$

E ∣ X ∣^{p} \leq M^{p}, 即 ∥ X ∥_{p} \leq M = ∥ X ∥_{\infty} .

情形 B： $q < \infty$ 且 $E ∣ X ∣^{q} = \infty 。$ 右边是 $+ \infty ，$ 无需证明。

情形 C： $q < \infty$ 且 $E ∣ X ∣^{q} < \infty 。$

第 1 步： $Y := ∣ X ∣^{p}$ 可积。 由幂运算的规则 3（取 $u = ∣ X (ω) ∣ ），$ $∣ X ∣^{p} \leq 1 + ∣ X ∣^{q}$ 对每个 $ω$ 成立。由单调性和线性，

E Y = E ∣ X ∣^{p} \leq E [1] + E ∣ X ∣^{q} = 1 + E ∣ X ∣^{q} < \infty.

这里用到了 $E [1] = P (Ω) = 1$ ： $∣ X ∣$ 较小（不超过 1）的部分对 $E ∣ X ∣^{p}$ 的贡献，最多就是总质量 1。

第 2 步：选凸函数。 令 $r = q / p ，$ 由 $p < q$ 得 $r > 1 。$ $φ (y) = ∣ y ∣^{r}$ 在开区间 $I = R$ 上凸（见上面的基础补课）。

第 3 步：用 Jensen。 $Y$ 可积， $P (Y \in R) = 1 ，$ 定理 24 的条件全部满足：

φ (E Y) \leq E φ (Y) .

因为 $Y \geq 0 、$ $E Y \geq 0 ，$ 绝对值可以去掉：左边 $= (E Y)^{r} = (E ∣ X ∣^{p})^{q / p} ；$ 右边 $= E Y^{r} = E [(∣ X ∣^{p})^{q / p}] = E ∣ X ∣^{q}$ （幂运算规则 1）。于是

(E ∣ X ∣^{p})^{q / p} \leq E ∣ X ∣^{q} .

第 4 步：两边开 $q$ 次方。 $u \mapsto u^{1/ q}$ 递增（规则 2），不等号方向不变：

((E ∣ X ∣^{p})^{q / p})^{1/ q} = (E ∣ X ∣^{p})^{1/ p} = ∥ X ∥_{p} \leq (E ∣ X ∣^{q})^{1/ q} = ∥ X ∥_{q} .

证毕。

为什么偏偏选 $φ (y) = ∣ y ∣^{q / p}$ ：我们要比较的是 $E ∣ X ∣^{p}$ 和 $E ∣ X ∣^{q} 。$ 把 $∣ X ∣^{q}$ 写成 $(∣ X ∣^{p})^{q / p} ，$ 它就是「 $Y = ∣ X ∣^{p}$ 经过凸函数 $y^{q / p}$ 变换」。Jensen 说「先平均再变换 ≤ 先变换再平均」，即 $(E Y)^{q / p} \leq E [Y^{q / p}] ，$ 正好是我们要的不等式。指数 $q / p > 1$ 保证了凸性；若 $q / p < 1 ，$ $y^{q / p}$ 是凹的，不等号会反过来。

$L^{q} \subseteq L^{p}$ ：若 $X \in L^{q} ，$ 则 $∥ X ∥_{p} \leq ∥ X ∥_{q} < \infty ，$ 即 $E ∣ X ∣^{p} < \infty ，$ $X \in L^{p} 。$ 取 $p = 1 、$ $q = 2 ，$ 得 $E ∣ X ∣ \leq E X^{2} 。$

另一种证明：用 Hölder 不等式（第 26 页）

记 $r = q / p ，$ 它的共轭指数 $r^{'} = \frac{r}{r - 1} 。$ 第 26 页的 Hölder 不等式给出

E ∣ X ∣^{p} = E [∣ X ∣^{p} \cdot 1] \leq ∣ X ∣^{p}_{r} ∥1 ∥_{r^{'}} = (E ∣ X ∣^{q})^{p / q} \cdot 1.

两边开 $p$ 次方即得 $∥ X ∥_{p} \leq ∥ X ∥_{q} 。$ 这里 $∥1 ∥_{r^{'}} = (E 1)^{1/ r^{'}} = 1$ 用的又是总质量为 1。

一般有限测度与计数测度

有限测度：若 $μ (Ω) < \infty ，$ 把 $μ$ 除以 $μ (Ω)$ 变成概率测度，同样的论证给出 $∥ f ∥_{p} \leq μ (Ω)^{\frac{1}{p} - \frac{1}{q}} ∥ f ∥_{q} 。$ 总质量为 1 时系数正好是 1。
计数测度（ $Ω = {1, 2, 3, \dots} ，$ 每点质量 1）：包含关系反过来， $p < q$ 时 $ℓ^{p} \subseteq ℓ^{q} 。$ 理由： $\sum_{n} ∣ a_{n} ∣^{p} < \infty$ 推出 $∣ a_{n} ∣ \to 0 ，$ 从某项起 $∣ a_{n} ∣ < 1 ，$ 于是 $∣ a_{n} ∣^{q} \leq ∣ a_{n} ∣^{p} 。$ 例如 $a_{n} = \frac{1}{n} ：$ $\sum \frac{1}{n ^{2}} < \infty ，$ $\sum \frac{1}{n} = \infty ，$ 它在 $ℓ^{2}$ 里却不在 $ℓ^{1}$ 里。

图解

图解：为什么「大 p」更苛刻——比较 |x|ᵖ 与 |x|^q

课件这里没有图，可以在同一坐标系里画 $u^{1}$ 和 $u^{2}$ （ $u \geq 0 ）：$

两条曲线在 $u = 1$ 处相交。
$u < 1$ 的一段： $u^{2}$ 在下方。小值经过高次方变得更小。
$u > 1$ 的一段： $u^{2}$ 在上方，而且越往右差距越大。大值经过高次方被放大得厉害。
在概率空间上， $u < 1$ 那一段对期望的贡献最多是总质量 1，不会造成无穷；能把期望推向无穷的只有大值那一段，而大值那一段上 $u^{q}$ 比 $u^{p}$ 大。所以 $E ∣ X ∣^{q}$ 有限， $E ∣ X ∣^{p}$ 必定有限。
在总质量无穷的空间上， $u < 1$ 那一段也能「积少成多」：无穷多的小值加起来可以是无穷，而这一段上 $u^{p}$ 反而更大。这就是例 4 失败的原因。

例子

例 1：均匀分布——‖U‖ₚ 逐渐爬向 1

$U \sim Unif (0, 1) ，$ $E U^{p} = \frac{1}{p + 1}$ （第 21 页例 2），所以 $∥ U ∥_{p} = (p + 1)^{- 1/ p} ：$

$p$	$\frac{1}{2}$	$1$	$2$	$3$	$10$	$\infty$
$∥ U ∥_{p}$	$\approx 0.444$	$0.5$	$\approx 0.577$	$\approx 0.630$	$\approx 0.787$	$1$

计算举例： $p = \frac{1}{2}$ 时 $(1.5)^{- 2} = \frac{4}{9} \approx 0.444 ；$ $p = 2$ 时 $3^{- 1/2} \approx 0.577 ；$ $p = \infty$ 时 $∥ U ∥_{\infty} = 1$ （ $U < 1$ 处处成立，而 $P (U > M) = 1 - M > 0$ 对 $M < 1 ）。$ 数值随 $p$ 单调增大，与命题一致。

例 2：两点分布——有一个封闭公式

$P (X = 0) = P (X = 2) = \frac{1}{2} 。$ $E ∣ X ∣^{p} = \frac{1}{2} \cdot 2^{p} = 2^{p - 1} ，$ 所以

∥ X ∥_{p} = (2^{p - 1})^{1/ p} = 2^{1 - \frac{1}{p}} .

$p$ 增大时 $\frac{1}{p}$ 减小， $1 - \frac{1}{p}$ 增大， $∥ X ∥_{p}$ 增大： $∥ X ∥_{1} = 1 ，$ $∥ X ∥_{2} = 2 \approx 1.414 ，$ $∥ X ∥_{4} = 2^{3/4} \approx 1.682 ，$ $p \to \infty$ 时趋于 $2 = ∥ X ∥_{\infty} 。$

例 3：包含关系是严格的

套娃的每一层都真的比里面一层大：

$L^{1} \neq \subseteq L^{2}$ ： $X = U^{- 1/2} ，$ $U \sim Unif (0, 1) 。$ 由 LOTUS（第 7 页）， $E X = \int_{0}^{1} u^{- 1/2} d u = 2 < \infty ，$ 但 $E X^{2} = \int_{0}^{1} u^{- 1} d u = \infty 。$
一般地：第 21 页例 4 的 Pareto 变量 $X_{α} \in L^{p} ⟺ p < α 。$ 取 $α = 2 ：$ 它在 $L^{1.5}$ 里，不在 $L^{2}$ 里。
$L^{1/2} \neq \subseteq L^{1}$ ：柯西分布（第 22 页例 5）。
所有 $L^{p}$ 的交集仍比 $L^{\infty}$ 大：指数分布在每个 $L^{p}$ （ $p < \infty ）$ 里，却无界（第 22 页例 3）。

例 4（反例）：总质量不是 1，结论就失败

在 $Ω = [1, \infty)$ 上取勒贝格测度（总长度是 $\infty ），$ $f (x) = \frac{1}{x} ：$

\int_{1}^{\infty} f (x)^{2} d x = \int_{1}^{\infty} \frac{d x}{x ^{2}} = M \to \infty lim (1 - \frac{1}{M}) = 1 < \infty, \int_{1}^{\infty} f (x) d x = M \to \infty lim lo g M = \infty.

所以 $f \in L^{2}$ 但 $f \in / L^{1} ：$ 「 $L^{2} \subseteq L^{1} 」$ 在这里不成立。 $f$ 处处不超过 1，没有大值；问题出在它在一条无穷长的区域上一直有一点点值， $p = 1$ 时这些小值加起来是无穷， $p = 2$ 时被平方压小了才变得有限。

例 5：应用——方差有限的随机变量一定可积

若 $E X^{2} < \infty ，$ 由命题 $E ∣ X ∣ \leq E X^{2} < \infty ，$ 所以 $E X$ 是有限实数， $Var X = E X^{2} - (E X)^{2}$ 有意义。掷骰子： $E ∣ X ∣ = 3.5 \leq 91/6 \approx 3.894 。$ 类似的说法以后常见：「假设四阶矩有限」自动包含了「方差有限」，因为 $∥ X ∥_{2} \leq ∥ X ∥_{4} 。$

例 6：统计里的「均方根误差 ≥ 平均绝对误差」

一个预测的误差 $E$ 以概率 $\frac{1}{3}$ 分别取 $1 、$ $- 1 、$ $4 。$

平均绝对误差（MAE） $= E ∣ E ∣ = \frac{1 + 1 + 4}{3} = 2 ，$ 即 $∥ E ∥_{1} ；$
均方根误差（RMSE） $= E E^{2} = \frac{1 + 1 + 16}{3} = 6 \approx 2.449 ，$ 即 $∥ E ∥_{2} 。$

命题保证无论误差分布如何，总有 RMSE ≥ MAE。两者差得越多，说明误差里有越多「偶尔的大错」：这里那个 4 把平方的平均拉高了。只有 $∣ E ∣$ 几乎必然是常数时两者才相等（第 24 页的等号条件， $∣ y ∣^{2}$ 严格凸）。

常见疑问与易错点

易错点问：‖X‖ₚ ≤ ‖X‖_q 能推出 𝔼|X|ᵖ ≤ 𝔼|X|^q 吗？

答：不能。命题比较的是开过方的范数，不是矩本身。反例：常数 $X = \frac{1}{2} ，$ $E ∣ X ∣ = 0.5 ，$ $E ∣ X ∣^{2} = 0.25 ，$ 矩反而变小；但 $∥ X ∥_{1} = ∥ X ∥_{2} = 0.5 ，$ 范数相等，命题成立。若 $∣ X ∣ \leq 1$ a.s.，矩随 $p$ 增大而减小（ $∣ x ∣^{q} \leq ∣ x ∣^{p} ）。$

易错点问：为什么是「高阶有限 ⇒ 低阶有限」，而不是反过来？

答：在概率空间上，只有大值会让期望变成无穷（小值的贡献不超过总质量 1）。高次方对大值惩罚更重，所以能通过高阶检验的，一定能通过低阶检验。反方向不成立：例 3 中 $U^{- 1/2}$ 的大值出现得「刚好」让一阶矩有限、二阶矩无穷。

易错点问：这个结论对 ℝ 上的函数（勒贝格测度）也成立吗？

答：不成立，两个方向的包含都可能失败。例 4 的 $\frac{1}{x}$ 在 $[1, \infty)$ 上属于 $L^{2}$ 不属于 $L^{1} ；$ 反过来 $x^{- 1/2}$ 在 $(0, 1]$ 上属于 $L^{1}$ （积分为 2）不属于 $L^{2} 。$ 只有总质量有限时才有 $L^{q} \subseteq L^{p} 。$ 这是概率论比一般测度论「方便」的地方之一。

易错点问：第 3 步为什么把 φ 定义在整个 ℝ 上，而不是 (0, ∞) 上？

答：因为 Jensen 要求 $P (Y \in I) = 1 ，$ 而 $Y = ∣ X ∣^{p}$ 可能以正概率等于 0（例 2 中 $P (X = 0) = \frac{1}{2} ）。$ 如果取 $I = (0, \infty) ，$ 例 2 就不满足条件。把 $φ (y) = ∣ y ∣^{r}$ 定义在开区间 $R$ 上，它仍然凸， $Y$ 的所有取值都在里面，问题就消失了。这也是基础补课里要花三步证明 $∣ y ∣^{r}$ 在整个 $R$ 上凸的原因。

易错点问：p < 1 时 ‖·‖ₚ 不是范数（第 22 页），命题还对吗？

答：对。证明只用到 $r = q / p > 1$ 和 Jensen，没有用到三角不等式，所以对所有 $0 < p < q \leq \infty$ 都成立。例如 $∥ X ∥_{1/2} \leq ∥ X ∥_{1} 。$

小结与自测

小结本页小结

概率空间上， $0 < p < q \leq \infty$ 时 $∥ X ∥_{p} \leq ∥ X ∥_{q} ，$ 从而 $L^{\infty} \subseteq L^{q} \subseteq L^{p} ：$ $p$ 越大，范数越大，空间越小。
证明： $Y = ∣ X ∣^{p}$ 可积（ $∣ X ∣^{p} \leq 1 + ∣ X ∣^{q} ），$ 对凸函数 $∣ y ∣^{q / p}$ 用 Jensen 得 $(E ∣ X ∣^{p})^{q / p} \leq E ∣ X ∣^{q} ，$ 再开 $q$ 次方。
总质量为 1 必不可少： $[1, \infty)$ 上的 $\frac{1}{x}$ 属于 $L^{2}$ 不属于 $L^{1} ；$ 计数测度下包含关系反过来。
包含是严格的： $U^{- 1/2} \in L^{1} ∖ L^{2} ，$ Pareto、柯西、指数分布给出其他层的例子。

自测

1. 已知 $E X^{4} = 16 。$ 给出 $E ∣ X ∣$ 和 $E X^{2}$ 的上界。

点开看答案

$∥ X ∥_{4} = 1 6^{1/4} = 2 。$ 由命题， $E ∣ X ∣ = ∥ X ∥_{1} \leq ∥ X ∥_{4} = 2 ，$ $E X^{2} = ∥ X ∥_{2}^{2} \leq ∥ X ∥_{4}^{2} = 4 。$

2. 判断：「在概率空间上 $L^{1} \subseteq L^{2} 。」$

点开看答案

错。包含关系的方向是 $L^{2} \subseteq L^{1} 。$ 反例： $X = U^{- 1/2} ，$ $E X = 2 ，$ $E X^{2} = \int_{0}^{1} u^{- 1} d u = \infty ，$ 所以 $X \in L^{1}$ 但 $X \in / L^{2} 。$

3. 设 $∣ X ∣ \leq 1$ a.s.， $0 < p < q 。$ 比较 $E ∣ X ∣^{p}$ 与 $E ∣ X ∣^{q}$ 的大小，并说明这和命题是否矛盾。

点开看答案

$E ∣ X ∣^{q} \leq E ∣ X ∣^{p} ：$ 因为 $0 \leq u \leq 1$ 时 $u^{q} \leq u^{p} ，$ 逐点比较后取期望。这不矛盾：命题比较的是 $∥ X ∥_{p} = (E ∣ X ∣^{p})^{1/ p}$ 与 $∥ X ∥_{q} = (E ∣ X ∣^{q})^{1/ q} ，$ 开方的次数不同。例如 $X \equiv \frac{1}{2} ：$ 矩 $\frac{1}{2} > \frac{1}{4} ，$ 范数 $\frac{1}{2} = \frac{1}{2} 。$

本页术语中英对照（按出现顺序）

中文	English	白话解释
概率空间	probability space	三元组 (Ω, 𝓕, P)：样本空间、事件的 σ-代数、概率测度。
阶矩	moment	E[\|X\|ᵖ] 叫 p 阶（绝对）矩；它有限与否反映尾部有多「重」。
随机变量	random variable	从样本空间到实数的（可测）函数，把结局翻译成数字；随机性来自「实现了哪个 ω」。
可积	integrable (L¹)	∫\|f\| dμ < ∞。全体可积函数记作 L¹(μ)。
方差	variance	Var X = E[(X − E X)²]，衡量随机变量围绕均值的波动大小。
Jensen 不等式	Jensen's inequality	φ 凸时 φ(E X) ≤ E φ(X)，例如 (E X)² ≤ E X²。
凸函数	convex function	图像上任意两点连线都在图像上方的函数，例如 x²、eˣ。
勒贝格测度	Lebesgue measure	实数轴上「长度」的严格版本，定义在勒贝格可测集上，m([a,b]) = b − a。
几乎必然收敛	almost sure convergence	除了概率为 0 的结局以外，Xₙ(ω) 都收敛到 X(ω)。
下确界	infimum (inf)	最大的下界。例如 (0,1] 没有最小值，但下确界是 0。
期望	expectation	随机变量对概率测度的积分 E[X] = ∫ X dP，也就是「加权平均」。
函数	function / map	f: A → B 给 A 中每个元素指定 B 中唯一一个元素。
三角不等式	triangle inequality	\|a + b\| ≤ \|a\| + \|b\|：分两段走的总路程不会比直接走更短。推广有 \|∫f\| ≤ ∫\|f\|、E\|X + Y\| ≤ E\|X\| + E\|Y\|，以及 Lᵖ 范数的 Minkowski 不等式。
单调递增	nondecreasing	后一项不小于前一项；单调有界的数列一定有极限。
上确界	supremum (sup)	最小的上界。最大值不一定存在，但有上界的实数集一定有上确界。
区间	interval	数轴上的一段，[a,b] 包含端点，(a,b) 不包含端点。
Hölder 不等式	Hölder's inequality	E\|XY\| ≤ ‖X‖_p ‖Y‖_q（1/p + 1/q = 1）；p = q = 2 就是柯西–施瓦茨不等式。
测度	measure	给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」，空集为 0，并且可数可加。
概率测度	probability measure	总质量 P(Ω) = 1 的测度。
计数测度	counting measure	μ(A) = A 中元素的个数（无限集记为 ∞）。在 ℕ 上对它积分就是求和。
点质量	point mass (Dirac measure)	把全部质量 1 放在一个点上：δ₀(E) = 1 当且仅当 0 ∈ E。
无意识统计学家定律	law of the unconscious statistician (LOTUS)	求 g(X) 的期望，不必先求出 g(X) 的分布，直接把 g 对 X 的分布 𝓛(X) 积分；X 有密度 f 时就是 E g(X) = ∫ g(x) f(x) dx。
分布	law / distribution	X 把概率「推」到取值空间上得到的测度：L(X)(B) = P(X ∈ B)。
交集	intersection	同时属于两个集合的元素全体，A ∩ B 对应「A 且 B」。
指数分布	exponential distribution	P(X > x) = e^(−λx)（x ≥ 0）的分布，均值 1/λ，常用来描述等待时间。
上界	upper bound	数集 A 的上界是一个数 M，A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界；所有上界中最小的那个叫上确界。