24 对支撑线取期望，就得到 Jensen 不等式 · 第2讲

这一页在讲什么

人话版一句话版

$φ$ 是凸函数时，

φ (E X) \leq E φ (X) .

「先平均、再变换」不超过「先变换、再平均」。证明只有一行：在 $m = E X$ 处画出上一页的支撑线，它在图像下方；对这条直线取期望，结果恰好是 $φ (E X) 。$

位置：第 4 部分「变换、乘积与和的界」的第二页。上一页第 23 页证明了凸函数在每一点都有支撑线；本页把支撑线不等式里的 $x$ 换成随机变量 $X ，$ 再两边取期望。
要解决的问题： $E φ (X)$ 往往很难直接算（要知道 $X$ 的整个分布），但 $E X$ 常常是已知的。Jensen 不等式说：只凭均值，就能给 $E φ (X)$ 一个下界 $φ (E X) 。$
后面怎么用：下一页第 25 页取 $φ (x) = x^{q / p} ，$ 证明 $∥ X ∥_{p} \leq ∥ X ∥_{q} ；$ 第 26 页的 Young 不等式用的是「 $lo g$ 是凹函数」，本质上也是 Jensen。

先补基础

基础补课回顾：支撑线引理（第 23 页引理 23）

设 $I$ 是开区间， $φ : I \to R$ 凸。则对每个 $m \in I ，$ 存在实数 $a ，$ 使

φ (x) \geq φ (m) + a (x - m) 对所有 x \in I .

右边是一条过点 $(m, φ (m)) 、$ 斜率为 $a$ 的直线，记作 $ℓ (x) 。$ 它在 $x = m$ 处与图像接触，其余地方都在图像下方（或重合）。副产品：开区间上的凸函数连续，因而博雷尔可测（第 23 页末尾的补充）。

基础补课回顾：期望的线性、单调性与常数（第 5 页）

常数： $E [c] = c 。$ 这里用到了 $P (Ω) = 1 。$
线性： $X$ 可积、 $a, b$ 是实数，则 $E [b + a X] = b + a E X 。$ 所以直线的期望很好算：只需要知道 $E X 。$
单调性： $Z \geq W ，$ 且两边期望都有定义，则 $E Z \geq E W 。$
期望有定义： $E Z^{+}$ 与 $E Z^{-}$ 不同时为 $+ \infty$ （第 5 页定义 3）。值可以是 $\pm \infty 。$

基础补课凹函数：把凸函数倒过来

$ψ$ 叫凹函数（concave），如果 $- ψ$ 是凸函数。等价地， $ψ (λ x + (1 - λ) y) \geq λ ψ (x) + (1 - λ) ψ (y) ：$ 弦在图像下方，图像像一个倒扣的碗。
例： $lo g x 、$ $x$ 在 $(0, \infty)$ 上是凹的；直线既凸又凹。
凸函数的结论，换成 $- ψ$ 再乘以 $- 1 ，$ 就得到凹函数的结论，不等号方向反过来。

课件原文逐句精读

课件原文Jensen follows by integrating the supporting line

Theorem 24 (Jensen's inequality) Let $φ : I \to R$ be convex on an open interval.

中文翻译

蓝条标题：对支撑线积分，就得到 Jensen 不等式。

定理 24（Jensen 不等式） 设 $φ : I \to R$ 是开区间上的凸函数。（后面的条件与结论留白，见下一节。）

Jensen follows by integrating the supporting line｜标题就是证明

supporting line：上一页的支撑线 $ℓ (x) = φ (m) + a (x - m) 。$
integrating：积分。期望就是对 $P$ 的积分（第 5 页），所以「对支撑线积分」就是「对支撑线不等式两边取期望」。
follows：由此推出。标题把证明的全部思路说完了：支撑线 + 取期望 = Jensen。下面的补写只是把这一句话的每个细节都核对清楚。

Theorem 24 (Jensen's inequality)｜名字

Jensen（丹麦数学家，1906 年发表）。中文常写作「琴生不等式」或「詹森不等式」，本站统一写 Jensen。

Let φ : I → ℝ be convex on an open interval｜设定与上一页完全相同

这正是引理 23 的设定： $I$ 是开区间， $φ$ 在 $I$ 上取有限实数值并且凸。
为什么照搬：证明要在 $m = E X$ 这一点用支撑线，而引理 23 保证每个 $m \in I$ 都有支撑线。只要能说明 $E X$ 落在 $I$ 里，就可以用。
课件留白的部分要补上两件事：对随机变量 $X$ 的要求（取值在 $I$ 里、可积），以及不等式本身。

补全课件留白

补充说明

课件此处留白（课堂板书），以下内容由本站根据标准教材补写，记号与本课件保持一致；如与老师课堂写法不同，以老师为准。

定理 24（Jensen 不等式）

设 $I \subseteq R$ 是开区间， $φ : I \to R$ 是凸函数。设 $X$ 是随机变量，满足

$P (X \in I) = 1$ （ $X$ 几乎必然落在 $φ$ 的定义域里）；
$X \in L^{1}$ （ $E X$ 是有限实数）。

则：(a) $E X \in I ；$ (b) $E [φ (X)^{-}] < \infty ，$ 所以 $E φ (X)$ 有定义，取值于 $(- \infty, + \infty] ；$ (c)

φ (E X) \leq E φ (X) .

若 $ψ : I \to R$ 是凹函数，在同样的条件下 $E [ψ (X)^{+}] < \infty ，$ 并且不等号反向： $E ψ (X) \leq ψ (E X) 。$

逐条解释：

为什么要 $P (X \in I) = 1$ ： $φ$ 只在 $I$ 上有定义。 $X$ 落在 $I$ 外面时 $φ (X)$ 没有意义。允许一个零概率集上例外，因为期望看不见零概率集（第 5 页性质 5）。
为什么要 $X \in L^{1}$ ：左边是 $φ (E X) ，$ $E X$ 必须是一个实数，而且要在 $I$ 里，才能代进 $φ 。$
结论 (b)：很多教材把「 $E φ (X)$ 有定义」或「 $φ (X)$ 可积」写成假设。下面的证明说明它其实自动成立：支撑线从下面托住了 $φ (X) ，$ 负部不可能无穷大。但 $E φ (X) = + \infty$ 是可能的，这时不等式仍然成立，只是没什么用。

推导证明思路

记 $m = E X 。$ 先说明 $m \in I ；$ 再在 $m$ 处取支撑线 $ℓ ，$ 把 $x$ 换成 $X (ω)$ 得到 $φ (X) \geq ℓ (X) ；$ 最后两边取期望，右边由线性等于 $ℓ (m) = φ (m) 。$

第 0 步：不妨设 $X (ω) \in I$ 对每个 $ω$ 成立。 事件 $N = {X \in / I}$ 的概率为 0。取定 $I$ 中一点 $c ，$ 令 $\tilde{X} = X$ （在 $N^{c}$ 上）、 $\tilde{X} = c$ （在 $N$ 上）。则 $\tilde{X} = X$ a.s.，两者的 $E X 、$ $E φ (X)$ 都一样（第 5 页性质 5）。所以只需对 $\tilde{X}$ 证明，下面直接把 $\tilde{X}$ 写成 $X 。$ 由于 $φ$ 连续（第 23 页的补充）， $φ (X)$ 是随机变量（第 4 页的「复合保持可测」）。

第 1 步： $m = E X$ 落在 $I$ 里。 写 $I = (α, β) ，$ $- \infty \leq α < β \leq + \infty 。$

若 $α > - \infty ：$ $X - α > 0$ 对每个 $ω$ 成立。由单调性和线性， $m - α = E [X - α] \geq 0 。$ 如果 $m - α = 0 ，$ 那么非负随机变量 $X - α$ 的期望为 0，它几乎必然等于 0（第 5 页自测第 2 题），这与「 $X - α > 0$ 处处成立」矛盾。所以 $m > α 。$
若 $α = - \infty ：$ $m$ 是实数，自然 $m > - \infty 。$
右端点 $β$ 的论证完全对称：对 $β - X > 0$ 重复上面两条，得 $m < β 。$

所以 $α < m < β ，$ 即 $m \in I 。$ 这一步的要点： $X$ 严格落在开区间 $I$ 内，平均值也严格落在 $I$ 内，不会恰好跑到端点上；于是引理 23 在 $m$ 处可用。

第 2 步：在 $m$ 处取支撑线。 由引理 23，存在实数 $a ，$ 使 $φ (x) \geq φ (m) + a (x - m)$ 对所有 $x \in I$ 成立。对每个 $ω ，$ $X (ω) \in I ，$ 所以可以把 $x = X (ω)$ 代进去：

φ (X (ω)) \geq φ (m) + a (X (ω) - m) 对每个 ω .

记右边的随机变量为 $L := φ (m) + a (X - m) 。$ 这里要求支撑线对所有 $x \in I$ 成立（而不只是 $m$ 附近），因为 $X (ω)$ 可能离 $m$ 很远。

第 3 步：直线的期望。 $∣ L ∣ \leq ∣ φ (m) ∣ + ∣ a ∣ ∣ X ∣ + ∣ a ∣ ∣ m ∣ ，$ 右边可积，所以 $L$ 可积。由线性和 $E [c] = c ，$

E L = φ (m) + a (E X - m) = φ (m) + a (m - m) = φ (m) .

支撑线选在 $m = E X$ 处的妙处就在这里：斜率 $a$ 前面的系数 $E X - m$ 恰好是 0，不管 $a$ 是多少（上一页说过尖角处 $a$ 不唯一），结果都一样。

第 4 步： $E φ (X)$ 有定义。 由 $φ (X) \geq L$ 得 $- φ (X) \leq - L ，$ 于是

φ (X)^{-} = max (- φ (X), 0) \leq max (- L, 0) = L^{-} \leq ∣ L ∣.

由单调性， $E [φ (X)^{-}] \leq E ∣ L ∣ < \infty 。$ 负部的期望有限，所以 $E φ (X) = E φ (X)^{+} - E φ (X)^{-}$ 有定义，取值于 $(- \infty, + \infty] 。$ 这就是结论 (b)。

第 5 步：取期望。 由 $φ (X) \geq L ，$ 正部也满足 $φ (X)^{+} \geq L^{+} ，$ 负部满足 $φ (X)^{-} \leq L^{-}$ （第 4 步）。所以

E φ (X) = E φ (X)^{+} - E φ (X)^{-} \geq E L^{+} - E L^{-} = E L = φ (m) = φ (E X) .

若 $E φ (X)^{+} = + \infty ，$ 左边是 $+ \infty ，$ 不等式自动成立。这就是结论 (c)。证毕。

凹函数的情形。 $ψ$ 凹，则 $- ψ$ 凸。对 $- ψ$ 用上面的结论： $E [(- ψ (X))^{-}] < \infty ，$ 而 $(- ψ (X))^{-} = ψ (X)^{+} ；$ 并且 $- ψ (E X) \leq E [- ψ (X)] = - E ψ (X) 。$ 两边乘以 $- 1 ，$ 得 $E ψ (X) \leq ψ (E X) 。$

凸函数的定义就是「两点分布的 Jensen」

设 $X$ 以概率 $λ$ 取 $x 、$ 以概率 $1 - λ$ 取 $y$ （ $x, y \in I ）。$ 则 $E X = λ x + (1 - λ) y ，$ $E φ (X) = λ φ (x) + (1 - λ) φ (y) ，$ Jensen 不等式变成

φ (λ x + (1 - λ) y) \leq λ φ (x) + (1 - λ) φ (y),

恰好是凸函数的定义（第 23 页）。所以 Jensen 不等式是把凸性从「两个点的加权平均」推广到「任意分布的平均」。取有限个点： $λ_{i} \geq 0 、$ $\sum_{i} λ_{i} = 1$ 时 $φ (\sum_{i} λ_{i} x_{i}) \leq \sum_{i} λ_{i} φ (x_{i}) 。$

等号什么时候成立

若 $φ$ 严格凸（凸性定义中 $x \neq = y 、$ $0 < λ < 1$ 时不等号严格成立，例如 $x^{2} 、$ $e^{x} ），$ 且 $E φ (X) = φ (E X) ，$ 则 $X$ 几乎必然是常数 $m 。$

理由：此时 $φ (X)$ 可积， $D := φ (X) - L \geq 0 ，$ $E D = φ (m) - φ (m) = 0 ，$ 所以 $D = 0$ a.s.（第 5 页自测第 2 题）。另一方面，严格凸时 $x \neq = m$ 处一定有 $φ (x) > ℓ (x) ：$ 否则若 $φ (x) = ℓ (x) ，$ 取中点 $y = \frac{x + m}{2} ，$ 严格凸给出 $φ (y) < \frac{1}{2} φ (x) + \frac{1}{2} φ (m) = \frac{1}{2} ℓ (x) + \frac{1}{2} ℓ (m) = ℓ (y)$ （直线在中点的值等于两端值的平均），与 $φ \geq ℓ$ 矛盾。所以 ${D = 0} = {X = m} ，$ $X = m$ a.s.

图解

图解：「平均点」落在碗的上方

课件这里没有图，可以在纸上画 $φ (x) = x^{2} ，$ $X$ 以概率 $\frac{1}{2}$ 取 1、以概率 $\frac{1}{2}$ 取 3：

在抛物线上标出 $A = (1, 1) 、$ $B = (3, 9)$ 两点，连成弦。
弦的中点 $(2, 5)$ 的横坐标是 $E X = 2 ，$ 纵坐标是 $E φ (X) = \frac{1 + 9}{2} = 5 。$
抛物线在 $x = 2$ 处的高度是 $φ (E X) = 4 。$ 碗是向上弯的，弦在图像上方，所以 $5 \geq 4 。$
再画 $m = 2$ 处的支撑线（切线） $ℓ (x) = 4 + 4 (x - 2) = 4 x - 4 。$ 它在 $A 、$ $B$ 下方： $ℓ (1) = 0 \leq 1 ，$ $ℓ (3) = 8 \leq 9 。$ 直线上两点的平均高度 $\frac{0 + 8}{2} = 4 ，$ 恰好等于 $ℓ (2) = φ (2) 。$

读图的结论： $E φ (X)$ 是图像上各点高度的平均， $E ℓ (X)$ 是直线上各点高度的平均；前者处处更高，后者恰好等于 $φ (E X)$ 。这就是证明的第 3、5 步。

例子

例 1：φ(x) = x²——方差非负

$φ (x) = x^{2}$ 在 $I = R$ 上凸。对任意 $X \in L^{1} ，$ Jensen 给出

(E X)^{2} \leq E X^{2}, 即 Var X = E X^{2} - (E X)^{2} \geq 0.

掷骰子： $(E X)^{2} = 3. 5^{2} = 12.25 ，$ $E X^{2} = \frac{91}{6} \approx 15.17 ，$ 确实 $12.25 \leq 15.17 。$ 若 $E X^{2} = + \infty$ （例如第 21 页例 4 中 $α = 1.5$ 的 Pareto 变量， $E X = 3 ），$ 不等式变成 $9 \leq + \infty ，$ 成立但没有信息。

例 2：φ(x) = eˣ——指数的平均不小于平均的指数

$φ (x) = e^{x}$ 在 $R$ 上凸（ $φ^{''} = e^{x} > 0 ），$ 所以 $e^{E X} \leq E e^{X} 。$

$X$ 以概率 $\frac{1}{2}$ 取 0、以概率 $\frac{1}{2}$ 取 2： $e^{E X} = e^{1} \approx 2.718 ，$ $E e^{X} = \frac{1 + e ^{2}}{2} \approx \frac{1 + 7.389}{2} \approx 4.195 。$
$U \sim Unif (0, 1) ：$ $e^{E U} = e^{1/2} \approx 1.649 ，$ $E e^{U} = \int_{0}^{1} e^{u} d u = e - 1 \approx 1.718 。$ 两者很接近，因为 $U$ 的取值集中在一个短区间里， $e^{x}$ 在上面弯得不厉害。

例 3：凹函数 log——算术平均不小于几何平均

$ψ (x) = lo g x$ 在 $I = (0, \infty)$ 上凹（ $ψ^{''} = - \frac{1}{x ^{2}} < 0 ）。$ 设 $X$ 以概率 $\frac{1}{2}$ 取 $a 、$ 以概率 $\frac{1}{2}$ 取 $b ，$ $a, b > 0 。$ 凹函数版本给出

\frac{lo g a + lo g b}{2} = E lo g X \leq lo g E X = lo g \frac{a + b}{2} .

左边 $= lo g ab 。$ $lo g$ 严格递增，所以 $ab \leq \frac{a + b}{2} ：$ 几何平均不超过算术平均。例如 $a = 1 、$ $b = 9 ：$ $3 \leq 5 。$ $X$ 均匀取 $n$ 个正数 $x_{1}, \dots, x_{n}$ 时，同样得到 $n x_{1} \dots x_{n} \leq \frac{x _{1} + \dots + x _{n}}{n} 。$

例 4：φ(x) = 1/x 与 φ(x) = |x|

$φ (x) = \frac{1}{x}$ 在 $(0, \infty)$ 上凸。 $X$ 以概率 $\frac{1}{2}$ 取 1、取 3： $E \frac{1}{X} = \frac{1 + 1/3}{2} = \frac{2}{3} ，$ $\frac{1}{E X} = \frac{1}{2} ，$ 确实 $\frac{1}{2} \leq \frac{2}{3} 。$ 倒数的平均 ≠ 平均的倒数，前者更大。
$φ (x) = ∣ x ∣$ 在 $R$ 上凸（它在 0 处有尖角，但引理 23 不要求可导），Jensen 给出 $∣ E X ∣ \leq E ∣ X ∣ ，$ 正是第 5 页的性质 4。

例 5（反例）：条件去掉会怎样

不凸： $φ (x) = - x^{2}$ （凹）， $X = \pm 1$ 各概率 $\frac{1}{2} ：$ $φ (E X) = 0 ，$ $E φ (X) = - 1 ，$ 于是 $φ (E X) > E φ (X) ，$ 凸函数的不等号方向失败（凹函数版本的方向成立）。
$X$ 跑出定义域： $φ (x) = \frac{1}{x}$ 只在 $(0, \infty)$ 上凸。若 $X = \pm 1$ 各概率 $\frac{1}{2} ，$ 则 $P (X \in (0, \infty)) = \frac{1}{2} \neq = 1 ，$ $E X = 0$ 不在定义域里， $φ (E X)$ 根本没有意义。
$X$ 不可积：柯西分布的 $E X$ 不存在（第 5 页例 3），左边 $φ (E X)$ 无从谈起，Jensen 什么也说不了。

常见疑问与易错点

易错点问：不等号方向总记不住，怎么办？

答：用 $x^{2}$ 检验。 $E X^{2} \geq (E X)^{2}$ 就是「方差 $\geq 0 」，$ 这个你一定记得。 $x^{2}$ 是凸的，所以凸函数是 $E φ (X) \geq φ (E X) ：$ 期望在外面的那一边大。凹函数反过来。也可以画图：碗形图像上，弦（平均）总在上面。

易错点问：证明哪里用到了「概率」，换成一般测度还成立吗？

答：第 3 步用到了 $E [φ (m)] = φ (m) ，$ 即 $P (Ω) = 1 。$ 换成总质量为 2 的测度就失败： $μ = 2 δ_{1}$ （在点 1 放质量 2），则 $\int x d μ = 2 ，$ $(\int x d μ)^{2} = 4 ，$ 而 $\int x^{2} d μ = 2 < 4 。$ 直观地说，Jensen 比较的是「加权平均」，权重总和必须是 1。

易错点问：X ≥ 0 可能取到 0，还能对 √x 或 log x 用 Jensen 吗？

答：要小心，因为定理要求开区间。 $lo g x$ 在 0 处没有定义：若 $P (X = 0) > 0 ，$ 则 $E lo g X$ 中出现 $lo g 0 = - \infty ，$ 不能直接套用。 $x$ 在 $0$ 处有定义，这时可以绕过定理、直接用证明的方法： $m = E X > 0$ 时，取切线 $ℓ (x) = m + \frac{x - m}{2 m} ，$ 对所有 $x \geq 0$ （包括 $x = 0 ）$ 都有 $x \leq ℓ (x) ⟺ 2 m x \leq m + x ⟺ (x - m)^{2} \geq 0 ；$ 取期望得 $E X \leq E X 。$ $m = 0$ 时 $X = 0$ a.s.，两边都是 0。

易错点问：Jensen 能给 𝔼φ(X) 一个上界吗？

答：不能。凸函数时 Jensen 只给下界 $E φ (X) \geq φ (E X) 。$ 上界可以是 $+ \infty$ （例 1 的 Pareto）。想要上界，需要更多关于 $X$ 的信息，例如 $X$ 有界：若 $X \in [u, v] ，$ 弦在图像上方，可以得到 $E φ (X) \leq \frac{v - E X}{v - u} φ (u) + \frac{E X - u}{v - u} φ (v) 。$

小结与自测

小结本页小结

定理 24： $I$ 开区间、 $φ$ 在 $I$ 上凸、 $P (X \in I) = 1 、$ $X \in L^{1} ，$ 则 $E X \in I ，$ $E φ (X)$ 有定义，且 $φ (E X) \leq E φ (X) ；$ 凹函数不等号反向。
证明：在 $m = E X$ 处取支撑线 $ℓ ，$ $φ (X) \geq ℓ (X)$ 逐点成立，取期望， $E ℓ (X) = ℓ (E X) = φ (m) 。$
用到 $P (Ω) = 1 ；$ 「 $E φ (X)$ 有定义」是自动的（负部被直线控制）。
常用特例： $(E X)^{2} \leq E X^{2} 、$ $e^{E X} \leq E e^{X} 、$ $∣ E X ∣ \leq E ∣ X ∣ 、$ $E lo g X \leq lo g E X$ （几何平均 ≤ 算术平均）。

自测

1. $U \sim Unif (0, 1) 。$ $x^{3}$ 在 $R$ 上不是凸函数，还能用 Jensen 得到 $(E U)^{3} \leq E U^{3}$ 吗？验证一下数值。

点开看答案

能。取 $I = (0, \infty) ：$ $x^{3}$ 在 $(0, \infty)$ 上凸（二阶导数 $6 x > 0 ），$ 而 $P (U \in (0, \infty)) = 1 ，$ $U$ 可积，定理 24 的条件全部满足。数值： $(E U)^{3} = \frac{1}{8} = 0.125 ，$ $E U^{3} = \int_{0}^{1} u^{3} d u = \frac{1}{4} = 0.25 ，$ 确实 $0.125 \leq 0.25 。$ 关键是选一个让 $X$ 几乎必然落在里面的开区间。

2. $X$ 以概率 $\frac{1}{3}$ 分别取 1、2、4。用 Jensen 比较 $E \frac{1}{X}$ 与 $\frac{1}{E X} ，$ 再算出两者验证。

点开看答案

$\frac{1}{x}$ 在 $(0, \infty)$ 上凸，所以 $\frac{1}{E X} \leq E \frac{1}{X} 。$ 计算： $E X = \frac{7}{3} ，$ $\frac{1}{E X} = \frac{3}{7} \approx 0.429 ；$ $E \frac{1}{X} = \frac{1}{3} (1 + \frac{1}{2} + \frac{1}{4}) = \frac{7}{12} \approx 0.583 。$ $0.429 \leq 0.583 ，$ 符合。

3. 判断：「若 $X \in L^{1} ，$ 则 $E e^{- X} \geq e^{- E X} 。」$

点开看答案

对。 $φ (x) = e^{- x}$ 在 $R$ 上凸（ $φ^{''} (x) = e^{- x} > 0 ），$ $X \in L^{1} ，$ $P (X \in R) = 1 ，$ 由定理 24， $φ (E X) = e^{- E X} \leq E e^{- X}$ （右边可能是 $+ \infty ）。$

本页术语中英对照（按出现顺序）

中文	English	白话解释
凸函数	convex function	图像上任意两点连线都在图像上方的函数，例如 x²、eˣ。
期望	expectation	随机变量对概率测度的积分 E[X] = ∫ X dP，也就是「加权平均」。
函数	function / map	f: A → B 给 A 中每个元素指定 B 中唯一一个元素。
随机变量	random variable	从样本空间到实数的（可测）函数，把结局翻译成数字；随机性来自「实现了哪个 ω」。
分布	law / distribution	X 把概率「推」到取值空间上得到的测度：L(X)(B) = P(X ∈ B)。
Jensen 不等式	Jensen's inequality	φ 凸时 φ(E X) ≤ E φ(X)，例如 (E X)² ≤ E X²。
下界	lower bound	数集 A 的下界是一个数 m，A 里每个数都 ≥ m。例如 0 和 −3 都是 (0,1] 的下界；所有下界中最大的那个叫下确界。
凹函数	concave function	−φ 是凸函数时，φ 叫凹函数：任意两点间的弦都在图像下方，例如 log x、√x。对凹函数，Jensen 不等式反向：E φ(X) ≤ φ(E X)。
区间	interval	数轴上的一段，[a,b] 包含端点，(a,b) 不包含端点。
可积	integrable (L¹)	∫\|f\| dμ < ∞。全体可积函数记作 L¹(μ)。
几乎必然收敛	almost sure convergence	除了概率为 0 的结局以外，Xₙ(ω) 都收敛到 X(ω)。
正部	positive / negative part	f⁺ = max(f, 0)，f⁻ = max(−f, 0)，f = f⁺ − f⁻，\|f\| = f⁺ + f⁻。
事件	event	样本空间的（允许谈概率的）子集；实现的 ω 落在里面，就说事件发生。
方差	variance	Var X = E[(X − E X)²]，衡量随机变量围绕均值的波动大小。
测度	measure	给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」，空集为 0，并且可数可加。
上界	upper bound	数集 A 的上界是一个数 M，A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界；所有上界中最小的那个叫上确界。