07 期望可以对分布积分（无意识统计学家定律） · 第2讲

这一页在讲什么

人话版一句话版

$E [g (X)]$ 按定义是在 $Ω$ 上积分；这条定理说：也可以换到取值空间 $S$ 上，对分布 $L (X)$ 积分，结果一样： $E [g (X)] = \int_{S} g d L (X) 。$ 因此期望只依赖分布，完全不用知道 $Ω$ 长什么样。

位置：第 1 部分的最后一页，把前三页串起来：随机变量（第 4 页）、期望（第 5 页）、分布（第 6 页）。
要解决的问题：中学里算 $E [X^{2}] ，$ 直接写 $\sum_{k} k^{2} P (X = k) ，$ 从来不去先求「 $X^{2}$ 的分布」；这个做法为什么是对的？本定理给出证明。
名字的来历：统计学家天天这样算，却「没意识到」这其实是一条需要证明的定理，而不是期望的定义，所以带点调侃地叫它无意识统计学家定律（Law of the Unconscious Statistician，简称 LOTUS）。
后面怎么用：第 2 部分「用 CDF 计算期望」的所有公式，都是先用 LOTUS 把问题搬到 $R$ 上，再对分布做文章。

先补基础

基础补课对 S 上的测度积分

第 1 讲的积分适用于任何测度空间。 $L (X)$ 是 $(S, M)$ 上的测度，所以对可测函数 $g : S \to [0, \infty] ，$ 积分 $\int_{S} g d L (X)$ 按第 1 讲的三步定义：

$g = 1_{B}$ 时， $\int_{S} 1_{B} d L (X) = L (X) (B) ；$
$g$ 是简单函数 $\sum_{i} a_{i} 1_{B_{i}}$ 时，积分是 $\sum_{i} a_{i} L (X) (B_{i}) ；$
一般非负 $g ，$ 用简单函数从下面逼近取上确界。

记号 $\int_{S} g (x) L (X) (d x) 、$ $\int g d μ_{X}$ 都是同一个意思。

基础补课对点质量的积分就是加权求和

若 $μ = \sum_{k} p_{k} δ_{x_{k}}$ （离散分布），则 $\int g d μ = \sum_{k} p_{k} g (x_{k})$ （ $g \geq 0 ）。$ 理由： $g = 1_{B}$ 时，左边 $= μ (B) = \sum_{x_{k} \in B} p_{k} = \sum_{k} p_{k} 1_{B} (x_{k}) ，$ 等于右边；再按「简单函数 → 单调极限」推广（与本页证明的步骤相同）。例： $μ = \frac{1}{2} δ_{0} + \frac{1}{2} δ_{1} ，$ $\int x^{2} d μ = \frac{1}{2} \cdot 0 + \frac{1}{2} \cdot 1 = \frac{1}{2} 。$

基础补课简单函数逼近（回顾）

对任何非负可测函数 $g ，$ 存在一列非负简单函数 $0 \leq g_{1} \leq g_{2} \leq \dots ，$ 逐点收敛到 $g$ （二进逼近）。具体做法：把取值轴按 $2^{- n}$ 切层， $g_{n} = min (n, ⌊ 2^{n} g ⌋ / 2^{n}) ，$ 其中 $⌊ y ⌋$ 表示不超过 $y$ 的最大整数。

课件原文逐句精读

课件原文Expectation is integration against the pushforward law

Theorem 5 (Law of the Unconscious Statistician)

中文翻译

蓝条标题：期望就是对推前分布的积分。

定理 5（无意识统计学家定律）（课件只印了定理名，正文留白，见下一节。）

蓝条标题 Expectation is integration against the pushforward law：integration against $μ$ 是英文里「对测度 $μ$ 积分」的固定说法；pushforward law 就是第 6 页的推前测度 $L (X) = P \circ X^{- 1} 。$
这句话把期望的两种看法连起来：在 $Ω$ 上对 $P$ 积分（定义）＝在 $S$ 上对 $L (X)$ 积分（计算）。

补全课件留白

补充说明

课件此处留白（课堂板书），以下内容由本站根据标准教材补写，记号与本课件保持一致；如与老师课堂写法不同，以老师为准。

定理 5（无意识统计学家定律，LOTUS）

设 $X : (Ω, F, P) \to (S, M)$ 是随机元， $μ = L (X)$ 是它的分布。

若 $g : S \to [0, \infty]$ 是 $M$ -可测的，则 $E [g (X)] = \int_{Ω} g (X (ω)) d P (ω) = \int_{S} g (x) d μ (x) .$
若 $g : S \to R$ 是 $M$ -可测的，则 $g (X) \in L^{1} (P)$ 当且仅当 $g \in L^{1} (μ) ；$ 更一般地， $E [g (X)]$ 存在当且仅当 $\int_{S} g d μ$ 存在，并且此时二者相等。

特别地，对实值随机变量 $X$ （ $S = R ），$ 取 $g (x) = x$ 得 $E X = \int_{R} x d μ_{X} (x)$ （只要一边有定义）。

逐条解释：

左边是 $Ω$ 上的积分：逐个结局 $ω$ 算 $g (X (ω)) ，$ 按 $P$ 加权。
右边是 $S$ 上的积分：逐个取值 $x$ 算 $g (x) ，$ 按「 $X$ 取到 $x$ 附近的概率」加权。
两边相等的直观理由：把 $Ω$ 按「 $X$ 取什么值」分组，同一组里的 $ω$ 都有相同的 $g (X (ω)) ；$ 每一组的总概率恰好就是分布给这个取值的质量。
$g$ 必须可测：否则 $g (X)$ 未必是随机变量，右边的积分也没有定义（第 4 页「复合保持可测」）。
第 2 条的意思：「可不可积」「期望存不存在」这两个问题，在 $Ω$ 上判断和在 $S$ 上判断，答案一致。

推导证明思路

标准的「四步走」：先对示性函数验证（这一步就是分布的定义），再用线性推广到简单函数，用单调收敛定理推广到非负可测函数，最后拆成正部、负部。每一步两边同时推进，始终保持相等。

第 1 步：示性函数。 设 $g = 1_{B} ，$ $B \in M 。$ 对每个 $ω ，$

1_{B} (X (ω)) = 1 ⟺ X (ω) \in B ⟺ ω \in X^{- 1} (B),

所以 $1_{B} (X) = 1_{X^{- 1} (B)} 。$ 于是

E [1_{B} (X)] = P (X^{- 1} (B)) = μ (B) = \int_{S} 1_{B} d μ .

第一个等号：示性函数的期望是概率（第 5 页）；第二个等号：分布的定义（第 6 页）；第三个等号：示性函数的积分（第 1 讲）。

第 2 步：非负简单函数。 设 $g = \sum_{i = 1}^{n} a_{i} 1_{B_{i}} ，$ $a_{i} \geq 0 ，$ $B_{i} \in M 。$ 则 $g (X) = \sum_{i} a_{i} 1_{B_{i}} (X) ，$ 由期望的线性和第 1 步：

E [g (X)] = i = 1 \sum n a_{i} E [1_{B_{i}} (X)] = i = 1 \sum n a_{i} μ (B_{i}) = \int_{S} g d μ .

第 3 步：非负可测函数。 取非负简单函数 $g_{n} ↑ g$ （二进逼近）。

在 $S$ 上： $g_{n} ↑ g ，$ 由单调收敛定理， $\int_{S} g_{n} d μ ↑ \int_{S} g d μ 。$
在 $Ω$ 上：对每个 $ω ，$ $g_{n} (X (ω)) ↑ g (X (ω))$ （把 $x = X (ω)$ 代入上一行即可），并且每个 $g_{n} (X)$ 是 $Ω$ 上的非负简单随机变量。由单调收敛定理， $E [g_{n} (X)] ↑ E [g (X)] 。$
由第 2 步，两列数逐项相等： $E [g_{n} (X)] = \int_{S} g_{n} d μ 。$ 相等的两列数极限相同，所以 $E [g (X)] = \int_{S} g d μ 。$

第 4 步：一般实值可测函数。 注意 $(g (X))^{+} = max (g (X), 0) = g^{+} (X) ，$ $(g (X))^{-} = g^{-} (X) ，$ $∣ g (X) ∣ = ∣ g ∣ (X) 。$ 对非负的 $g^{+} 、$ $g^{-} 、$ $∣ g ∣$ 分别用第 3 步：

E [(g (X))^{\pm}] = \int_{S} g^{\pm} d μ, E ∣ g (X) ∣ = \int_{S} ∣ g ∣ d μ .

所以「 $E ∣ g (X) ∣ < \infty 」$ 与「 $\int ∣ g ∣ d μ < \infty 」$ 同真同假；两边的正部、负部是同一对数，于是「至少一个有限」同真同假，差也相同： $E [g (X)] = \int_{S} g^{+} d μ - \int_{S} g^{-} d μ = \int_{S} g d μ 。$ 证毕。

推论：有密度时，中学公式成立

推论（有密度时的计算公式）

若实值随机变量 $X$ 的分布有密度 $f \geq 0 ，$ 即 $μ_{X} (B) = \int_{B} f (x) d x$ 对所有博雷尔集 $B$ 成立（密度的正式讨论见第 17 页），则对任何博雷尔可测的 $g \geq 0 ，$

E [g (X)] = \int_{R} g (x) f (x) d x;

对 $g$ 可正可负的情形，只要 $\int ∣ g ∣ f d x < \infty ，$ 同样成立。

证明完全照搬上面的四步： $g = 1_{B}$ 时， $\int 1_{B} d μ_{X} = μ_{X} (B) = \int 1_{B} f d x ；$ 线性推广到简单函数；若 $g_{n} ↑ g ，$ 则 $g_{n} f ↑ g f ，$ 两边都用单调收敛定理；最后拆正负部。再与定理 5 合起来即得。所以「 $E g (X) = \int g (x) f (x) d x 」$ 不是定义，而是 LOTUS 的推论。

图解

图解：按「X 的取值」把 Ω 分组，再求和

课件这里没有图，用两颗骰子之和 $X = ω_{1} + ω_{2} 、$ $g (x) = x^{2}$ 来画：

画一个 $6 \times 6$ 的方格表，横坐标 $ω_{1} 、$ 纵坐标 $ω_{2} ，$ 每格代表一个结局，概率 $\frac{1}{36} 。$
在每格里写上 $X$ 的值。你会看到同一个值排成一条斜线： $X = 7$ 的 6 个格子在一条对角线上， $X = 2$ 只有左下角 1 格。
$Ω$ 上的算法（定义）：36 个格子逐格计算 $g (X) = X^{2} ，$ 乘以 $\frac{1}{36} ，$ 全部加起来。
$S$ 上的算法（LOTUS）：先按斜线分组，第 $k$ 条斜线的格子数 $\times \frac{1}{36}$ 就是 $P (X = k) ；$ 每组里 $g (X)$ 都等于 $k^{2} ，$ 所以这一组贡献 $k^{2} P (X = k) 。$ 再把 11 组加起来。

两种算法只是求和的顺序不同：一个逐格加，一个先按斜线合并再加。LOTUS 就是把这个「换个顺序求和」推广到任意（可能不可数的） $Ω$ 上，而推广的工具正是简单函数逼近和单调收敛定理。

例子

例 1：掷骰子的二阶矩——不必先求 X² 的分布

$X$ 是骰子点数， $μ_{X} = \sum_{k = 1}^{6} \frac{1}{6} δ_{k} 。$ 用 LOTUS 和「对点质量积分 = 加权求和」：

E [X^{2}] = \int x^{2} d μ_{X} = k = 1 \sum 6 k^{2} \cdot \frac{1}{6} = \frac{1 + 4 + 9 + 16 + 25 + 36}{6} = \frac{91}{6} \approx 15.17.

若不用 LOTUS，就要先求 $Y = X^{2}$ 的分布（取值 1、4、9、16、25、36，各 $\frac{1}{6} ），$ 再算 $E Y 。$ 结果一样，但多了一步。

例 2：g 不是一一对应时，LOTUS 自动完成「合并」

$X$ 在 ${- 1, 0, 1}$ 上均匀， $g (x) = x^{2} 。$

先求分布的做法： $Y = X^{2}$ 取 0（当 $X = 0 ）$ 或 1（当 $X = \pm 1 ），$ $P (Y = 0) = \frac{1}{3} ，$ $P (Y = 1) = \frac{2}{3} ，$ 所以 $E Y = \frac{2}{3} 。$
LOTUS 的做法： $E g (X) = \frac{1}{3} g (- 1) + \frac{1}{3} g (0) + \frac{1}{3} g (1) = \frac{1}{3} + 0 + \frac{1}{3} = \frac{2}{3} 。$

LOTUS 不需要你手动把 $X = - 1$ 和 $X = 1$ 这两种情况合并，求和时自然就合并了。

例 3：连续的例子——均匀分布

$U \sim Unif (0, 1) ，$ 它的分布是 $(0, 1)$ 上的勒贝格测度，密度 $f = 1_{(0, 1)} 。$ 由推论，

E [e^{U}] = \int_{0}^{1} e^{x} d x = e - 1 \approx 1.718, E [U^{2}] = \int_{0}^{1} x^{2} d x = \frac{1}{3} .

注意 $E [e^{U}] = e - 1 \neq = e^{1/2} = e^{E U} ：$ 一般 $E g (X) \neq = g (E X)$ 。二者谁大谁小，第 24 页的 Jensen 不等式会回答（ $e^{x}$ 是凸函数，所以 $E e^{U} \geq e^{E U} ；$ 数值上 $1.718 \geq 1.649 ）。$

例 4：同一个期望，在 Ω 上算和在 S 上算

掷两颗骰子， $X = ω_{1} + ω_{2} 。$

在 $Ω$ 上： $E X = \sum_{(ω_{1}, ω_{2})} (ω_{1} + ω_{2}) \cdot \frac{1}{36} ，$ 共 36 项。按行求和，每个 $ω_{1}$ 出现 6 次，总和 $= 6 \cdot 21 + 6 \cdot 21 = 252 ，$ 所以 $E X = \frac{252}{36} = 7 。$
在 $S$ 上： $E X = \sum_{k = 2}^{12} k P (X = k) ，$ 其中 $P (X = k) = \frac{6 - ∣ k - 7∣}{36} ，$ 共 11 项，算出来也是 7。

LOTUS 保证两种算法一定得到同一个答案。

常见疑问与易错点

易错点问：LOTUS 说明了什么「大道理」？

答：期望只依赖分布。若 $X = d Y$ （同分布），则对任何可测 $g ，$ $E g (X) = E g (Y)$ （只要有定义），因为两边都等于 $\int g d μ 。$ 所以第 6 页例 2 里处处不相等的 $X$ 和 $1 - X ，$ 一切期望都相同。这也是为什么概率论里常常「只给分布，不给 $Ω 」。$

易错点问：𝔼g(X) 等于 g(𝔼X) 吗？

答：一般不等。例 3 中 $E e^{U} = e - 1 ，$ $e^{E U} = e^{1/2} 。$ 只有 $g$ 是线性函数 $g (x) = a x + b$ 时才总相等（期望的线性）。把 $E g (X)$ 写成 $g (E X)$ 是初学者最常见的错误之一。

易错点问：算 𝔼[XY] 时，知道 X 和 Y 各自的分布就够了吗？

答：不够。 $X Y$ 是 $(X, Y)$ 这个随机向量的函数 $g (x, y) = x y 。$ 用 LOTUS 时要取 $S = R^{2} ，$ 积分用的是 $(X, Y)$ 的联合分布 $L (X, Y) ，$ 而不是两个单独的分布。反例：公平硬币 $X \in {0, 1} 。$ 若 $Y = X ，$ 则 $E [X Y] = E X^{2} = \frac{1}{2} ；$ 若 $Y = 1 - X ，$ 则 $X Y = 0 ，$ $E [X Y] = 0 。$ 两种情形里 $Y$ 的单独分布都一样（都是伯努利 $\frac{1}{2} ），$ $E [X Y]$ 却不同。

易错点问：证明第 3 步为什么要用简单函数逼近，不能直接算？

答：因为积分的定义本身就是「用简单函数从下面逼近」，一般的 $g$ 没有别的办法直接处理。第 1、2 步只对简单函数成立，要推广到一般函数，需要一个「取极限时积分跟着走」的工具，这正是单调收敛定理。这套「示性 → 简单 → 非负 → 一般」的四步走，是测度论证明等式的标准模板。

小结与自测

小结本页小结

LOTUS： $E [g (X)] = \int_{S} g d L (X) 。$ 非负可测 $g$ 总成立；一般 $g$ 时两边同时存在（或同时可积）并相等。
证明四步走：示性函数（分布的定义）→ 简单函数（线性）→ 非负函数（MCT）→ 一般函数（正负部）。
推论：离散时 $E g (X) = \sum_{k} g (x_{k}) p_{k} ；$ 有密度时 $E g (X) = \int g (x) f (x) d x 。$
期望只依赖分布；同分布的随机变量，一切期望都相同。

自测

1. $P (X = - 2) = 0.2 ，$ $P (X = 1) = 0.5 ，$ $P (X = 3) = 0.3 。$ 用 LOTUS 求 $E [X^{2}]$ 和 $E ∣ X - 1∣ 。$

点开看答案

$E [X^{2}] = 4 \times 0.2 + 1 \times 0.5 + 9 \times 0.3 = 0.8 + 0.5 + 2.7 = 4 。$ $E ∣ X - 1∣ = 3 \times 0.2 + 0 \times 0.5 + 2 \times 0.3 = 0.6 + 0 + 0.6 = 1.2 。$

2. 设 $X = d Y$ 且 $E X^{2} = 5 。$ $E Y^{2}$ 是多少？为什么？

点开看答案

$E Y^{2} = 5 。$ 由 LOTUS， $E X^{2} = \int x^{2} d L (X) ，$ $E Y^{2} = \int x^{2} d L (Y) ，$ 两个分布相同，所以积分相同。

3. 在定理 5 的证明第 1 步里， $1_{B} (X) = 1_{X^{- 1} (B)}$ 这个等式说的是什么？

点开看答案

说的是：「 $X (ω)$ 在 $B$ 里」与「 $ω$ 在 $X^{- 1} (B)$ 里」是同一件事。左边是先用 $X$ 把 $ω$ 送到 $S ，$ 再用 $1_{B}$ 检查；右边是直接在 $Ω$ 上检查 $ω$ 是否属于原像。两种检查对每个 $ω$ 给出相同的 0 或 1。

本页术语中英对照（按出现顺序）

中文	English	白话解释
分布	law / distribution	X 把概率「推」到取值空间上得到的测度：L(X)(B) = P(X ∈ B)。
期望	expectation	随机变量对概率测度的积分 E[X] = ∫ X dP，也就是「加权平均」。
随机变量	random variable	从样本空间到实数的（可测）函数，把结局翻译成数字；随机性来自「实现了哪个 ω」。
无意识统计学家定律	law of the unconscious statistician (LOTUS)	求 g(X) 的期望，不必先求出 g(X) 的分布，直接把 g 对 X 的分布 𝓛(X) 积分；X 有密度 f 时就是 E g(X) = ∫ g(x) f(x) dx。
累积分布函数	cumulative distribution function (CDF)	F(x) = P(X ≤ x)，单调不减、右连续，完全决定分布。
测度空间	measure space	三元组 (S, 𝓜, μ)：空间、σ-代数、测度。
可测函数	measurable function	对每个 a，集合 {f > a} 都可测；这样的函数才能积分。
测度	measure	给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」，空集为 0，并且可数可加。
简单函数	simple function	只取有限个值的可测函数，是若干示性函数的线性组合，图像像台阶。
上确界	supremum (sup)	最小的上界。最大值不一定存在，但有上界的实数集一定有上确界。
函数	function / map	f: A → B 给 A 中每个元素指定 B 中唯一一个元素。
逐点收敛	pointwise convergence	对定义域里的每一个点 x，数列 fₙ(x) 都收敛到 f(x)；这样得到的函数 f 叫逐点极限。
当且仅当	if and only if (iff)	「A 当且仅当 B」：A 成立就一定有 B，B 成立也一定有 A，两者同真同假，记作 A ⟺ B。
可积	integrable (L¹)	∫\|f\| dμ < ∞。全体可积函数记作 L¹(μ)。
单调收敛定理	monotone convergence theorem (MCT)	非负可测函数单调递增地收敛时，积分也收敛：∫fₙ ↑ ∫f。
示性函数	indicator function	𝟏_A(x) 在 x ∈ A 时取 1，否则取 0；它的积分就是 A 的测度。
正部	positive / negative part	f⁺ = max(f, 0)，f⁻ = max(−f, 0)，f = f⁺ − f⁻，\|f\| = f⁺ + f⁻。
博雷尔 σ-代数	Borel sigma-algebra	由实数轴上所有开区间生成的 σ-代数 𝓑(ℝ)，包含所有常见的集合。
不可数	uncountable	无论怎么排都排不成一列，例如区间 [0,1] 里的全体实数。
点质量	point mass (Dirac measure)	把全部质量 1 放在一个点上：δ₀(E) = 1 当且仅当 0 ∈ E。
勒贝格测度	Lebesgue measure	实数轴上「长度」的严格版本，定义在勒贝格可测集上，m([a,b]) = b − a。
Jensen 不等式	Jensen's inequality	φ 凸时 φ(E X) ≤ E φ(X)，例如 (E X)² ≤ E X²。
凸函数	convex function	图像上任意两点连线都在图像上方的函数，例如 x²、eˣ。
联合分布	joint law (joint distribution)	随机向量 (X, Y) 在平面上的分布：对每个平面博雷尔集 B 给出 P((X, Y) ∈ B)。只知道边缘分布不能确定它。
原像	preimage	f⁻¹(B) 是「所有被 f 送进 B 的输入」组成的集合，可测性就是用原像定义的。