08 CDF 记录了整个分布 · 第2讲 · 高等概率论逐页精讲

这一页在讲什么

人话版一句话版

实值随机变量的分布 $L (X)$ 要给每一个博雷尔集一个概率，信息量看起来无穷大。可是只要知道一个普通函数 $F_{X} (x) = P (X \leq x) ，$ 整个分布就被唯一确定了。这个函数叫累积分布函数（CDF）。

位置：第 2 部分「用 CDF 计算期望」的第一页。第 1 部分讲清了「期望只依赖分布」（第 7 页），本部分要回答：分布这么抽象，实际中怎么记录、怎么计算？ 答案是 CDF。
本页内容：CDF 的定义；它的三条基本性质（单调不减、右连续、两端极限 0 和 1）；怎么用它算各种区间的概率；以及标题所说的「CDF 记录了整个分布」。
后面怎么用：第 9 页用 CDF 的增量逼近积分，第 10–12 页推出「用 CDF 直接算期望」的公式，第 14 页反过来用 CDF 造出随机变量。

先补基础

基础补课单调不减

函数 $F$ 单调不减（nondecreasing），是说 $x \leq y$ 时总有 $F (x) \leq F (y) 。$ 允许「持平」，只是不许往下走。例： $F (x) = ⌊ x ⌋$ （向下取整）单调不减，在每个整数处往上跳 1，其余地方持平。

基础补课左极限、右极限与右连续

右极限 $F (x +) = lim_{y ↓ x} F (y) ：$ $y$ 从 $x$ 的右边（比 $x$ 大的一侧）无限靠近 $x$ 时 $F (y)$ 趋近的值。左极限 $F (x -) = lim_{y ↑ x} F (y) ：$ 从左边靠近。
对单调不减的函数，左右极限总是存在：从右边靠近时 $F (y)$ 一路往下走并且不低于 $F (x) ，$ 所以有极限 $F (x +) = in f_{y > x} F (y) ；$ 从左边靠近时 $F (y)$ 一路往上走并且不超过 $F (x) ，$ 所以也有极限 $F (x -) = sup_{y < x} F (y) 。$ 并且 $F (x -) \leq F (x) \leq F (x +) 。$
右连续（right-continuous）： $F (x +) = F (x) ，$ 即从右边靠近时，函数值「接得上」。
例： $⌊ x ⌋$ 在 $x = 1$ 处， $F (1 -) = 0 ，$ $F (1) = 1 ，$ $F (1 +) = 1 。$ 它右连续但不左连续，跳跃大小 $F (1) - F (1 -) = 1 。$
极限的「数列版本」：对单调函数， $lim_{y ↓ x} F (y)$ 等于沿任何一列 $y_{n} ↓ x$ （例如 $y_{n} = x + \frac{1}{n} ）$ 求出的极限。所以下面的证明只需处理数列。

基础补课从上连续与从下连续（回顾）

从下连续（第 13 页）：事件递增 $A_{1} \subseteq A_{2} \subseteq \dots ，$ $A = ⋃_{n} A_{n} ，$ 则 $P (A_{n}) ↑ P (A) 。$
从上连续（第 14 页）：事件递减 $A_{1} \supseteq A_{2} \supseteq \dots ，$ $A = ⋂_{n} A_{n} ，$ 且 $P (A_{1}) < \infty$ （概率总满足），则 $P (A_{n}) ↓ P (A) 。$

CDF 的每条性质都来自这两条。

基础补课一个要当作已知结论使用的工具：π 系唯一性定理

一族集合 $C$ 叫 π 系（π-system），如果它对有限交封闭： $A, B \in C \Rightarrow A \cap B \in C 。$
π 系唯一性定理：设 $μ, ν$ 是可测空间 $(S, M)$ 上的两个概率测度， $C \subseteq M$ 是一个 π 系，并且 $C$ 生成 $M$ （ $σ (C) = M ）。$ 若 $μ$ 和 $ν$ 在 $C$ 上相等，则它们在整个 $M$ 上相等。
含义：要判断两个概率测度是否相同，不必检查所有集合，只需检查一族「对交集封闭的生成元」。
这个定理的证明要用 Dynkin 的 π-λ 定理，第 1 讲没有讲，这里把它当作已知结论使用。

课件原文逐句精读

课件原文A CDF records the entire law

Definition 6 (Cumulative distribution function)

中文翻译

蓝条标题：CDF 记录了整个分布。

定义 6（累积分布函数）（课件正文留白，见下一节。）

Cumulative（累积的）： $F (x)$ 是把 $x$ 左边（含 $x ）$ 所有的概率「累加」起来。
records the entire law（记录了整个分布）：这是本页要证明的主要结论——CDF 不丢失分布的任何信息。

补全课件留白

补充说明

课件此处留白（课堂板书），以下内容由本站根据标准教材补写，记号与本课件保持一致；如与老师课堂写法不同，以老师为准。

定义 6（累积分布函数）

实值随机变量 $X$ 的累积分布函数（cumulative distribution function，CDF）是

F_{X} (x) := P (X \leq x) = L (X) ((- \infty, x]), x \in R .

不引起混淆时简写为 $F 。$

${X \leq x}$ 是事件（第 4 页），所以 $F_{X} (x)$ 对每个实数 $x$ 都有定义。第二个等号是分布的定义（第 6 页）：CDF 就是分布在半直线 $(- \infty, x]$ 上的值。

命题 A（CDF 的三条基本性质）

任何 CDF $F = F_{X}$ 满足：

单调不减： $x \leq y \Rightarrow F (x) \leq F (y) ；$
右连续：对每个 $x ，$ $lim_{y ↓ x} F (y) = F (x) ；$
两端极限： $lim_{x \to - \infty} F (x) = 0 ，$ $lim_{x \to + \infty} F (x) = 1 。$

推导证明

单调不减：若 $x \leq y ，$ 则 $X (ω) \leq x$ 推出 $X (ω) \leq y ，$ 即 ${X \leq x} \subseteq {X \leq y} 。$ 概率的单调性给出 $F (x) \leq F (y) 。$
右连续：取 $y_{n} = x + \frac{1}{n} ↓ x 。$ 事件 $A_{n} = {X \leq x + \frac{1}{n}}$ 递减，并且 $n \geq 1 ⋂ {X \leq x + \frac{1}{n}} = {X \leq x},$ 因为「对每个 $n$ 都有 $X (ω) \leq x + \frac{1}{n} 」$ 恰好等价于「 $X (ω) \leq x 」$ （若 $X (ω) > x ，$ 取 $\frac{1}{n} < X (ω) - x$ 就不满足）。由从上连续， $F (x + \frac{1}{n}) = P (A_{n}) ↓ P (X \leq x) = F (x) 。$ $F$ 单调，所以沿这一列的极限就是右极限。
两端极限： ${X \leq - n}$ 递减，交集是 $\emptyset$ （ $X (ω)$ 是实数，总有某个 $n$ 使 $X (ω) > - n ），$ 由从上连续 $F (- n) \to P (\emptyset) = 0 。$ ${X \leq n}$ 递增，并集是 $Ω$ （总有某个 $n \geq X (ω) ），$ 由从下连续 $F (n) \to P (Ω) = 1 。$ 再由单调性， $x$ 连续地趋于 $\pm \infty$ 时极限也是这两个值。

为什么是右连续而不是左连续：左边靠近时， ${X \leq x - \frac{1}{n}}$ 递增到 ${X < x}$ （严格小于），它可能比 ${X \leq x}$ 少了一块 ${X = x} 。$ 这块缺口的概率就是跳跃的大小。

命题 B（用 CDF 算区间概率）

对 $a < b$ 和任意实数 $x ：$

P (X > x) P (X < x) P (a \leq X \leq b) = 1 - F (x), = F (x -), = F (b) - F (a -), P (a < X \leq b) P (X = x) P (a < X < b) = F (b) - F (a), = F (x) - F (x -), = F (b -) - F (a) .

特别地， $F$ 在 $x$ 处连续当且仅当 $P (X = x) = 0$ ； $F$ 的跳跃大小恰好是该点的概率质量。

推导证明

${X > x}$ 是 ${X \leq x}$ 的补集。
${X \leq b} = {X \leq a} \cup {a < X \leq b} ，$ 两部分不交，所以 $F (b) = F (a) + P (a < X \leq b) 。$
${X \leq x - \frac{1}{n}}$ 递增，并集是 ${X < x} ，$ 由从下连续 $P (X < x) = lim_{n} F (x - \frac{1}{n}) = F (x -) 。$
${X \leq x} = {X < x} \cup {X = x}$ 不交，所以 $P (X = x) = F (x) - F (x -) 。$
其余两个公式同理： ${a \leq X \leq b} = {X \leq b} ∖ {X < a} ，$ ${a < X < b} = {X < b} ∖ {X \leq a} ，$ 前者包含后者，概率相减。

定理 C（CDF 决定分布）

若实值随机变量 $X, Y$ 满足 $F_{X} (x) = F_{Y} (x)$ 对所有 $x \in R$ 成立，则 $L (X) = L (Y) ，$ 即 $P (X \in B) = P (Y \in B)$ 对所有博雷尔集 $B$ 成立。

推导证明

取 $C = {(- \infty, x] : x \in R} 。$

$C$ 是 π 系： $(- \infty, x] \cap (- \infty, y] = (- \infty, min (x, y)] \in C 。$
$C$ 生成 $B (R)$ ：第 4 页已证明半直线生成博雷尔 σ-代数。
两个分布在 $C$ 上相等： $L (X) ((- \infty, x]) = F_{X} (x) = F_{Y} (x) = L (Y) ((- \infty, x]) 。$

$L (X) 、$ $L (Y)$ 都是概率测度（第 6 页），由 π 系唯一性定理，它们在 $B (R)$ 上处处相等。证毕。

反过来，任何满足命题 A 三条性质的函数 $F ，$ 都是某个随机变量的 CDF。第 14 页的逆变换法会构造出这样的随机变量。所以：

{R 上的概率测度} ⟷ {单调不减、右连续、两端极限为 0 和 1 的函数}

是一一对应。这就是标题 A CDF records the entire law 的完整含义。

为什么 π 系这个条件不能丢

取 $S = {1, 2, 3, 4} ，$ $C = {{1, 2}, {2, 3}} 。$ 它生成全部子集（ ${2} = {1, 2} \cap {2, 3} ，$ ${1} = {1, 2} ∖ {2} ，$ ${3} = {2, 3} ∖ {2} ，$ ${4}$ 是 ${1, 2, 3}$ 的补集），但它不是 π 系（交集 ${2}$ 不在 $C$ 里）。令 $μ$ 为均匀分布（每点 $\frac{1}{4} ），$ $ν = \frac{1}{2} δ_{1} + \frac{1}{2} δ_{3} 。$ 则 $μ ({1, 2}) = ν ({1, 2}) = \frac{1}{2} ，$ $μ ({2, 3}) = ν ({2, 3}) = \frac{1}{2} ，$ 在 $C$ 上相等；但 $μ ({2}) = \frac{1}{4} \neq = 0 = ν ({2}) 。$ 所以只在生成元上相等是不够的，生成元还必须对交集封闭。半直线恰好满足这一点。

图解

图解：怎样从 CDF 的图像读出概率

课件这里没有图。以掷骰子为例，在纸上画 $F_{X} ：$

$x < 1$ 时 $F = 0 ；$ $1 \leq x < 2$ 时 $F = \frac{1}{6} ；$ $2 \leq x < 3$ 时 $F = \frac{2}{6} ；\dots\dots；$ $x \geq 6$ 时 $F = 1 。$ 图像是 6 级台阶。
每级台阶的左端点画实心点（函数在该点取上面的值），右端点画空心点：这就是「右连续」。
读图规则：跳跃的高度 = 该点的概率（每级跳 $\frac{1}{6} ）；$ 平台 = 那段区间里没有概率（例如 $(1, 2)$ 上 $F$ 不变， $P (1 < X < 2) = 0 ）；$ 斜坡 = 概率连续地摊在那段区间上（例如均匀分布的 $F (x) = x ）。$

一般的 CDF 就是「平台 + 跳跃 + 上坡」的组合，第 13 页会看到一个三者都有的例子。

例子

例 1：伯努利分布——有跳跃的 CDF

$P (X = 1) = p ，$ $P (X = 0) = 1 - p 。$ 则

F (x) = ⎩ ⎨ ⎧ 0, 1 - p, 1, x < 0, 0 \leq x < 1, x \geq 1.

检验命题 B： $P (X = 0) = F (0) - F (0 -) = (1 - p) - 0 ；$ $P (X = 1) = F (1) - F (1 -) = 1 - (1 - p) = p ；$ $P (0 < X < 1) = F (1 -) - F (0) = (1 - p) - (1 - p) = 0 。$ 都和直觉一致。

例 2：均匀分布和指数分布——连续的 CDF

$U \sim Unif (0, 1) ：$ $F (x) = 0$ （ $x < 0 ），$ $= x$ （ $0 \leq x < 1 ），$ $= 1$ （ $x \geq 1 ）。$ $F$ 处处连续，所以 $P (U = x) = 0$ 对每个 $x$ 成立； $P (0.2 < U \leq 0.5) = 0.5 - 0.2 = 0.3 。$
$X \sim exp (λ)$ （指数分布， $λ > 0 ）：$ $F (x) = 1 - e^{- λ x}$ （ $x \geq 0 ），$ $= 0$ （ $x < 0 ）。$ 例如 $λ = 1$ 时 $P (X > 2) = 1 - F (2) = e^{- 2} \approx 0.135 。$
柯西分布： $F (x) = \frac{1}{2} + \frac{1}{π} arctan x 。$ 它是单调、连续、两端极限为 0 和 1 的函数，所以是一个合法的 CDF——虽然第 5 页说过它的期望不存在。

例 3（反例）：不右连续的函数不是 CDF

$G (x) = 0$ （ $x \leq 0 ），$ $G (x) = 1$ （ $x > 0 ）。$ 它单调不减、两端极限为 0 和 1，但 $G (0) = 0 \neq = 1 = G (0 +) ，$ 不右连续，所以不是任何随机变量的 CDF。如果硬要找「对应的」随机变量，只能是常数 $X = 0 ，$ 可它的 CDF 在 0 处等于 $P (X \leq 0) = 1 ，$ 不是 0。其实 $G (x) = P (X < x) ，$ 是用「严格小于」定义的，这正说明两种约定不能混用。

例 4：用定理 C 证明「U 与 1 − U 同分布」

第 6 页例 2 只在区间上验证了 $U$ 与 $V = 1 - U$ 的分布相同。有了定理 C，比较 CDF 就够了：对 $0 \leq x < 1 ，$

F_{V} (x) = P (1 - U \leq x) = P (U \geq 1 - x) = 1 - P (U < 1 - x) = 1 - (1 - x) = x = F_{U} (x),

其中 $P (U < 1 - x) = F_{U} ((1 - x) -) = 1 - x$ （ $F_{U}$ 连续）。 $x < 0$ 时两者都是 0， $x \geq 1$ 时都是 1。CDF 处处相等，所以 $L (V) = L (U) ，$ 在所有博雷尔集上都相等。

例 5：非区间事件也能从 CDF 算出来

掷骰子， $P (X \in Z)$ （点数是整数）： ${X \in Z}$ 是可数个不交事件 ${X = k}$ 的并，概率 $= \sum_{k} [F (k) - F (k -)] = 6 \times \frac{1}{6} = 1 。$
指数分布， $P (X \in Z) ：$ $F$ 连续，每个 $P (X = k) = F (k) - F (k -) = 0 ，$ 由可数可加性 $P (X \in Z) = 0 。$ 有理数也只有可数个，每一点的概率都是 0，同样由可数可加性得 $P (X \in Q) = 0 。$

这说明：分布在复杂集合上的值，确实可以由 $F$ 这一个函数推出来。

常见疑问与易错点

易错点问：为什么定义里用 ≤ 而不是 <？

答：这是约定。用「 $\leq 」$ 得到的 $F$ 右连续，现在的标准教材都这样定义。有些老教材用 $P (X < x) ，$ 得到的函数左连续。两种约定都记录了同样的信息，但公式里的 $F (x) 、$ $F (x -)$ 要相应互换。本课程用「 $\leq 」。$

易错点问：F 连续，是不是 X 就有密度？

答：不是。 $F$ 连续只说明没有跳跃，即每个单点的概率都是 0。第 19 页的康托尔分布，CDF 处处连续，却没有密度。「有密度」需要更强的「绝对连续」（第 17 页）。

易错点问：F_X = F_Y 能推出 X = Y 吗？

答：不能。定理 C 只说两者同分布。第 6 页例 2 的 $X$ 和 $1 - X$ （公平硬币）CDF 完全相同，却处处不相等。CDF 记录的是分布，不是随机变量本身。

易错点问：P(X = x) = 0 对每个 x 成立，是不是说 X 取不到任何值？

答：不是。 $X$ 每次总会取到某个值，但单独某一个点的概率是 0。可数可加性只对可数个集合成立，而实数有不可数多个，所以「每点概率为 0」和「总概率为 1」并不矛盾。

小结与自测

小结本页小结

CDF： $F_{X} (x) = P (X \leq x) = L (X) ((- \infty, x]) 。$
三条性质：单调不减、右连续、 $F (- \infty) = 0 、$ $F (+ \infty) = 1 ；$ 证明分别用单调性、从上连续、从上 / 从下连续。
读概率： $P (a < X \leq b) = F (b) - F (a) ，$ $P (X = x) = F (x) - F (x -)$ （跳跃高度）。
CDF 决定分布：半直线是生成 $B (R)$ 的 π 系，再用 π 系唯一性定理。

自测

1. 设 $F (x) = 0$ （ $x < 0 ），$ $= \frac{1}{4}$ （ $0 \leq x < 2 ），$ $= \frac{1}{4} + \frac{x}{8}$ （ $2 \leq x < 6 ），$ $= 1$ （ $x \geq 6 ）。$ 求 $P (X = 0) 、$ $P (X = 2) 、$ $P (X = 6) 、$ $P (1 < X \leq 4) 。$

点开看答案

$P (X = 0) = F (0) - F (0 -) = \frac{1}{4} 。$ $P (X = 2) = F (2) - F (2 -) = (\frac{1}{4} + \frac{2}{8}) - \frac{1}{4} = \frac{1}{4} 。$ $P (X = 6) = F (6) - F (6 -) = 1 - (\frac{1}{4} + \frac{6}{8}) = 1 - 1 = 0 。$ $P (1 < X \leq 4) = F (4) - F (1) = (\frac{1}{4} + \frac{4}{8}) - \frac{1}{4} = \frac{1}{2} 。$

2. 判断： $F (x) = \frac{1}{2} + \frac{1}{2} \cdot \frac{x}{1 + ∣ x ∣}$ 是 CDF 吗？

点开看答案

是。 $\frac{x}{1 + ∣ x ∣}$ 在 $R$ 上连续、单调递增， $x \to - \infty$ 时趋于 $- 1 ，$ $x \to + \infty$ 时趋于 $1 。$ 所以 $F$ 连续（从而右连续）、单调不减，两端极限分别是 $\frac{1}{2} - \frac{1}{2} = 0$ 和 $\frac{1}{2} + \frac{1}{2} = 1 。$

3. 为什么证明右连续时要用「从上连续」，而证明 $F (+ \infty) = 1$ 时要用「从下连续」？

点开看答案

右连续： ${X \leq x + \frac{1}{n}}$ 随 $n$ 增大而缩小，交集是 ${X \leq x} ，$ 是递减事件列，所以用从上连续。 $F (+ \infty) = 1 ：$ ${X \leq n}$ 随 $n$ 增大而扩大，并集是 $Ω ，$ 是递增事件列，所以用从下连续。

本页术语中英对照（按出现顺序）

中文	English	白话解释
随机变量	random variable	从样本空间到实数的（可测）函数，把结局翻译成数字；随机性来自「实现了哪个 ω」。
分布	law / distribution	X 把概率「推」到取值空间上得到的测度：L(X)(B) = P(X ∈ B)。
博雷尔 σ-代数	Borel sigma-algebra	由实数轴上所有开区间生成的 σ-代数 𝓑(ℝ)，包含所有常见的集合。
函数	function / map	f: A → B 给 A 中每个元素指定 B 中唯一一个元素。
累积分布函数	cumulative distribution function (CDF)	F(x) = P(X ≤ x)，单调不减、右连续，完全决定分布。
期望	expectation	随机变量对概率测度的积分 E[X] = ∫ X dP，也就是「加权平均」。
单调递增	nondecreasing	后一项不小于前一项；单调有界的数列一定有极限。
区间	interval	数轴上的一段，[a,b] 包含端点，(a,b) 不包含端点。
右极限	right limit	自变量从右边（比 x 大的一侧）靠近 x 时，函数值趋向的数，记作 f(x+)。分布函数总是右连续的：F(x+) = F(x)。
左极限	left limit	自变量从左边（比 x 小的一侧）靠近 x 时，函数值趋向的数，记作 f(x−)。分布函数在 x 处的跳跃 F(x) − F(x−) 就是 P(X = x)。
从下连续	continuity from below	集合一层层变大（Eₙ ↑ E）时，测度也跟着收敛：μ(Eₙ) → μ(E)。
事件	event	样本空间的（允许谈概率的）子集；实现的 ω 落在里面，就说事件发生。
从上连续	continuity from above	集合一层层变小（Eₙ ↓ E）且 μ(E₁) < ∞ 时，μ(Eₙ) → μ(E)。
集合	set	把一些对象放在一起当成一个整体，例如 {1,2,3}。
可测空间	measurable space	一个集合加上它上面的一个 σ-代数，例如 (Ω, 𝓕)；还没有给出测度。
概率测度	probability measure	总质量 P(Ω) = 1 的测度。
交集	intersection	同时属于两个集合的元素全体，A ∩ B 对应「A 且 B」。
测度	measure	给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」，空集为 0，并且可数可加。
π-λ 定理	Dynkin's π-λ theorem	π-系（对有限交封闭）包含于 λ-系时，它生成的 σ-代数也包含于该 λ-系。常用来证明「两个测度在生成元上相等就处处相等」。
并集	union	至少属于其中一个集合的元素全体，A ∪ B 对应「A 或 B」。
当且仅当	if and only if (iff)	「A 当且仅当 B」：A 成立就一定有 B，B 成立也一定有 A，两者同真同假，记作 A ⟺ B。
补集	complement	样本空间里不属于 A 的元素全体，记作 Aᶜ，对应「A 不发生」。
σ-代数	sigma-algebra	允许谈概率的「事件清单」：含 Ω，对补集和可数并封闭。
逆变换法	inverse transform method	U 服从 (0,1) 上的均匀分布时，Q(U) 的分布函数恰好是 F，用来生成任意分布。
子集	subset	A 的每个元素都在 B 里，就说 A 是 B 的子集，记作 A ⊆ B。
指数分布	exponential distribution	P(X > x) = e^(−λx)（x ≥ 0）的分布，均值 1/λ，常用来描述等待时间。
可数	countable	元素能排成第 1 个、第 2 个、第 3 个……的一列（有限也算），例如自然数、有理数。
可数可加性	countable additivity	两两不交的可数个集合，并集的测度等于各自测度之和。
有理数	rational number	能写成分数 p/q 的数，全体有理数记作 ℚ；它们可数，却在数轴上处处稠密。
绝对连续	absolute continuity	函数版：小区间总长很小时增量总和也很小；测度版：Q ≪ P，P 为零的事件 Q 也为零。
不可数	uncountable	无论怎么排都排不成一列，例如区间 [0,1] 里的全体实数。