15 由均匀分布生成指数分布 · 第2讲

这一页在讲什么

人话版一句话版

指数分布 $exp (λ)$ 的 CDF 是 $F (x) = 1 - e^{- λ x}$ （ $x \geq 0 ），$ 它的分位数函数是

Q (u) = - \frac{ln ( 1 - u )}{λ}, u \in (0, 1) .

所以 $X = - ln (1 - U) / λ$ 就服从 $exp (λ) 。$ 它的均值可以从 CDF 算（ $\int_{0}^{\infty} e^{- λ x} d x ），$ 也可以从分位数算（ $\int_{0}^{1} Q (u) d u ），$ 都得到 $E X = \frac{1}{λ} 。$

位置：第 2 部分「分位数三页」的第 2 页。上一页第 14 页证明了一般的逆变换法；本页把它用在最常见的连续分布上，课件小标题 Inverse transform and expectation（逆变换与期望）说明本页要做两件事：造出指数变量，算出它的期望。
与前后页的关系：第 12 页的定理 11 给出「用尾部面积算均值」，本页是它的第一个连续型应用；下一页第 16 页换成 Pareto 分布，那里的分位数在 $u \to 1$ 时爆炸得更快，矩就不一定有限了。

先补基础

基础补课指数函数与自然对数

$e \approx 2.718$ 是自然常数。 $e^{x}$ （也写 $exp (x) ）$ 对所有实数 $x$ 有定义，取值恒为正，并且严格递增。 $e^{0} = 1 ，$ $x \to + \infty$ 时 $e^{- x} \to 0 。$
自然对数 $ln$ 是 $e^{x}$ 的反函数： $ln y$ 是「 $e$ 的多少次方等于 $y 」，$ 只对 $y > 0$ 有定义。 $ln 1 = 0 ，$ $ln e = 1 ；$ $0 < y < 1$ 时 $ln y < 0 。$
因为两者都严格递增，两边同取 $ln$ 或同取 $e^{(\cdot)} ，$ 不等号方向不变： $e^{a} \leq b ⟺ a \leq ln b$ （ $b > 0 ）。$
求导： $(e^{- λ x})^{'} = - λ e^{- λ x} ；$ $(ln y)^{'} = \frac{1}{y} 。$
有的书把 $ln$ 写成 $lo g ，$ 在概率论里两者通常指同一个自然对数。

基础补课指数分布 exp(λ)

$X \sim exp (λ)$ （ $λ > 0 ）$ 的意思是： $X \geq 0 ，$ 并且 $P (X > t) = e^{- λ t}$ 对所有 $t \geq 0$ 成立。等价地，CDF 是 $F (x) = 1 - e^{- λ x}$ （ $x \geq 0 ），$ $F (x) = 0$ （ $x < 0 ）。$
它常用来描述「等待时间」：例如顾客到达的间隔、零件的寿命。 $λ$ 叫速率（rate）：单位时间内事件发生的平均次数。 $λ$ 越大，等待越短。
它有密度 $f (x) = λ e^{- λ x}$ （ $x > 0 ），$ 因为 $F^{'} (x) = λ e^{- λ x} 。$ 不过本页的计算不需要密度。

基础补课回顾：逆变换法（第 14 页）

对满足三条性质的 $F ，$ $Q_{F} (u) = in f {x : F (x) \geq u} ；$ 关键等价 $Q_{F} (u) \leq x ⟺ u \leq F (x) ；$ 若 $U \sim Unif (0, 1) ，$ 则 $Q_{F} (U)$ 的 CDF 是 $F 。$ 另外，期望存在时 $E X = \int_{0}^{1} Q_{X} (u) d u 。$

课件原文逐句精读

课件原文A uniform variable generates an exponential law

Example 14 (Inverse transform and expectation) For $λ > 0$ , consider $X \sim exp (λ)$ ,

中文翻译

蓝条标题：一个均匀随机变量生成了指数分布。

例 14（逆变换与期望） 对 $λ > 0 ，$ 考虑 $X \sim exp (λ) ，\dots\dots$ （后面的计算课件留白，见下一节。）

① A uniform variable generates an exponential law｜标题

generates（生成）：手上只有一个 $(0, 1)$ 上的均匀随机数 $U ，$ 经过一个确定的函数变换，就得到一个服从指数分布的随机变量。电脑里的随机数生成器只能直接产生均匀数，指数分布的随机数就是这样「变」出来的。

② For λ > 0, consider X ∼ exp(λ)｜设定

$λ > 0$ 必须是正数： $λ \leq 0$ 时 $e^{- λ x}$ 不会趋于 0， $1 - e^{- λ x}$ 的极限不是 1，不是 CDF。
「consider $X \sim exp (λ) 」$ 后面留白，要补的是： $X$ 的 CDF、分位数函数、怎样由 $U$ 生成，以及 $E X 。$

补全课件留白

补充说明

课件此处留白（课堂板书），以下内容由本站根据标准教材补写，记号与本课件保持一致；如与老师课堂写法不同，以老师为准。

例 14（逆变换与期望）：完整结论

设 $λ > 0 ，$ $X \sim exp (λ) 。$

CDF： $F (x) = 1 - e^{- λ x}$ （ $x \geq 0 ），$ $F (x) = 0$ （ $x < 0 ）。$
分位数： $Q_{X} (u) = - \frac{ln ( 1 - u )}{λ} ，$ $u \in (0, 1) 。$
逆变换：若 $U \sim Unif (0, 1) ，$ 则 $- \frac{ln ( 1 - U )}{λ} \sim exp (λ) ；$ 因为 $1 - U$ 与 $U$ 同分布， $- \frac{ln U}{λ} \sim exp (λ)$ 也成立。
期望： $E X = \frac{1}{λ} 。$ 用尾部面积（定理 11）和分位数积分两种方法都能得到。

推导计算思路

分位数：按定义解不等式 $F (x) \geq u ，$ 求出集合 ${x : F (x) \geq u}$ 的左端点。逆变换：直接套第 14 页的定理，并顺手直接验证一遍尾概率。期望：方法一对尾函数 $e^{- λ x}$ 积分；方法二对分位数函数积分，被积函数在 $u \to 1$ 时无界，先截断再用单调收敛定理。

第 1 步： $F$ 是 CDF。 $x < 0$ 时为 0； $x \geq 0$ 时 $e^{- λ x}$ 递减，所以 $1 - e^{- λ x}$ 递增，并且在 $x = 0$ 处等于 $1 - 1 = 0 ，$ 与左边接得上，处处连续（从而右连续）； $x \to \infty$ 时 $e^{- λ x} \to 0 ，$ $F \to 1 。$

第 2 步：求分位数。 固定 $u \in (0, 1) 。$

$x < 0$ 时 $F (x) = 0 < u ，$ 不满足 $F (x) \geq u 。$
$x \geq 0$ 时， $1 - e^{- λ x} \geq u ⟺ e^{- λ x} \leq 1 - u ⟺ - λ x \leq ln (1 - u) ⟺ x \geq - \frac{ln ( 1 - u )}{λ} .$ 第二个等价号： $1 - u > 0 ，$ 两边同取 $ln ，$ 不等号方向不变。第三个等价号：两边同除以 $- λ < 0 ，$ 不等号反向。

因为 $0 < 1 - u < 1 ，$ $ln (1 - u) < 0 ，$ 所以 $- ln (1 - u) / λ > 0 ，$ 满足条件的 $x$ 自动是正数。于是

{x : F (x) \geq u} = [- \frac{ln ( 1 - u )}{λ}, \infty), Q_{X} (u) = - \frac{ln ( 1 - u )}{λ} .

这里 $F$ 在 $[0, \infty)$ 上连续严格递增，所以 $Q_{X}$ 就是普通反函数：直接解 $1 - e^{- λ x} = u$ 也得到同一个答案。

第 3 步：逆变换，再直接验证一次。 由第 14 页的定理， $Y := - ln (1 - U) / λ$ 的 CDF 就是 $F 。$ 也可以不引用定理，直接算尾概率：对 $t \geq 0 ，$

P (Y > t) = P (- ln (1 - U) > λ t) = P (ln (1 - U) < - λ t) = P (1 - U < e^{- λ t}) = P (U > 1 - e^{- λ t}) = e^{- λ t} .

最后一步： $1 - e^{- λ t} \in [0, 1) ，$ $P (U > s) = 1 - s 。$ $t < 0$ 时 $Y > 0 > t$ 总成立。尾概率与 $exp (λ)$ 一致。

第 4 步：方法一——尾部面积。 $X \geq 0 ，$ 由第 12 页定理 11 第 3 条，

E X = \int_{0}^{\infty} P (X > x) d x = \int_{0}^{\infty} e^{- λ x} d x .

在 $[0, n]$ 上原函数是 $- \frac{1}{λ} e^{- λ x} ，$ 积分 $= \frac{1}{λ} (1 - e^{- λn}) ；$ 令 $n \to \infty$ （单调收敛定理，MCT）得 $\frac{1}{λ} 。$

第 5 步：方法二——分位数积分。 在标准舞台 $((0, 1), B, Leb)$ 上， $Q_{X} (U)$ 与 $X$ 同分布，期望相同：

E X = \int_{0}^{1} Q_{X} (u) d u = \frac{1}{λ} \int_{0}^{1} (- ln (1 - u)) d u .

被积函数非负，但在 $u \to 1$ 时趋于 $+ \infty ，$ 先截到 $[0, 1 - \frac{1}{n}] ，$ 那里它连续有界，可以用微积分：

原函数：令 $G (u) = (1 - u) ln (1 - u) + u 。$ 由乘积法则和链式法则， $((1 - u) ln (1 - u))^{'} = - ln (1 - u) + (1 - u) \cdot \frac{- 1}{1 - u} = - ln (1 - u) - 1 ，$ 所以 $G^{'} (u) = - ln (1 - u) 。$
截断积分： $\int_{0}^{1 - 1/ n} (- ln (1 - u)) d u = G (1 - \frac{1}{n}) - G (0) = \frac{1}{n} ln \frac{1}{n} + 1 - \frac{1}{n} = 1 - \frac{1 + ln n}{n} .$
取极限： $\frac{l n n}{n} \to 0$ （对数增长比线性慢），所以积分 $\to 1 。$ 被积函数乘 $1_{[0, 1 - 1/ n]}$ 后随 $n$ 递增，由 MCT 这个极限就是 $\int_{0}^{1} (- ln (1 - u)) d u = 1 。$

于是 $E X = \frac{1}{λ} \cdot 1 = \frac{1}{λ} ，$ 与方法一一致。

第三种方法：用密度

$F$ 在 $(0, \infty)$ 上可导， $F^{'} = λ e^{- λ x} ，$ 它是 $X$ 的密度（第 17 页会说明什么时候可以这样做）。由第 7 页推论， $E X = \int_{0}^{\infty} x λ e^{- λ x} d x ；$ 在 $[0, n]$ 上分部积分， $\int_{0}^{n} x λ e^{- λ x} d x = - n e^{- λn} + \frac{1}{λ} (1 - e^{- λn}) \to \frac{1}{λ}$ （第 10 页例 3 已经算过同一个式子）。三种方法，同一个答案——这也再次说明「期望只依赖分布」。

图解

图解：两条曲线互为「转置」

课件这里没有图，可以画两张图对照（取 $λ = 1 ）：$

左图：CDF $F (x) = 1 - e^{- x} 。$ 横轴 $x \geq 0 ，$ 纵轴 $[0, 1] 。$ 曲线从原点出发，开始很陡（斜率 1），越往右越平，无限贴近高度 1 但永远碰不到。
右图：分位数 $Q (u) = - ln (1 - u) 。$ 横轴 $u \in (0, 1) ，$ 纵轴 $x \geq 0 。$ 曲线从 $(0, 0)$ 出发，开始平缓，靠近 $u = 1$ 时急剧上升，冲向无穷。
关系：把左图沿对角线 $y = x$ 翻折（交换横纵轴），就得到右图。这就是「反函数」的几何意义。
读几个点： $u = 0.5$ 时 $Q = ln 2 \approx 0.693$ （中位数）； $u = 0.9$ 时 $Q = ln 10 \approx 2.303 ；$ $u = 0.99$ 时 $Q = ln 100 \approx 4.605 。$ $u$ 每向 1 靠近「一个数量级」， $Q$ 只增加 $ln 10 \approx 2.3$ ——这种对数速度的增长很慢，所以 $\int_{0}^{1} Q (u) d u$ 有限。下一页的 Pareto 分位数按幂函数速度增长，情况就不同了。
右图下方的面积是 $E X = 1 ；$ 左图中 $F$ 上方、高度 1 以下的面积也是 $E X = 1 。$ 这两块其实是同一块区域，只是换了看的方向。

动手试一试逆变换：指数分布

选「指数分布 exp(1)」。把 $u$ 从 0.5 拖到 0.9、0.99，落点 $Q (u) = - ln (1 - u)$ 依次约为 0.69、2.30、4.61： $u$ 越靠近 1，落点越远，但增长得很慢。

例子

例 1：模拟三个等待时间

某服务台平均每分钟来 $λ = 2$ 位顾客，相邻两位顾客的到达间隔服从 $exp (2)$ （单位：分钟）。电脑产生了三个均匀随机数 $u = 0.3, 0.75, 0.95 ，$ 对应的等待时间是

- \frac{ln 0.7}{2} \approx 0.178, - \frac{ln 0.25}{2} \approx 0.693, - \frac{ln 0.05}{2} \approx 1.498.

平均间隔是 $E X = \frac{1}{2}$ 分钟，中位数是 $Q (\frac{1}{2}) = \frac{l n 2}{2} \approx 0.347$ 分钟。中位数比均值小：大部分间隔很短，少数很长的间隔把均值拉高了。

例 2：同一招生成均匀分布 Unif(a, b)

$Unif (a, b)$ 的 CDF 在 $[a, b]$ 上是 $F (x) = \frac{x - a}{b - a} ，$ 连续严格递增。解 $\frac{x - a}{b - a} = u$ 得 $Q (u) = a + (b - a) u 。$ 所以 $a + (b - a) U \sim Unif (a, b) 。$ 期望： $\int_{0}^{1} (a + (b - a) u) d u = a + \frac{b - a}{2} = \frac{a + b}{2} ，$ 正是区间中点。

例 3：把指数变量向上取整，得到几何分布

令 $N = ⌈ X ⌉$ （向上取整：不小于 $X$ 的最小整数，例如 $⌈ 0.3 ⌉ = 1 ，$ $⌈ 2 ⌉ = 2 ），$ $X \sim exp (λ) 。$ 对 $k = 1, 2, \dots ，$

P (N = k) = P (k - 1 < X \leq k) = F (k) - F (k - 1) = e^{- λ (k - 1)} - e^{- λk} = q^{k - 1} (1 - q), q := e^{- λ} .

这是「成功概率为 $1 - q$ 的几何分布」：第 $k$ 次才第一次成功。 $X = 0$ 的概率为 0，不影响结论。所以 $⌈ - ln (1 - U) / λ ⌉$ 就能模拟几何分布——逆变换生成连续分布，再取整就得到离散分布。

例 4：无记忆性——从尾概率直接读出来

指数分布最著名的性质是「无记忆」：已经等了 $s$ 分钟，再多等 $t$ 分钟以上的概率，与从头开始等 $t$ 分钟以上的概率相同。用尾概率验证：对 $s, t \geq 0 ，$ 事件 ${X > s + t} \subseteq {X > s} ，$ 所以

P (X > s + t ∣ X > s) = \frac{P ( X > s + t )}{P ( X > s )} = \frac{e ^{- λ (s + t)}}{e ^{- λ s}} = e^{- λ t} = P (X > t) .

用逆变换的语言看： $X = - ln (1 - U) / λ$ 超过 $s$ 等价于 $1 - U < e^{- λ s} ；$ 在这个条件下， $\frac{1 - U}{e ^{- λ s}}$ 仍在 $(0, 1)$ 上均匀，于是 $X - s = - ln \frac{1 - U}{e ^{- λ s}} / λ$ 又是一个 $exp (λ)$ 变量。对比例 2 的均匀分布 $Unif (0, 10) ：$ $P (X > 8 ∣ X > 5) = \frac{2/10}{5/10} = 0.4 ，$ 而 $P (X > 3) = 0.7 ，$ 不是无记忆的。

常见疑问与易错点

易错点问：有的书说 exp(2) 的均值是 2，到底是哪个？

答：这是参数化的不同。本课件的 $exp (λ)$ 用速率 $λ ：$ 尾概率 $e^{- λ t} ，$ 均值 $\frac{1}{λ} ，$ 所以 $exp (2)$ 的均值是 $\frac{1}{2} 。$ 有些教材和软件用尺度（scale） $θ = \frac{1}{λ} ：$ 尾概率 $e^{- t / θ} ，$ 均值 $θ 。$ 读题、调用软件时先看清它用哪一种。判断方法很简单：看它的 CDF 写成 $1 - e^{- λ x}$ 还是 $1 - e^{- x / θ} 。$

易错点问：既然 𝔼U = 1/2，是不是 𝔼X = Q(1/2) = ln 2 / λ？

答：不是。期望不能「穿过」非线性函数： $E [Q (U)] \neq = Q (E U) 。$ $Q (\frac{1}{2}) = \frac{l n 2}{λ} \approx \frac{0.693}{λ}$ 是中位数，而均值是 $\frac{1}{λ} 。$ 差别来自 $Q$ 在 $u \to 1$ 时急剧上升（ $Q$ 是凸函数），大的 $u$ 把平均值拉高。第 24 页的 Jensen 不等式会把这件事说清楚： $Q$ 凸时 $E Q (U) \geq Q (E U) 。$

易错点问：用 −ln U 还是 −ln(1 − U)？

答：两者服从同一个分布（ $U$ 与 $1 - U$ 同分布，第 8 页例 4），模拟时用哪个都行， $- ln U$ 还少算一次减法。区别在于逐点取值： $- ln (1 - u)$ 关于 $u$ 递增，恰好是分位数函数 $Q_{X} (u) ；$ $- ln u$ 关于 $u$ 递减，是 $Q_{X} (1 - u) 。$ 需要「单调地」把 $u$ 对应到 $x$ 时（例如第 16 页用分位数判断矩），要用递增的那个。

易错点问：分位数积分 ∫₀¹ Q(u)du 的被积函数无界，为什么可以积分？

答：勒贝格积分允许非负函数无界，积分可能有限也可能是 $+ \infty ，$ 算法是「截断 + 单调收敛定理」（第 5 步）。这里截断积分 $1 - \frac{1 + l n n}{n}$ 有极限 1，所以积分有限。被积函数无界不等于积分无穷：在 $u \to 1$ 附近 $- ln (1 - u)$ 虽然趋于无穷，但「冲高」的那一段非常窄。

小结与自测

小结本页小结

$exp (λ) ：$ $F (x) = 1 - e^{- λ x}$ （ $x \geq 0 ），$ $Q (u) = - ln (1 - u) / λ ，$ 由解不等式 $1 - e^{- λ x} \geq u$ 得到。
逆变换： $- ln (1 - U) / λ \sim exp (λ) ，$ 等价地 $- ln U / λ \sim exp (λ) ；$ 直接验证 $P (Y > t) = e^{- λ t} 。$
期望 $\frac{1}{λ} ：$ 尾部面积 $\int_{0}^{\infty} e^{- λ x} d x ，$ 或分位数积分 $\frac{1}{λ} \int_{0}^{1} (- ln (1 - u)) d u$ （截断 + MCT），两法一致。
分位数按对数速度增长，所以积分有限；中位数 $\frac{l n 2}{λ}$ 小于均值 $\frac{1}{λ} 。$

自测

1. $λ = 3 。$ 求 $exp (3)$ 的 $0.9$ -分位数，并解释它的含义。

点开看答案

$Q (0.9) = - \frac{l n 0.1}{3} = \frac{l n 10}{3} \approx 0.768 。$ 含义： $P (X \leq 0.768) = 0.9 ，$ 有 90% 的把握等待时间不超过约 0.768 个单位。验证： $1 - e^{- 3 \times 0.768} = 1 - e^{- 2.303} \approx 1 - 0.1 = 0.9 。$

2. 用逆变换法写出一个服从 CDF $F (x) = 1 - \frac{1}{x ^{2}}$ （ $x \geq 1 ；$ $x < 1$ 时为 0）的随机变量。

点开看答案

在 $[1, \infty)$ 上 $F$ 连续严格递增，解 $1 - x^{- 2} = u$ 得 $x = (1 - u)^{- 1/2} 。$ 所以 $X = (1 - U)^{- 1/2} 。$ 这就是下一页第 16 页中 $α = 2$ 的 Pareto 变量。

3. 用定理 11 计算 $E min (X, 1) ，$ 其中 $X \sim exp (1) 。$

点开看答案

$min (X, 1) \geq 0 ，$ 并且 $P (min (X, 1) > t)$ 在 $0 \leq t < 1$ 时等于 $P (X > t) = e^{- t} ，$ 在 $t \geq 1$ 时为 0。所以 $E min (X, 1) = \int_{0}^{1} e^{- t} d t = 1 - e^{- 1} \approx 0.632 。$ 这也是第 11 页推论 10 取 $a = 0 、$ $b = 1$ 的结果。

本页术语中英对照（按出现顺序）

中文	English	白话解释
指数分布	exponential distribution	P(X > x) = e^(−λx)（x ≥ 0）的分布，均值 1/λ，常用来描述等待时间。
累积分布函数	cumulative distribution function (CDF)	F(x) = P(X ≤ x)，单调不减、右连续，完全决定分布。
分位数	quantile	Q(u) = inf{x : F(x) ≥ u}，是 CDF 的「广义反函数」。
函数	function / map	f: A → B 给 A 中每个元素指定 B 中唯一一个元素。
逆变换法	inverse transform method	U 服从 (0,1) 上的均匀分布时，Q(U) 的分布函数恰好是 F，用来生成任意分布。
分布	law / distribution	X 把概率「推」到取值空间上得到的测度：L(X)(B) = P(X ∈ B)。
期望	expectation	随机变量对概率测度的积分 E[X] = ∫ X dP，也就是「加权平均」。
反函数	inverse function	f 把不同的输入送到不同的输出时，反函数 f⁻¹ 把输出送回原来的输入：f⁻¹(f(x)) = x。例：ln 是 eˣ 的反函数。注意：集合的原像 f⁻¹(D) 不需要反函数存在。
事件	event	样本空间的（允许谈概率的）子集；实现的 ω 落在里面，就说事件发生。
随机变量	random variable	从样本空间到实数的（可测）函数，把结局翻译成数字；随机性来自「实现了哪个 ω」。
集合	set	把一些对象放在一起当成一个整体，例如 {1,2,3}。
尾概率	tail probability	随机变量取到「很大的值」的概率，例如 P(X > t) 或 P(\|X\| ≥ t)。它随 t 增大而下降得越慢，分布的尾巴就越「厚」。
单调收敛定理	monotone convergence theorem (MCT)	非负可测函数单调递增地收敛时，积分也收敛：∫fₙ ↑ ∫f。
分部积分	integration by parts	∫ₐᵇ u v′ dx = [u v]ₐᵇ − ∫ₐᵇ u′ v dx：把求导从一个函数挪到另一个函数上。由乘积求导法则 (uv)′ = u′v + uv′ 两边积分得到。
区间	interval	数轴上的一段，[a,b] 包含端点，(a,b) 不包含端点。
凸函数	convex function	图像上任意两点连线都在图像上方的函数，例如 x²、eˣ。
Jensen 不等式	Jensen's inequality	φ 凸时 φ(E X) ≤ E φ(X)，例如 (E X)² ≤ E X²。
勒贝格积分	Lebesgue integral	按函数值分块的积分：先定义简单函数的积分，再用下方的简单函数逼近取上确界。