11 一阶矩有限时 Xₙ/n → 0 几乎必然：同分布的观测只能次线性增长 · 第3讲

这一页在讲什么

人话版一句话版

如果 $X_{1}, X_{2}, \dots$ 同分布，并且 $E ∣ X_{1} ∣ < \infty ，$ 那么几乎必然 $X_{n} / n \to 0 ：$ 不管斜率 $ε > 0$ 多小，第 $n$ 个观测值最终都不超过 $ε n 。$ 不需要独立性，证明就是把上一页的推论 7 用在 $X_{n} / n$ 上。

这是第 2 部分「随机变量的收敛」的第三页，也是第 10 页推论 7 的第一个应用。

推论 7 说：对每个容忍度 $ε ，$ 偏差概率加起来有限，就几乎必然收敛。
本页的偏差概率是 $P (∣ X_{n} / n ∣ > ε) = P (∣ X_{1} ∣ > ε n) ，$ 也就是 $X_{1}$ 的尾概率在 $ε, 2 ε, 3 ε, \dots$ 这些点上的取值。它们加起来有没有限？下一页（第 12 页）的「尾级数比较」回答：不超过 $E ∣ X_{1} ∣/ ε 。$
再下一页（第 13 页）讲反方向：独立同分布而 $E ∣ X_{1} ∣ = \infty$ 时， $∣ X_{n} ∣/ n$ 的上极限是 $\infty 。$ 两页合起来，对独立同分布的序列有： $X_{n} / n \to 0$ 几乎必然，当且仅当 $E ∣ X_{1} ∣ < \infty 。$

课件的顺序是先写推论 8、下一页再给出所用的工具。为了让这一页能单独读懂，下面「先补基础」里先给出这个工具的一个简短证明（只用单调收敛定理）。

先补基础

基础补课同分布（identically distributed）

两个随机变量 $X 、$ $Y$ 同分布，是说对每个博雷尔集 $B \subseteq R$ 都有 $P (X \in B) = P (Y \in B) ，$ 也就是分布相同（第 6 页）；等价地说，CDF 相同（第 8 页）。
一列 $X_{1}, X_{2}, \dots$ 同分布：每个 $X_{n}$ 都和 $X_{1}$ 同分布。特别地，对每个 $t ，$ $P (∣ X_{n} ∣ > t) = P (∣ X_{1} ∣ > t)$ （取 $B = {x : ∣ x ∣ > t} ，$ 它是开集，所以是博雷尔集）。
例（同分布且独立）：掷两颗骰子， $X_{1} 、$ $X_{2}$ 分别是两颗的点数。
例（同分布但完全不独立）：掷一颗骰子， $X (ω) = ω ，$ $Y (ω) = 7 - ω 。$ $Y$ 也以概率 $\frac{1}{6}$ 取 $1, \dots, 6$ 中的每个值，所以和 $X$ 同分布；但知道 $X$ 就知道 $Y 。$
同分布只说「每一个单独看长得一样」，不说它们之间有什么关系。 用得上的只有每个 $X_{n}$ 自己的概率。

基础补课一阶矩有限：E|X₁| < ∞

$E ∣ X_{1} ∣$ 是 $∣ X_{1} ∣$ 的期望，叫一阶（绝对）矩。它有限，就是说 $X_{1}$ 可积（ $L^{1} ，$ 第 43 页）。
用尾概率来看：对非负随机变量，期望等于尾函数下方的面积， $E ∣ X_{1} ∣ = \int_{0}^{\infty} P (∣ X_{1} ∣ > t) d t$ （第 12 页定理 11 的非负情形；也是第 21 页推论 21 取 $p = 1 ）。$ 所以一阶矩有限 ⟺ 尾巴下方的面积有限。
例：骰子 $E X = 3.5 ；$ 指数分布 $Exp (1)$ 的尾巴是 $P (X > t) = e^{- t} ，$ $E X = \int_{0}^{\infty} e^{- t} d t = 1 。$
反例： $U$ 是 $(0, 1)$ 上的均匀随机变量， $X = 1/ U 。$ 由 LOTUS（第 7 页）， $E X = \int_{0}^{1} \frac{1}{u} d u = \infty 。$ 它的尾巴是 $P (X > t) = P (U < \frac{1}{t}) = \frac{1}{t}$ （ $t \geq 1 ），$ 下降得太慢。

基础补课次线性（sublinear）：aₙ/n → 0

实数列满足 $a_{n} / n \to 0 ，$ 按极限的定义（第 9 页基础补课）就是：对每个 $ε > 0 ，$ 从某一项起 $∣ a_{n} ∣ \leq ε n 。$
几何意思：把点 $(n, ∣ a_{n} ∣)$ 画在平面上。任取一条过原点的直线 $y = ε x ，$ 不管它多平，这些点最终都落在直线下方（或直线上）。
叫「次线性」，是因为它比任何线性函数 $ε n$ 都长得慢。常写作 $a_{n} = o (n) 。$
例： $a_{n} = n ，$ $\frac{n}{n} = \frac{1}{n} \to 0 ；$ $a_{n} = ln n ；$ 任何有界数列。
反例： $a_{n} = \frac{n}{2} ，$ $a_{n} / n = \frac{1}{2} 。$ 取 $ε = 0.1 ，$ 直线 $0.1 n$ 永远在 $a_{n}$ 下方。
注意：次线性不等于收敛。 $a_{n} = n \to \infty ，$ 但它是次线性的。

基础补课两个工具：推论 7 与一个计数不等式

推论 7（第 10 页）：若对每个 $ε > 0 ，$ $\sum_{n} P (∣ Z_{n} - Z ∣ > ε) < \infty ，$ 则 $Z_{n} \to Z$ 几乎必然；不需要独立。本页取 $Z_{n} = X_{n} / n ，$ $Z = 0 。$

计数不等式：对任意非负随机变量 $Y ，$

n = 1 \sum \infty P (Y > n) \leq E Y .

这是第 12 页尾级数比较（取 $h = 1 ）$ 的一半。只用 MCT 的证明：

固定 $ω 。$ $\sum_{n \geq 1} 1_{{Y > n}} (ω)$ 数的是「小于 $Y (ω)$ 的正整数有几个」。例如 $Y (ω) = 3.7$ 时，这些正整数是 $1, 2, 3 ，$ 共 3 个； $Y (ω) = 0.5$ 时一个也没有。
一般地，小于 $y$ 的正整数是 $1, 2, \dots, k ，$ 其中最大的那个 $k$ 满足 $k < y ，$ 所以个数 $k \leq y$ （一个也没有时个数是 $0 \leq y ）。$ 于是处处有 $\sum_{n \geq 1} 1_{{Y > n}} \leq Y 。$
两边取期望。左边每一项非负，无穷和可以和期望交换（MCT，第 36 页；做法同第 4 页证明二第 2 步），而 $E 1_{{Y > n}} = P (Y > n) 。$ 所以 $\sum_{n} P (Y > n) \leq E Y 。$

课件原文逐句精读

课件原文Finite first moment:

X_{n} / n \to 0

almost surely

Corollary 8 (Sublinear observations)

Proof

中文翻译

蓝条标题：一阶矩有限： $X_{n} / n \to 0$ 几乎必然。

推论 8（次线性观测）

证明

Finite first moment（蓝条标题前半）：「一阶矩有限」，即 $E ∣ X_{1} ∣ < \infty 。$ 这是推论的条件。
$X_{n} / n \to 0$ almost surely（蓝条标题后半）：随机变量 $X_{n} / n$ 几乎必然收敛到常数 0（定义 6，第 9 页）。这是推论的结论。标题已经把整个推论说完了，只差「同分布」这个设定。
Corollary 8：推论 8，编号接着第 10 页的推论 7。叫「推论」，是因为它由推论 7 直接推出。
Sublinear observations：observation 是「观测值」，把 $X_{n}$ 想成第 $n$ 次观测到的数据；sublinear 是「次线性的」。合起来：观测值的大小最终被任意平缓的直线 $ε n$ 压住。
Proof：证明。定理和证明的正文都留白，下面补全。
设定沿用第 9 页的「Throughout this section」：所有 $X_{n}$ 都是同一个概率空间 $(Ω, F, P)$ 上的实值随机变量。

补全课件留白

补充说明

课件此处留白（课堂板书），以下内容由本站根据标准教材补写，记号与本课件保持一致；如与老师课堂写法不同，以老师为准。

Corollary 8 (Sublinear observations)｜推论 8（次线性观测）

推论 8（次线性观测）

设 $X_{1}, X_{2}, \dots$ 是 $(Ω, F, P)$ 上同分布的实值随机变量，且 $E ∣ X_{1} ∣ < \infty 。$ 则

\frac{X _{n}}{n} \to 0 几乎必然 .

这里不要求 $X_{n}$ 相互独立。等价地说（第 9 页命题 B）：对每个 $ε > 0 ，$ $P (∣ X_{n} ∣ > ε n i.o.) = 0 ，$ 即几乎必然地，从某个时刻起一直有 $∣ X_{n} ∣ \leq ε n$ （这个时刻可以随 $ω$ 而变）。

逐个看条件：

同分布：保证所有 $X_{n}$ 的尾概率都是同一条曲线 $t \mapsto P (∣ X_{1} ∣ > t) 。$ 这是一种「统一的尾部控制」：没有哪个 $X_{n}$ 的尾巴比 $X_{1}$ 更重。去掉它会怎样，见例 3。
$E ∣ X_{1} ∣ < \infty$ ：尾巴下方的面积有限。它保证偏差概率之和有限（证明第 3 步）。
不要求独立：证明里只用到每个 $X_{n}$ 自己的分布，从来不看两个 $X_{n}$ 之间的关系。原因是推论 7 背后的第一 Borel–Cantelli 引理（第 4 页）本身就不需要独立。
结论：除去一个概率为 0 的集合，每个 $ω$ 上的数列 $X_{n} (ω) / n$ 都趋于 0。

人话版直觉：直线越往右越高，越过它越来越难

在一个固定的世界 $ω$ 里，把点 $(n, ∣ X_{n} (ω) ∣)$ 画出来，再画一条过原点的直线 $y = ε x 。$

第 $n$ 个点越过直线的概率是 $P (∣ X_{1} ∣ > ε n) 。$ 直线越往右越高，越过它需要越来越大的值，这个概率越来越小。
一阶矩有限，说明大值出现的概率衰减得足够快：平均越线次数 $\sum_{n} P (∣ X_{1} ∣ > ε n)$ 不超过 $E ∣ X_{1} ∣/ ε ，$ 是有限数。
平均次数有限，实际越线次数就几乎必然有限（第 4 页证明二）。最后一次越线之后，点就一直待在直线下方。直线可以任意平，这就是 $X_{n} / n \to 0 。$

Proof｜证明

推导证明思路

固定斜率 $ε ，$ 误差事件是 ${∣ X_{n} ∣ > ε n} ；$ 同分布把它的概率换成 $X_{1}$ 的尾概率 $P (∣ X_{1} ∣/ ε > n) ；$ 尾级数比较（第 12 页）说这些尾概率之和不超过 $E ∣ X_{1} ∣/ ε < \infty ；$ 最后用推论 7。

写出误差事件。令 $Z_{n} = X_{n} / n$ （随机变量乘以常数 $\frac{1}{n}$ 仍是随机变量），目标 $Z = 0 。$ 固定 $ε > 0 。$ 因为 $n > 0 ，$

∣ Z_{n} - 0∣ > ε ⟺ \frac{∣ X _{n} ∣}{n} > ε ⟺ ∣ X_{n} ∣ > ε n,

所以误差事件是 ${∣ X_{n} ∣ > ε n} 。$ 2. 用同分布换成 $X_{1}$ 。令 $B_{n} = {x \in R : ∣ x ∣ > ε n} ，$ 它是开集，因而是博雷尔集，并且 ${∣ X_{n} ∣ > ε n} = {X_{n} \in B_{n}} 。$ 由同分布，

P (∣ X_{n} ∣ > ε n) = P (X_{n} \in B_{n}) = P (X_{1} \in B_{n}) = P (∣ X_{1} ∣ > ε n) = P (\frac{∣ X _{1} ∣}{ε} > n) .

最后一步是把不等式两边同除以正数 $ε ，$ 事件不变。3. 尾级数比较。令 $Y = ∣ X_{1} ∣/ ε ，$ 它是非负随机变量，且 $E Y = E ∣ X_{1} ∣/ ε < \infty$ （常数倍可以提到期望外面）。由第 12 页的尾级数比较（取 $h = 1 ；$ 也就是上面基础补课里的计数不等式），

n = 1 \sum \infty P (∣ X_{n} ∣ > ε n) = n = 1 \sum \infty P (Y > n) \leq E Y = \frac{E ∣ X _{1} ∣}{ε} < \infty.

用推论 7。第 3 步对每个 $ε > 0$ 都成立，这正是推论 7（第 10 页）对 $Z_{n} = X_{n} / n 、$ $Z = 0$ 的条件。所以 $X_{n} / n \to 0$ 几乎必然。证毕。

另一种写法：第 3 步也可以直接对 $Y = ∣ X_{1} ∣$ 用宽度 $h = ε$ 的尾级数比较： $\sum_{n \geq 1} ε P (∣ X_{1} ∣ > n ε) \leq E ∣ X_{1} ∣ ，$ 两边除以 $ε$ 就是同一个不等式。这正是下一页要用「宽度为 $h$ 的小区间」的原因之一： $h$ 可以直接取成斜率 $ε 。$

补充独立性在证明的哪一步？

哪一步都没有。第 2 步只用到每个 $X_{n}$ 各自的分布；第 4 步的推论 7 来自第一 Borel–Cantelli 引理，对任意一列事件都成立。所以 $X_{n}$ 之间怎样相关都可以。

例子

例 1：独立同分布的指数分布——把界算成数字

设 $X_{1}, X_{2}, \dots$ 独立同分布，都服从 $Exp (1) ：$ $P (X_{n} > t) = e^{- t}$ （ $t \geq 0 ），$ $E X_{1} = 1 。$ 取 $ε = 0.1 。$ （前三条只用到同分布，最后一条才用到独立。）

偏差概率： $P (X_{n} > 0.1 n) = e^{- 0.1 n} 。$
求和：这是公比 $r = e^{- 0.1}$ 的等比级数， $\sum_{n \geq 1} r^{n} = \frac{r}{1 - r} ，$ 所以

n = 1 \sum \infty e^{- 0.1 n} = \frac{e ^{- 0.1}}{1 - e ^{- 0.1}} = \frac{1}{e ^{0.1} - 1} \approx 9.51,

确实不超过证明第 3 步的界 $E X_{1} / ε = 10 。$ 意思是：整条观测序列里，平均只有大约 9.5 个 $X_{n}$ 越过直线 $0.1 n 。$

从第 $m$ 步起还会越线的概率：由可数次可加性（第 4 页），

P (存在 n \geq m 使 X_{n} > 0.1 n) \leq n \geq m \sum e^{- 0.1 n} = \frac{e ^{- 0.1 m}}{1 - e ^{- 0.1}} .

$m = 50$ 时约为 $0.071 ，$ $m = 100$ 时约为 $0.00048 ：$ 以超过 $99.9%$ 的概率，从第 100 次观测起，每个 $X_{n}$ 都不超过 $0.1 n 。$

$X_{n}$ 本身并不收敛：事件 ${X_{n} > 1}$ 相互独立（第 6 页补充定义），概率都是 $e^{- 1} \approx 0.37 ，$ 概率之和为无穷，由第二 Borel–Cantelli 引理（第 7 页）， $X_{n} > 1$ 发生无穷多次。再把这个引理用在事件 ${X_{n} < \frac{1}{2}}$ 上：它们也相互独立，概率都是 $1 - e^{- 1/2} \approx 0.39 ，$ 和也是无穷，所以 $X_{n} < \frac{1}{2}$ 也发生无穷多次。于是 $X_{n}$ 在 $1$ 以上和 $\frac{1}{2}$ 以下来回跳，不收敛。收敛到 0 的是 $X_{n} / n ，$ 不是 $X_{n} 。$

例 2：不独立也可以——滑动最大值

设 $E_{1}, E_{2}, \dots$ 独立同分布，都服从 $Exp (1) 。$ 令 $X_{n} = max (E_{n}, E_{n + 1})$ （相邻两个取较大的）。

同分布：由独立性， $P (X_{n} \leq t) = P (E_{n} \leq t) P (E_{n + 1} \leq t) = (1 - e^{- t})^{2}$ （ $t \geq 0 ），$ 与 $n$ 无关。
不独立： $X_{1}$ 和 $X_{2}$ 共用 $E_{2} 。$ $E_{2}$ 很大时两个都很大： $P (X_{1} > 5, X_{2} > 5) \geq P (E_{2} > 5) = e^{- 5} \approx 0.0067 ，$ 而 $P (X_{1} > 5) P (X_{2} > 5) = (2 e^{- 5} - e^{- 10})^{2} \approx 0.00018 ，$ 两者不相等。
一阶矩： $P (X_{1} > t) = 1 - (1 - e^{- t})^{2} = 2 e^{- t} - e^{- 2 t} ，$ 所以

E X_{1} = \int_{0}^{\infty} (2 e^{- t} - e^{- 2 t}) d t = 2 - \frac{1}{2} = \frac{3}{2} < \infty.

结论：由推论 8， $X_{n} / n \to 0$ 几乎必然，完全不必理会 $X_{n}$ 之间的相关性。

例 3（反例）：只要求每个都可积，不够

令 $X_{n} = n$ （常数随机变量）。每个 $E ∣ X_{n} ∣ = n$ 都有限，但 $X_{n} / n = 1 \neq \to 0 。$

问题出在不同分布： $X_{n}$ 的分布整个往右搬，尾巴一个比一个重。套用证明第 2 步： $P (∣ X_{n} ∣ > ε n) = P (n > ε n) = 1$ （ $ε < 1 ），$ 和为 $\infty 。$
带随机性的版本： $X_{n} = n E_{n}$ （ $E_{n}$ 独立同分布，服从 $Exp (1) ），$ 每个 $E X_{n} = n$ 有限，但 $X_{n} / n = E_{n}$ 不收敛（例 1 的最后一条）。

教训：推论 8 用「同分布」提供了一条所有 $X_{n}$ 共用的尾巴，光是「每个都可积」给不出这个。

例 4（对照）：一阶矩无穷时，不独立的序列仍可能满足结论

设 $U$ 是 $(0, 1)$ 上的均匀随机变量，令每个 $X_{n} = 1/ U$ （同一个随机变量写无穷多次）。

每个 $X_{n}$ 都是同一个随机变量 $1/ U ，$ 所以同分布；由基础补课， $E X_{1} = \infty ，$ 推论 8 的条件不满足。
但对每个 $ω ，$ $U (ω) > 0$ 是一个固定的正数，所以 $\frac{X _{n} ( ω )}{n} = \frac{1}{n U ( ω )} \to 0 。$ 结论处处成立。
和第 5 页对照： ${X_{n} > n} = {U < \frac{1}{n}} ，$ 与那里一个套一个的事件 $A_{n} = {U \leq \frac{1}{n}}$ 只差一个概率为 0 的点。概率之和 $\sum_{n} \frac{1}{n} = \infty ，$ 可每个 $ω$ 上只发生有限次。

所以在不独立时， $E ∣ X_{1} ∣ < \infty$ 只是充分条件，不是必要条件。如果换成独立的 $U_{1}, U_{2}, \dots ，$ 令 $X_{n} = 1/ U_{n} ，$ 情况就完全不同：第 13 页会证明 $lim sup_{n} X_{n} / n = \infty$ 几乎必然。

推导：一步一步来

推广 1： $p$ 阶矩与 $X_{n} / n^{1/ p} 。$ 设 $X_{n}$ 同分布， $p > 0 ，$ $E ∣ X_{1} ∣^{p} < \infty ，$ 则 $X_{n} / n^{1/ p} \to 0$ 几乎必然。

固定 $ε > 0 。$ 幂函数 $x \mapsto x^{p}$ 在 $[0, \infty)$ 上严格递增，所以 $∣ X_{n} ∣ > ε n^{1/ p} ⟺ ∣ X_{n} ∣^{p} > ε^{p} n 。$
由同分布， $P (∣ X_{n} ∣ > ε n^{1/ p}) = P (∣ X_{1} ∣^{p} > ε^{p} n) = P (Y > n) ，$ 其中 $Y = ∣ X_{1} ∣^{p} / ε^{p} \geq 0 。$
由计数不等式， $\sum_{n} P (Y > n) \leq E Y = E ∣ X_{1} ∣^{p} / ε^{p} < \infty 。$
由推论 7， $X_{n} / n^{1/ p} \to 0$ 几乎必然。

$p = 1$ 就是推论 8。 $p = 2 ：$ 同分布且 $E X_{1}^{2} < \infty$ 时， $X_{n} / n \to 0$ 几乎必然。矩的阶数越高，能保证的增长速度越慢。

推广 2：前 $n$ 个观测的最大值也是次线性的。 在推论 8 的条件下，令 $M_{n} = max_{1 \leq k \leq n} ∣ X_{k} ∣ ，$ 则 $M_{n} / n \to 0$ 几乎必然。

取一个使 $X_{n} (ω) / n \to 0$ 的 $ω$ （这样的 $ω$ 合起来概率为 1），记 $a_{k} = ∣ X_{k} (ω) ∣ 。$
任给 $ε > 0 ，$ 存在 $m ，$ 使所有 $k \geq m$ 都有 $a_{k} \leq ε k 。$
对 $n \geq m ，$ 前 $n$ 项分成两段： $k < m$ 的那几项，最大值是一个固定的数 $c = max_{k < m} a_{k}$ （ $m = 1$ 时这一段没有项，取 $c = 0 ）；$ $m \leq k \leq n$ 的项满足 $a_{k} \leq ε k \leq ε n 。$ 所以 $M_{n} (ω) \leq c + ε n 。$
两边除以 $n ：$ $\frac{M _{n} ( ω )}{n} \leq \frac{c}{n} + ε 。$ $n \to \infty$ 时 $\frac{c}{n} \to 0 ，$ 所以 $lim sup_{n} \frac{M _{n} ( ω )}{n} \leq ε 。$
$ε$ 任意，而 $M_{n} \geq 0 ，$ 所以 $M_{n} (ω) / n \to 0 。$

人话：前 $n$ 个观测里最大的那一个，和 $n$ 相比也可以忽略。 学大数定律时会用到这个事实。

推广 3：不必同分布，只要有一条共同的可积尾巴

若存在非负随机变量 $Y ，$ $E Y < \infty ，$ 并且对所有 $n$ 和所有 $t \geq 0$ 都有 $P (∣ X_{n} ∣ > t) \leq P (Y > t) ，$ 则 $X_{n} / n \to 0$ 几乎必然。证明与推论 8 完全相同，只是第 2 步的等号换成不等号： $P (∣ X_{n} ∣ > ε n) \leq P (Y / ε > n) ，$ 再用计数不等式和推论 7。同分布是它的特殊情形（取 $Y = ∣ X_{1} ∣ ）。$ 例 3 的 $X_{n} = n$ 找不到这样的 $Y ：$ 它需要 $P (Y > t) = 1$ 对所有 $t$ 成立，这不可能。

常见疑问与易错点

易错点问：推论 8 为什么不需要独立？

答：证明只用到每一步的偏差概率 $P (∣ X_{n} ∣ > ε n) ，$ 而这个数只取决于 $X_{n}$ 自己的分布。把这些概率加起来、用第一 Borel–Cantelli 引理，都不需要知道 $X_{n}$ 之间的关系。例 2 的滑动最大值就是一个不独立、但结论照样成立的例子。

易错点问：每个 Xₙ 都可积，够不够？

答：不够。例 3 的 $X_{n} = n$ 每个都可积，但 $X_{n} / n = 1 。$ 推论 8 真正需要的是一条共同的、面积有限的尾巴，同分布正好提供了这一点（推广 3 给出更一般的形式）。

易错点问：Xₙ/n → 0，是不是说 Xₙ 越来越小？

答：不是。 $X_{n}$ 本身可以一直在较大的值之间跳来跳去，甚至可以趋于无穷（比如 $n$ 那样慢慢变大），只要它比任何直线 $ε n$ 长得慢就行。例 1 中独立的指数变量 $X_{n}$ 根本不收敛，但 $X_{n} / n \to 0 。$

易错点问：一阶矩无穷时，结论一定不成立吗？

答：要看是否独立。不独立时可能照样成立：例 4 中每个 $X_{n}$ 都是同一个 $1/ U ，$ $E X_{1} = \infty ，$ 但 $X_{n} / n \to 0$ 处处成立。独立同分布时一定不成立：第 13 页的定理 9 说那时 $lim sup_{n} ∣ X_{n} ∣/ n = \infty$ 几乎必然。

易错点问：证明里 ∑ P(Y > n) ≤ E Y 这一步凭什么？

答：凭一个逐点的计数： $\sum_{n \geq 1} 1_{{Y > n}} (ω)$ 是小于 $Y (ω)$ 的正整数个数，不超过 $Y (ω) ；$ 再对两边取期望（MCT 允许把无穷和与期望交换）。第 12 页会用「阶梯面积与曲线下面积」的比较给出更完整的结论：不仅有这个上界，还有 $E Y \leq 1 + \sum_{n \geq 1} P (Y > n)$ 这个反向的界。

小结与自测

小结本页小结

推论 8： $X_{n}$ 同分布且 $E ∣ X_{1} ∣ < \infty$ ⇒ $X_{n} / n \to 0$ 几乎必然；不需要独立。
证明四步：误差事件 ${∣ X_{n} ∣ > ε n}$ → 同分布换成 $P (∣ X_{1} ∣/ ε > n)$ → 尾级数比较 $\sum_{n} P (∣ X_{1} ∣/ ε > n) \leq E ∣ X_{1} ∣/ ε < \infty$ → 推论 7。
关键不等式 $\sum_{n \geq 1} P (Y > n) \leq E Y$ （ $Y \geq 0 ）：$ 逐点计数再取期望，完整版本在第 12 页。
「同分布」不能换成「每个可积」（例 3）；不独立时一阶矩有限不是必要条件（例 4），独立同分布时是必要的（第 13 页）。
推广： $E ∣ X_{1} ∣^{p} < \infty$ ⇒ $X_{n} / n^{1/ p} \to 0 ；$ 前 $n$ 项的最大值 $M_{n}$ 也满足 $M_{n} / n \to 0 。$

自测

1. 设 $X_{n}$ 同分布， $P (∣ X_{1} ∣ > t) = \frac{1}{( 1 + t ) ^{2}}$ （ $t \geq 0 ），$ $X_{n}$ 之间的关系未知。能否断定 $X_{n} / n \to 0$ 几乎必然？

点开看答案

能。由尾积分公式， $E ∣ X_{1} ∣ = \int_{0}^{\infty} \frac{1}{( 1 + t ) ^{2}} d t = [- \frac{1}{1 + t}]_{0}^{\infty} = 1 < \infty 。$ 推论 8 只要求同分布和一阶矩有限，不需要独立，所以结论成立。

2. 已知 $X_{n}$ 同分布， $E ∣ X_{1} ∣ = 3 。$ 给出 $\sum_{n} P (∣ X_{n} ∣ > 0.5 n)$ 的一个上界，并说明它的含义。

点开看答案

由证明第 3 步， $\sum_{n} P (∣ X_{n} ∣ > 0.5 n) \leq E ∣ X_{1} ∣/0.5 = 6 。$ 含义：整条序列里，越过直线 $0.5 n$ 的观测平均不超过 6 个（这个和就是越线次数的期望，第 4 页证明二）。

3. 判断：「若 $X_{n}$ 同分布且 $X_{n} / n \to 0$ 几乎必然，则 $E ∣ X_{1} ∣ < \infty 。」$ 如果再加上「相互独立」呢？

点开看答案

不加独立时是错的：例 4 中每个 $X_{n} = 1/ U ，$ $X_{n} / n \to 0$ 处处成立，但 $E X_{1} = \infty 。$ 加上独立以后是对的：若独立同分布而 $E ∣ X_{1} ∣ = \infty ，$ 第 13 页的定理 9 给出 $lim sup_{n} ∣ X_{n} ∣/ n = \infty$ 几乎必然，与 $X_{n} / n \to 0$ 矛盾。

本页术语中英对照（按出现顺序）

中文	English	白话解释
分布	law / distribution	X 把概率「推」到取值空间上得到的测度：L(X)(B) = P(X ∈ B)。
几乎必然收敛	almost sure convergence	除了概率为 0 的结局以外，Xₙ(ω) 都收敛到 X(ω)。
独立	independence	任意有限个事件同时发生的概率等于各自概率的乘积。
随机变量	random variable	从样本空间到实数的（可测）函数，把结局翻译成数字；随机性来自「实现了哪个 ω」。
偏差概率	deviation probability	Xₙ 和目标 X 相差超过 ε 的概率 P(\|Xₙ − X\| > ε)。它趋于 0 就是依概率收敛；对每个 ε 它都可求和时，由 Borel–Cantelli 引理可推出几乎必然收敛。
尾概率	tail probability	随机变量取到「很大的值」的概率，例如 P(X > t) 或 P(\|X\| ≥ t)。它随 t 增大而下降得越慢，分布的尾巴就越「厚」。
级数	series	无穷多项相加 a₁ + a₂ + …，它的值是前 n 项和在 n → ∞ 时的极限。
独立同分布	independent and identically distributed (i.i.d.)	一列随机变量相互独立，并且分布都相同，例如反复独立地掷同一颗骰子。
上极限	limit superior (lim sup)	数列「尾部的最大可能值」的极限；对集合则表示「发生无穷多次」。
当且仅当	if and only if (iff)	「A 当且仅当 B」：A 成立就一定有 B，B 成立也一定有 A，两者同真同假，记作 A ⟺ B。
单调收敛定理	monotone convergence theorem (MCT)	非负可测函数单调递增地收敛时，积分也收敛：∫fₙ ↑ ∫f。
博雷尔 σ-代数	Borel sigma-algebra	由实数轴上所有开区间生成的 σ-代数 𝓑(ℝ)，包含所有常见的集合。
累积分布函数	cumulative distribution function (CDF)	F(x) = P(X ≤ x)，单调不减、右连续，完全决定分布。
期望	expectation	随机变量对概率测度的积分 E[X] = ∫ X dP，也就是「加权平均」。
可积	integrable (L¹)	∫\|f\| dμ < ∞。全体可积函数记作 L¹(μ)。
函数	function / map	f: A → B 给 A 中每个元素指定 B 中唯一一个元素。
阶矩	moment	E[\|X\|ᵖ] 叫 p 阶（绝对）矩；它有限与否反映尾部有多「重」。
指数分布	exponential distribution	P(X > x) = e^(−λx)（x ≥ 0）的分布，均值 1/λ，常用来描述等待时间。
无意识统计学家定律	law of the unconscious statistician (LOTUS)	求 g(X) 的期望，不必先求出 g(X) 的分布，直接把 g 对 X 的分布 𝓛(X) 积分；X 有密度 f 时就是 E g(X) = ∫ g(x) f(x) dx。
概率空间	probability space	三元组 (Ω, 𝓕, P)：样本空间、事件的 σ-代数、概率测度。
Borel–Cantelli 引理	Borel–Cantelli lemma	概率之和有限 ⇒ 只发生有限次；独立且概率之和无穷 ⇒ 发生无穷多次。
集合	set	把一些对象放在一起当成一个整体，例如 {1,2,3}。
事件	event	样本空间的（允许谈概率的）子集；实现的 ω 落在里面，就说事件发生。
区间	interval	数轴上的一段，[a,b] 包含端点，(a,b) 不包含端点。
次可加性	subadditivity	并集的测度不超过各部分测度之和：μ(A ∪ B) ≤ μ(A) + μ(B)。
可数	countable	元素能排成第 1 个、第 2 个、第 3 个……的一列（有限也算），例如自然数、有理数。
无穷多次	infinitely often (i.o.)	「Aₙ 发生无穷多次」就是集合 lim sup Aₙ。
上界	upper bound	数集 A 的上界是一个数 M，A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界；所有上界中最小的那个叫上确界。