02 i.i.d. 指数分布：Xₙ/log n 的上极限是 1，最大值 / log n 收敛到 1 · 作业2

这道题在问什么

人话版一句话版

$X_{1}, X_{2}, \dots$ 独立、都服从参数 1 的指数分布。第 (i) 问：单个 $X_{n}$ 偶尔会冲到 $lo g n$ 那么高，但冲不过 $(1 + ε) lo g n ，$ 所以 $lim sup X_{n} / lo g n = 1 ；$ 它同时也会无穷多次掉到 0 附近，所以 $X_{n} / lo g n$ 本身不收敛。第 (ii) 问：前 $n$ 个里的最大值 $M_{n} = max_{k \leq n} X_{k}$ 不会往回掉，它真正收敛： $M_{n} / lo g n \to 1$ 几乎必然。一句话： $n$ 个独立指数变量的最大值大约是 $lo g n 。$

考点：用两个 Borel–Cantelli 引理把「上极限」的问题变成「级数是否收敛」的问题；处理最大值的两种手法（确定性的上界论证、对「全部都小」这一事件直接算概率）。
要用的讲义结论：「无穷多次」与「最终总是」（第 3 讲第 3 页）；第一 Borel–Cantelli 引理（第 3 讲第 4 页）；独立性（第 3 讲第 6 页）；第二 Borel–Cantelli 引理（第 3 讲第 7 页）；偏差概率可求和推出几乎必然收敛（第 3 讲第 10 页）。
与其他题的关系：第 (i) 问和作业 1 第 5 题完全相同，这里简要重做，重点放在第 (ii) 问。第 3 讲第 11 页、第 13 页用同样的方法研究 $X_{n} / n ；$ 本作业第 5 题研究和 $S_{n}$ 的上极限。

先补基础

基础补课指数分布 Exp(1) 与自然对数

$X \sim Exp (1) ：$ 密度 $e^{- x}$ （ $x \geq 0 ），$ 尾概率 $P (X > x) = \int_{x}^{\infty} e^{- t} d t = e^{- x}$ （ $x \geq 0 ），$ 均值为 1。例： $P (X > 3) = e^{- 3} \approx 0.05 。$
本题的 $lo g$ 是自然对数 $ln$ （以 $e$ 为底）。关键换算：对 $c > 0 、$ $n \geq 2 ，$

P (X > c lo g n) = e^{- c l o g n} = (e^{l o g n})^{- c} = n^{- c} .

$n = 1$ 时 $lo g 1 = 0 ，$ $X_{1} / lo g 1$ 没有意义，所以下面的 $n$ 都从 2 开始；去掉有限项不影响上极限和极限。

基础补课「无穷多次」、Borel–Cantelli 引理（回顾）

${A_{n} i.o.}$ （infinitely often，无穷多次发生） $= ⋂_{N} ⋃_{n \geq N} A_{n} ：$ 有无穷多个 $n$ 使 $A_{n}$ 发生。它的补集是「最终总是不发生」（第 3 讲第 3 页）。
第一 Borel–Cantelli 引理（BC I，第 3 讲第 4 页）： $\sum_{n} P (A_{n}) < \infty \Rightarrow P (A_{n} i.o.) = 0 。$ 不需要独立。
第二 Borel–Cantelli 引理（BC II，第 3 讲第 7 页）：若 $A_{n}$ 相互独立且 $\sum_{n} P (A_{n}) = \infty ，$ 则 $P (A_{n} i.o.) = 1 。$
本题中 $A_{n} = {X_{n} > c lo g n}$ 只依赖 $X_{n} ，$ $X_{n}$ 相互独立，所以这些事件相互独立（第 3 讲第 6 页）。

基础补课p-级数

$\sum_{n \geq 1} n^{- s}$ 在 $s > 1$ 时收敛， $s \leq 1$ 时发散。例： $\sum \frac{1}{n ^{2}} = \frac{π ^{2}}{6} ；$ 调和级数 $\sum \frac{1}{n} = \infty ；$ $\sum n^{- 1/2} = \infty 。$ （理由：与积分 $\int_{1}^{\infty} x^{- s} d x$ 比较，它在 $s > 1$ 时等于 $\frac{1}{s - 1} ，$ $s \leq 1$ 时为 $\infty 。）$

基础补课上极限的「ε 刻画」

对实数列 $(a_{n})$ 和常数 $c ：$

$lim sup a_{n} \leq c$ ⇔ 对每个 $ε > 0 ，$ 最终总有 $a_{n} \leq c + ε ；$
$lim sup a_{n} \geq c$ ⇔ 对每个 $ε > 0 ，$ 无穷多次 $a_{n} > c - ε 。$

例： $a_{n} = (- 1)^{n} + \frac{1}{n} 。$ 对每个 $ε ，$ 最终 $a_{n} \leq 1 + ε ；$ 又偶数项 $a_{n} > 1 - ε$ 无穷多次。所以 $lim sup a_{n} = 1 。$

于是「 $lim sup X_{n} / lo g n \leq 1 」$ 翻译成「对每个 $ε ，$ ${X_{n} > (1 + ε) lo g n}$ 只发生有限次」，正是 BC I 能处理的形式。

基础补课从「每个 ε 几乎必然」到「几乎必然每个 ε」

BC I 对每个固定的 $ε$ 给出一个概率为 1 的事件 $Ω_{ε} ，$ 而且这个事件依赖 $ε 。$ $ε$ 有不可数多个，不能直接把它们全部交起来。办法：只取 $ε = \frac{1}{k}$ （ $k = 1, 2, \dots ），$ 可数个概率 1 的事件之交仍然概率为 1，因为

P ((⋂_{k} Ω_{1/ k})^{c}) = P (⋃_{k} Ω_{1/ k}^{c}) \leq \sum_{k} P (Ω_{1/ k}^{c}) = 0.

在这个交集上，对每个 $k$ 都有 $lim sup \leq 1 + \frac{1}{k} ，$ 令 $k \to \infty$ 得 $lim sup \leq 1 。$ 原解答每次都省略了这一步。

基础补课两个初等不等式

$1 - y \leq e^{- y}$ （对所有实数 $y ）：$ $g (y) = e^{- y} - 1 + y$ 满足 $g (0) = 0 ，$ $g^{'} (y) = 1 - e^{- y}$ 在 $y < 0$ 时为负、 $y > 0$ 时为正，所以 $g$ 的最小值是 $g (0) = 0 。$ 几何上：直线 $1 - y$ 是凸函数 $e^{- y}$ 在 0 处的切线，切线在图像下方。例： $y = 0.1$ 时 $0.9 \leq 0.9048 。$
指数打败多项式：对 $t \geq 0$ 和正整数 $m ，$ $e^{t} = \sum_{j} \frac{t ^{j}}{j !} \geq \frac{t ^{m}}{m !}$ （每一项都非负，只留一项），所以 $e^{- t} \leq \frac{m !}{t ^{m}} 。$

基础补课独立同分布变量的最大值

$M_{n} = max_{1 \leq k \leq n} X_{k} \leq x$ 当且仅当每一个 $X_{k} \leq x 。$ 由独立、同分布，

P (M_{n} \leq x) = P (k = 1 ⋂ n {X_{k} \leq x}) = k = 1 \prod n P (X_{k} \leq x) = P (X_{1} \leq x)^{n} .

例：掷 3 颗骰子，最大点数 $\leq 4$ 的概率是 $(\frac{4}{6})^{3} = \frac{8}{27} 。$ 「所有人都小」是一个很难发生的事件，它的概率随 $n$ 以幂次 $n$ 衰减，这是第 (ii) 问下界的来源。

题目与原解答

课件原文题目

2. If $X_{1}, X_{2}, \dots$ are i.i.d. $Exp (1)$ , then

n lim sup \frac{X _{n}}{lo g n} = 1, a . s .

And also,

n lim \frac{1}{lo g n} (1 \leq k \leq n max X_{k}) = 1, a . s .

* Durrett, 2.3.15.

中文翻译

2. 设 $X_{1}, X_{2}, \dots$ 独立同分布（i.i.d.），都服从 $Exp (1) 。$ 则 (i) $lim sup_{n} \frac{X _{n}}{l o g n} = 1$ 几乎必然；(ii) $lim_{n} \frac{1}{l o g n} max_{1 \leq k \leq n} X_{k} = 1$ 几乎必然。

（题注：出自 Durrett《Probability: Theory and Examples》第 2.3 节「Borel–Cantelli 引理」的习题 2.3.15。）

原解答的思路（左栏）：

(i)： $P (X_{n} > (1 \pm ε) lo g n) = n^{- (1 \pm ε)} ；$ 「+」时级数收敛，BC I 给出 $lim sup \leq 1 ；$ 「−」时级数发散，BC II 给出 $lim sup \geq 1 。$
(ii) 上极限： $M_{n} \geq X_{n}$ 给出 $lim sup M_{n} / lo g n \geq 1 ；$ 再由 (i)，当 $k \geq N_{ω}$ 时 $X_{k} \leq (1 + ε) lo g k ，$ 把 $max_{k \leq n}$ 拆成 $k \leq N_{ω}$ 和 $k \geq N_{ω}$ 两段，得到 $lim sup M_{n} / lo g n \leq 1 。$
(ii) 下极限：精确计算 $P (M_{n} \leq (1 - ε) lo g n) = (1 - n^{ε - 1})^{n} \leq e^{- n^{ε}} ，$ 它可求和，BC I 给出 $lim inf M_{n} / lo g n \geq 1 。$

框架正确，但有一处推理错误（第 2 步中前 $N_{ω}$ 项的上界）和多处笔误、跳步，见「原解答逐行对照」。

思路：怎么想到的

上极限 ↔ 无穷多次 ↔ Borel–Cantelli：由「上极限的 ε 刻画」，要证 $lim sup X_{n} / lo g n = 1 ，$ 只需知道事件 ${X_{n} > c lo g n}$ 对 $c > 1$ 只发生有限次、对 $c < 1$ 发生无穷多次。
门槛恰好在 $c = 1$ ： $P (X_{n} > c lo g n) = n^{- c} ，$ $p$ -级数在 $c > 1$ 时收敛（BC I）， $c \leq 1$ 时发散（BC II）。答案「1」就是 $p$ -级数收敛与发散的分界点。
最大值的上界不能照搬： $P (M_{n} > (1 + ε) lo g n) \leq n \cdot n^{- (1 + ε)} = n^{- ε} ，$ $\sum n^{- ε} = \infty ，$ BC I 用不上。但最大值的上界其实可以从 (i) 确定性地推出：如果每个 $X_{k}$ 最终都不超过 $(1 + ε) lo g k ，$ 前面有限个 $X_{k}$ 只是一个固定的数，被 $lo g n \to \infty$ 除掉后可以忽略。
最大值的下界要直接算：「 $M_{n}$ 小」意味着「 $n$ 个变量全都小」，概率是 $n$ 次方，衰减得像 $e^{- n^{ε}} ，$ 远远可求和。

完整解答

定理命题

设 $X_{1}, X_{2}, \dots$ i.i.d. $Exp (1) ，$ $M_{n} = max_{1 \leq k \leq n} X_{k} ，$ $lo g$ 为自然对数。则几乎必然

(i) n \to \infty lim sup \frac{X _{n}}{lo g n} = 1, (ii) n \to \infty lim \frac{M _{n}}{lo g n} = 1.

推导证明思路

(i)：门槛 $(1 + ε) lo g n$ 用 BC I，门槛 $(1 - ε) lo g n$ 用 BC II，再对可数个 $ε$ 取交。(ii)：上极限由 (i) 确定性地推出；下极限对 ${M_{n} \leq (1 - ε) lo g n}$ 用 BC I。

(i) lim sup Xₙ / log n = 1

第 1 步（尾概率）：对 $c > 0 、$ $n \geq 2 ，$ $P (X_{n} > c lo g n) = n^{- c}$ （「先补基础」）。

第 2 步（上界，BC I）：固定 $ε > 0 ，$ 取 $c = 1 + ε 。$ $\sum_{n \geq 2} n^{- (1 + ε)} < \infty$ （指数 $> 1$ 的 $p$ -级数）。由 BC I， $P (X_{n} > (1 + ε) lo g n i.o.) = 0 。$ 所以几乎必然地，最终总有 $X_{n} / lo g n \leq 1 + ε ，$ 即 $lim sup_{n} X_{n} / lo g n \leq 1 + ε 。$

第 3 步（下界，BC II）：固定 $0 < ε < 1 ，$ 取 $c = 1 - ε \in (0, 1) 。$ $\sum_{n \geq 2} n^{- (1 - ε)} = \infty$ （指数 $< 1 ）。$ 事件 ${X_{n} > (1 - ε) lo g n}$ 相互独立，由 BC II，它们几乎必然发生无穷多次，所以 $lim sup_{n} X_{n} / lo g n \geq 1 - ε$ 几乎必然。

（要求 $ε < 1 ：$ 若 $ε \geq 1 ，$ 门槛 $(1 - ε) lo g n \leq 0 ，$ 概率是 1 而不是 $n^{- (1 - ε)} ；$ 我们只需要小的 $ε 。）$

第 4 步（可数交）：对 $k = 2, 3, \dots ，$ 令 $Ω_{k} = {1 - \frac{1}{k} \leq lim sup_{n} X_{n} / lo g n \leq 1 + \frac{1}{k}} ，$ 由第 2、3 步 $P (Ω_{k}) = 1 。$ 可数交 $Ω_{0} = ⋂_{k \geq 2} Ω_{k}$ 的概率仍为 1，在 $Ω_{0}$ 上令 $k \to \infty$ 得 $lim sup_{n} X_{n} / lo g n = 1 。$

(ii) Mₙ / log n → 1

第 5 步（一个确定性引理）：设 $ω \in Ω_{0}$ （第 4 步的概率 1 事件），固定 $ε > 0 。$ 由 $lim sup X_{n} (ω) / lo g n \leq 1$ 和 ε 刻画，存在 $N = N (ω, ε) \geq 2 ，$ 使得

X_{k} (ω) \leq (1 + ε) lo g k 对所有 k \geq N .

记 $C (ω) = max_{1 \leq k < N} X_{k} (ω) ，$ 这是有限个数的最大值，是一个固定的有限数，不随 $n$ 变化。对 $n \geq N ，$

M_{n} (ω) = max {C (ω), N \leq k \leq n max X_{k} (ω)} \leq max {C (ω), (1 + ε) lo g n},

第二项用了 $X_{k} \leq (1 + ε) lo g k \leq (1 + ε) lo g n$ （ $k \leq n ，$ $lo g$ 递增）。除以 $lo g n ：$

\frac{M _{n} ( ω )}{lo g n} \leq max {\frac{C ( ω )}{lo g n}, 1 + ε} .

$n \to \infty$ 时 $\frac{C ( ω )}{l o g n} \to 0 ，$ 所以 $lim sup_{n} M_{n} (ω) / lo g n \leq 1 + ε 。$ 这里的 $ω$ 已经固定在 $Ω_{0}$ 里， $ε$ 可以任意取，令 $ε ↓ 0$ 得 $lim sup_{n} M_{n} / lo g n \leq 1$ 在 $Ω_{0}$ 上成立。

第 6 步（下界的概率计算）：固定 $0 < ε < 1 ，$ $n \geq 2 。$ 由「最大值的分布」，

P (M_{n} \leq (1 - ε) lo g n) = (1 - e^{- (1 - ε) l o g n})^{n} = (1 - n^{- (1 - ε)})^{n} \leq (e^{- n^{- (1 - ε)}})^{n} = e^{- n \cdot n^{ε - 1}} = e^{- n^{ε}} .

不等号用了 $1 - y \leq e^{- y} ，$ $y = n^{ε - 1} \in (0, 1) ；$ 两边都非负，取 $n$ 次方保持方向。

第 7 步（可求和，BC I）：取整数 $m \geq 2/ ε 。$ 由「指数打败多项式」（ $t = n^{ε} ），$ $e^{- n^{ε}} \leq \frac{m !}{n ^{ε m}} \leq \frac{m !}{n ^{2}} ，$ 所以 $\sum_{n} e^{- n^{ε}} \leq m! \sum_{n} \frac{1}{n ^{2}} < \infty 。$ 由 BC I， $P (M_{n} \leq (1 - ε) lo g n i.o.) = 0 ：$ 几乎必然地，最终总有 $M_{n} / lo g n > 1 - ε ，$ 即 $lim inf_{n} M_{n} / lo g n \geq 1 - ε 。$ 取 $ε = \frac{1}{k}$ 并对 $k$ 取可数交，得 $lim inf_{n} M_{n} / lo g n \geq 1$ 几乎必然。

第 8 步（合并）：在两个概率 1 事件的交上， $1 \leq lim inf \frac{M _{n}}{l o g n} \leq lim sup \frac{M _{n}}{l o g n} \leq 1 ，$ 上下极限相等，所以 $lim_{n} M_{n} / lo g n = 1$ 几乎必然。 $■$

原解答逐行对照

(i) 第 1–2 行：「 $P (X_{w} > x) = e^{- x}$ … $P (X_{n} / lo g n \geq (1 \pm ε)) = P (X_{n} > (1 \pm ε) lo g n) = n^{- (1 \pm x)} 」。$ 思路正确。 $\geq$ 与 $>$ 的差别无关紧要，因为指数分布连续， $P (X_{n} = c) = 0 。$

易错点原解答的问题：(i) 中的笔误

$X_{w}$ 应为 $X_{n} ；$ $n^{- (1 \pm x)}$ 应为 $n^{- (1 \pm ε)} ；$ 下一行求和里的 $1 \pm e 、$ 「for $1 + e 」$ 「for $1 - e 」$ 中的 $e$ 都应为 $ε$ （ $e$ 是自然常数，意思完全不同）。
「If follows that」应为「It follows that」；「 $\geq 1$ as.」应为「a.s.」；最后一句的 $X_{m}$ 应为 $X_{n} 。$
求和从 $n = 1$ 开始，但 $lo g 1 = 0 ，$ 应从 $n = 2$ 开始；「 $1 - ε 」$ 的情形要求 $0 < ε < 1 。$

(i) 第 3–4 行：「by the first Borel–Cantelli lemma … $lim sup \leq 1$ a.s.；by the second … $lim sup \geq 1 」。$

易错点原解答的问题：(i) 的两处跳步

BC II 需要独立性，原解答没有说。这里成立，因为 ${X_{n} > (1 - ε) lo g n}$ 由相互独立的 $X_{n}$ 各自决定。
BC I 只给出「对每个固定的 $ε ，$ $lim sup \leq 1 + ε$ a.s.」，例外的零概率集依赖 $ε 。$ 要得到「 $lim sup \leq 1$ a.s.」，必须取 $ε = \frac{1}{k}$ 并对可数个 $k$ 取交（「先补基础」最后一张卡片）。下界和第 (ii) 问的下界同样如此。

(ii) 式 (0.0.1)： $X_{n} \leq M_{n}$ 给出 $1 = lim sup X_{n} / lo g n \leq lim sup M_{n} / lo g n 。$ 正确，但其实多余：最后证明的 $lim inf M_{n} / lo g n \geq 1$ 已经蕴含它。

(ii) 式 (0.0.2) 的推导：

\frac{M _{n}}{lo g n} \leq max (1 \leq k \leq N_{ω} max \frac{X _{k}}{lo g n}, N_{ω} \leq k \leq n max \frac{X _{k}}{lo g k}) \leq max (\frac{( 1 + ε ) lo g N _{ω}}{lo g n}, 1 + ε) \leq ε + (1 + ε) .

第一个不等号正确： $k \geq N_{ω}$ 时 $lo g k \leq lo g n$ 且 $X_{k} \geq 0 ，$ 所以 $\frac{X _{k}}{l o g n} \leq \frac{X _{k}}{l o g k} 。$

易错点原解答的问题：前 N_ω 项的上界没有根据

第二个不等号声称 $max_{1 \leq k \leq N_{ω}} X_{k} \leq (1 + ε) lo g N_{ω} 。$ 但 (i) 给出的 $X_{k} \leq (1 + ε) lo g k$ 只对 $k \geq N_{ω}$ 成立；对 $k < N_{ω} ，$ $X_{k} (ω)$ 可以是任何正数（例如 $X_{1} (ω) = 50 ），$ 它和 $lo g N_{ω}$ 没有关系。改正：令 $C (ω) = max_{k \leq N_{ω}} X_{k} (ω) ，$ 它是有限个有限数的最大值，不依赖 $n$ ，所以 $\frac{C ( ω )}{l o g n} \to 0 ，$ $n$ 足够大时 $< ε 。$ 结论不变。（另一种补救：设 $N_{0}$ 是 (i) 给出的门槛、 $C_{0} = max_{k < N_{0}} X_{k} (ω) ，$ 再取 $N_{ω} \geq N_{0}$ 大到 $(1 + ε) lo g N_{ω} \geq C_{0} 。$ 这样 $k < N_{0}$ 时 $X_{k} \leq C_{0} ，$ $N_{0} \leq k \leq N_{ω}$ 时 $X_{k} \leq (1 + ε) lo g k ，$ 两者都不超过 $(1 + ε) lo g N_{ω} ，$ 原式的第二个不等号就成立了。但原解答没有这样取，也没有说明。）另外第三个不等号用 $max (a, b) \leq a + b$ 得到 $1 + 2 ε ，$ 正确但多绕了一步：两项都 $\leq 1 + ε$ 时最大值就 $\leq 1 + ε 。$

易错点原解答的问题：√(2 log n) 与上一行不一致

「 $\tilde{N}_{ω}$ is so large that $(1 + ε) lo g N_{ω} / 2 lo g n < ε 」$ 中的分母应为 $lo g n ，$ 与上面的式子一致（按上面的改正，应写成 $C (ω) / lo g n < ε ）。$ $2 lo g n$ 是标准正态最大值的增长速度（见拓展），可能是从正态版本的同类题沿用过来的。

(ii) 最后部分： $P (M_{n} \leq (1 - ε) lo g n) = P (X_{1} \leq (1 - ε) lo g n)^{n} = (1 - \frac{1}{n ^{1 - ε}})^{n} = (1 - \frac{n ^{ε}}{n})^{n} \leq e^{- n^{ε}} 。$ 每个等号都对：第一个等号用了独立同分布； $\frac{1}{n ^{1 - ε}} = \frac{n ^{ε}}{n} 。$

易错点原解答的问题：「∑ e^{−n^ε} < ∞」没有给理由

这一级数确实收敛，但 $ε$ 很小时收敛得极慢（ $ε = 0.1$ 时它的和大约是 $10! \approx 3.6 \times 1 0^{6} ），$ 值得写出理由：取整数 $m \geq 2/ ε ，$ $e^{- n^{ε}} \leq m! n^{- ε m} \leq m! n^{- 2} ，$ 与 $\sum n^{- 2}$ 比较（第 7 步）。另外， $(1 - x / n)^{n} \leq e^{- x}$ 需要 $0 \leq x \leq n ，$ 这里 $x = n^{ε} \leq n ，$ 成立。

例子与数值验证

例 1：门槛 1.2 log n 与 0.8 log n 的超越次数

门槛 $1.2 lo g n ：$ $P (X_{n} > 1.2 lo g n) = n^{- 1.2} ，$ $n = 100$ 时约 $0.0040 ，$ $n = 1 0^{6}$ 时约 $6.3 \times 1 0^{- 8} 。$ 所有 $n \geq 2$ 的期望超越总次数是 $\sum_{n \geq 2} n^{- 1.2} \approx 4.59 ，$ 有限，BC I 说超越只发生有限次。
门槛 $0.8 lo g n ：$ 期望超越次数 $\sum_{n = 2}^{N} n^{- 0.8}$ 大约按 $5 N^{0.2}$ 增长，趋于无穷，BC II 说超越发生无穷多次。

用 Python 生成 $1 0^{7}$ 个 Exp(1)（固定随机种子）： $n \leq 1 0^{7}$ 中超过 $1.2 lo g n$ 的有 2 次（理论期望 4.39），超过 $0.8 lo g n$ 的有 132 次（理论期望 120）。

例 2：模拟 Mₙ / log n——收敛，但很慢

$n$	$10$	$1 0^{2}$	$1 0^{3}$	$1 0^{4}$	$1 0^{5}$	$1 0^{6}$	$1 0^{7}$
$M_{n}$	2.33	4.62	7.30	9.15	11.09	14.79	15.73
$lo g n$	2.30	4.61	6.91	9.21	11.51	13.82	16.12
$M_{n} / lo g n$	1.012	1.003	1.057	0.993	0.964	1.071	0.976

$M_{n}$ 与 $lo g n$ 的差始终是 $\pm 1$ 左右的量（见拓展中的 Gumbel 分布），除以越来越大的 $lo g n$ 后才趋于 0。 $lo g n$ 增长极慢， $n = 1 0^{7}$ 时也只有 16，所以比值收敛得很慢。

例 3：Xₙ/log n 依概率收敛到 0，却不几乎必然收敛

依概率 → 0：对每个 $ε > 0 ，$ $P (X_{n} / lo g n > ε) = n^{- ε} \to 0 。$
下极限是 0：对 $δ > 0 ，$ $P (X_{n} < δ) = 1 - e^{- δ}$ 是正的常数，级数发散，事件独立，BC II 给出 $X_{n} < δ$ 无穷多次；所以 $lim inf X_{n} / lo g n = 0 。$
上极限是 1：第 (i) 问。

所以 $X_{n} / lo g n$ 几乎必然不收敛（在 0 和 1 之间无穷次往返），但依概率收敛到 0。这是「依概率收敛推不出几乎必然收敛」的又一个自然例子（对照第 3 讲第 15 页的打字机序列）。用 Python 生成 $1 0^{7}$ 个 Exp(1)（随机种子 0）： $j = 2, \dots, 6$ 时，区间 $[1 0^{j}, 1 0^{j + 1})$ 内 $X_{k} / lo g k$ 的最大值依次约为 1.43、1.08、1.05、0.97、1.11，在 1 附近上下浮动（换几个种子，大致落在 0.95–1.45 之间；超过 $1 + ε$ 的情形 BC I 保证最终不再出现，但在 $k$ 不大时仍会出现）；同一区间内的最小值都小于 $0.001 。$

例 4：对数的底很重要

若把 $lo g$ 理解成以 10 为底， $P (X_{n} > c lo g_{10} n) = n^{- c / l n 10} ，$ 分界点变成 $c = ln 10 \approx 2.303 ：$ $lim sup X_{n} / lo g_{10} n = ln 10 。$ 本题答案为 1，前提是自然对数。

例 5：换一个分布，增长速度就变

同样的方法（尾概率代入门槛、看级数是否收敛）适用于任何 i.i.d. 序列：

标准正态： $P (X > x) \approx \frac{e ^{- x^{2} /2}}{x 2 π} ，$ 门槛取 $c 2 lo g n$ 时尾概率约为 $n^{- c^{2}}$ （差一个对数因子），分界点 $c = 1 ：$ $max_{k \leq n} X_{k} \approx 2 lo g n 。$
Pareto： $P (X > x) = x^{- α}$ （ $x \geq 1 ），$ 门槛 $n^{c / α}$ 的尾概率是 $n^{- c} ，$ 分界点仍是 $c = 1 。$ 同样的两步论证给出 $\frac{l o g M _{n}}{l o g n} \to \frac{1}{α}$ 几乎必然： $M_{n}$ 是 $n^{1/ α}$ 的量级，比 $lo g n$ 快得多。

尾部越轻，最大值增长越慢：正态（ $lo g n ）$ ＜指数（ $lo g n ）$ ＜幂律（ $n^{1/ α} ）。$

拓展延伸

更精细的结论：Mₙ − log n 依分布收敛到 Gumbel 分布

对任意实数 $x ，$ $n > e^{- x}$ 时

P (M_{n} - lo g n \leq x) = (1 - e^{- (x + l o g n)})^{n} = (1 - \frac{e ^{- x}}{n})^{n} ⟶ exp (- e^{- x}) .

极限 $G (x) = exp (- e^{- x})$ 是 Gumbel 分布的分布函数，均值是 Euler 常数 $γ \approx 0.577 ，$ 标准差 $\frac{π}{6} \approx 1.28 。$ $n = 1000 、$ $x = 0$ 时左边是 $0.3677 ，$ 极限是 $e^{- 1} \approx 0.3679 ，$ 已经非常接近。所以 $M_{n} = lo g n + O (1) ，$ 这解释了例 2 中 $M_{n} - lo g n$ 一直是 $\pm 1$ 的量级。这类结论属于极值理论（extreme value theory）。（「依分布收敛」的定义见本作业第 4 题的基础部分。）

最大值上界的另一种证法：沿子列 2ʲ 用 BC I

直接对所有 $n$ 用 BC I 失败（ $\sum n^{- ε} = \infty ），$ 但只看 $n = 2^{j}$ 就够了。令 $B_{j} = {M_{2^{j + 1}} > (1 + ε) lo g 2^{j}} ，$ 由并集上界，

P (B_{j}) \leq 2^{j + 1} \cdot (2^{j})^{- (1 + ε)} = 2 \cdot 2^{- j ε},

关于 $j$ 可求和（公比 $2^{- ε} < 1$ 的等比级数）。BC I 说 $B_{j}$ 最终不再发生。对 $2^{j} \leq n < 2^{j + 1} ，$ $M_{n} \leq M_{2^{j + 1}} \leq (1 + ε) lo g 2^{j} \leq (1 + ε) lo g n 。$ 这里用到 $M_{n}$ 关于 $n$ 单调不减，这是最大值相对于 $X_{n}$ 本身的优势。

一般原理

设 $b_{n} > 0$ 单调不减且 $b_{n} \to \infty ，$ 实数列 $(x_{n})$ 满足 $lim sup x_{n} / b_{n} \leq L$ （ $L \geq 0 ），$ 则 $lim sup_{n} (max_{k \leq n} x_{k}) / b_{n} \leq L 。$ 证明与第 5 步相同：前有限项是固定的数，除以 $b_{n} \to \infty$ 后消失；后面的项满足 $x_{k} \leq (L + ε) b_{k} \leq (L + ε) b_{n} 。$ 所以「最大值的上极限」总能从「单项的上极限」得到；反过来「最大值的下极限」需要额外的计算（第 6–7 步）。

常见疑问与易错点

易错点问：既然 lim sup Xₙ/log n = 1，为什么不能说 Xₙ/log n → 1？

答：上极限只描述「最高能冲到哪里」。例 3 说明 $lim inf X_{n} / lo g n = 0 ：$ 单个 $X_{n}$ 无穷多次接近 0。最大值 $M_{n}$ 不同：它记住了之前所有的高点，不会往回掉，所以才有真正的极限。

易错点问：最大值的下界为什么用 BC I，而不是 BC II？

答：我们要证明「 $M_{n} \leq (1 - ε) lo g n 」$ 这件坏事最终不再发生，即坏事只发生有限次，这正是 BC I 的结论。而且事件 ${M_{n} \leq (1 - ε) lo g n}$ 彼此不独立（ $M_{n}$ 和 $M_{n + 1}$ 共享前 $n$ 个变量），BC II 本来也用不上。BC I 不需要独立，只要概率可求和， $e^{- n^{ε}}$ 恰好满足。

易错点问：(i) 的上界论证能直接搬到最大值上吗？

答：不能。 $P (M_{n} > (1 + ε) lo g n) \leq n \cdot n^{- (1 + ε)} = n^{- ε} ，$ $\sum n^{- ε} = \infty ，$ BC I 失效。所以需要第 5 步的确定性论证，或者拓展里的子列 $2^{j}$ 技巧。

易错点问：第 5 步里 N 依赖于 ω，有关系吗？

答：没有关系。第 5 步是对每个固定的 $ω \in Ω_{0}$ 做实数列的论证， $N (ω, ε)$ 和 $C (ω)$ 都是这个 $ω$ 下的具体数字。需要注意的只是 $Ω_{0}$ 本身不依赖 $ε$ （第 4 步已经取过可数交），所以「令 $ε ↓ 0 」$ 不会产生新的例外集。

小结与自测

小结本题小结

换算 $P (X_{n} > c lo g n) = n^{- c} ：$ $c > 1$ 可求和（BC I）， $c < 1$ 不可求和且独立（BC II），所以 $lim sup X_{n} / lo g n = 1 ；$ 同时 $lim inf X_{n} / lo g n = 0 ，$ 单项不收敛。
最大值上界：由 (i) 确定性地推出，前有限项是固定常数，除以 $lo g n$ 后消失。
最大值下界： $P (M_{n} \leq (1 - ε) lo g n) = (1 - n^{ε - 1})^{n} \leq e^{- n^{ε}} ，$ 可求和，BC I。
每个「对所有 $ε 」$ 都要取 $ε = \frac{1}{k}$ 做可数交。
原解答：前 $N_{ω}$ 项的上界 $(1 + ε) lo g N_{ω}$ 没有根据，应为固定常数 $C (ω) ；$ $2 lo g n$ 应为 $lo g n ；$ 多处 $ε$ 写成 $x 、$ $e ；$ BC II 的独立性与 $\sum e^{- n^{ε}} < \infty$ 未说明。

自测

1. 设 $X_{n}$ i.i.d.， $P (X_{n} > x) = e^{- 2 x}$ （参数 2 的指数分布）。求 $lim sup X_{n} / lo g n$ 与 $lim max_{k \leq n} X_{k} / lo g n 。$

点开看答案

$P (X_{n} > c lo g n) = n^{- 2 c} ，$ 分界点 $2 c = 1 ，$ 即 $c = \frac{1}{2} 。$ 所以两者都等于 $\frac{1}{2} 。$ 直觉：参数 2 的指数变量就是 $\frac{1}{2} \times Exp (1) 。$

2. 判断： $P (M_{n} \leq (1 - ε) lo g n)$ 可求和，因此可以用 BC II 推出 $M_{n} > (1 - ε) lo g n$ 无穷多次。

点开看答案

错误。可求和时用的是 BC I，结论更强： ${M_{n} \leq (1 - ε) lo g n}$ 只发生有限次，即 $M_{n} > (1 - ε) lo g n$ 最终总是成立（不只是无穷多次）。BC II 处理的是不可求和、且独立的情形。

3. 设 $X_{1} (ω) = 50 ，$ 且对 $k \geq 2$ 有 $X_{k} (ω) \leq 1.1 lo g k 。$ 对 $n = 1 0^{6} ，$ 原解答的上界 $\frac{( 1 + ε ) l o g N _{ω}}{l o g n}$ （取 $ε = 0.1 、$ $N_{ω} = 2 ）$ 给出多少？ $\frac{M _{n}}{l o g n}$ 实际至少是多少？

点开看答案

原解答的上界： $\frac{1.1 \times l o g 2}{l o g 1 0 ^{6}} \approx \frac{0.76}{13.8} \approx 0.055 ，$ 于是声称 $\frac{M _{n}}{l o g n} \leq max (0.055, 1.1) = 1.1 。$ 但 $M_{n} \geq X_{1} = 50 ，$ $\frac{M _{n}}{l o g n} \geq \frac{50}{13.8} \approx 3.6 > 1.1 ，$ 上界错误。正确的处理是 $C (ω) = 50 ，$ $\frac{50}{l o g n}$ 要等 $n > e^{500}$ 才小于 $0.1 ，$ 但它终究趋于 0，所以上极限的结论仍然对。

本页术语中英对照（按出现顺序）

中文	English	白话解释
指数分布	exponential distribution	P(X > x) = e^(−λx)（x ≥ 0）的分布，均值 1/λ，常用来描述等待时间。
独立	independence	任意有限个事件同时发生的概率等于各自概率的乘积。
无穷多次	infinitely often (i.o.)	「Aₙ 发生无穷多次」就是集合 lim sup Aₙ。
几乎必然收敛	almost sure convergence	除了概率为 0 的结局以外，Xₙ(ω) 都收敛到 X(ω)。
Borel–Cantelli 引理	Borel–Cantelli lemma	概率之和有限 ⇒ 只发生有限次；独立且概率之和无穷 ⇒ 发生无穷多次。
上极限	limit superior (lim sup)	数列「尾部的最大可能值」的极限；对集合则表示「发生无穷多次」。
级数	series	无穷多项相加 a₁ + a₂ + …，它的值是前 n 项和在 n → ∞ 时的极限。
上界	upper bound	数集 A 的上界是一个数 M，A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界；所有上界中最小的那个叫上确界。
事件	event	样本空间的（允许谈概率的）子集；实现的 ω 落在里面，就说事件发生。
偏差概率	deviation probability	Xₙ 和目标 X 相差超过 ε 的概率 P(\|Xₙ − X\| > ε)。它趋于 0 就是依概率收敛；对每个 ε 它都可求和时，由 Borel–Cantelli 引理可推出几乎必然收敛。
可求和	summable	非负数列的级数和有限：Σ aₙ < ∞。例如 Σ 1/n² 可求和，Σ 1/n 不可求和（和是 +∞）。
尾概率	tail probability	随机变量取到「很大的值」的概率，例如 P(X > t) 或 P(\|X\| ≥ t)。它随 t 增大而下降得越慢，分布的尾巴就越「厚」。
补集	complement	样本空间里不属于 A 的元素全体，记作 Aᶜ，对应「A 不发生」。
不可数	uncountable	无论怎么排都排不成一列，例如区间 [0,1] 里的全体实数。
可数	countable	元素能排成第 1 个、第 2 个、第 3 个……的一列（有限也算），例如自然数、有理数。
交集	intersection	同时属于两个集合的元素全体，A ∩ B 对应「A 且 B」。
凸函数	convex function	图像上任意两点连线都在图像上方的函数，例如 x²、eˣ。
当且仅当	if and only if (iff)	「A 当且仅当 B」：A 成立就一定有 B，B 成立也一定有 A，两者同真同假，记作 A ⟺ B。
分布	law / distribution	X 把概率「推」到取值空间上得到的测度：L(X)(B) = P(X ∈ B)。
下界	lower bound	数集 A 的下界是一个数 m，A 里每个数都 ≥ m。例如 0 和 −3 都是 (0,1] 的下界；所有下界中最大的那个叫下确界。
独立同分布	independent and identically distributed (i.i.d.)	一列随机变量相互独立，并且分布都相同，例如反复独立地掷同一颗骰子。
下极限	limit inferior (lim inf)	数列「尾部的最小可能值」的极限；对集合则表示「从某一项起一直发生」。
期望	expectation	随机变量对概率测度的积分 E[X] = ∫ X dP，也就是「加权平均」。
依概率收敛	convergence in probability	对每个 ε > 0，P(\|Xₙ − X\| > ε) → 0；比几乎必然收敛弱。
打字机序列	typewriter sequence	在 [0,1) 上从左到右一遍遍扫过、越来越窄的小区间的示性函数列：依概率收敛到 0，却在每一点都不收敛。
区间	interval	数轴上的一段，[a,b] 包含端点，(a,b) 不包含端点。
累积分布函数	cumulative distribution function (CDF)	F(x) = P(X ≤ x)，单调不减、右连续，完全决定分布。
依分布收敛	convergence in distribution	在极限分布函数 F 的每个连续点 x 上，P(Xₙ ≤ x) → F(x)。它只比较分布，不要求 Xₙ 本身靠近 X。
并集	union	至少属于其中一个集合的元素全体，A ∪ B 对应「A 或 B」。
单调递增	nondecreasing	后一项不小于前一项；单调有界的数列一定有极限。
子列	subsequence	从一个数列里按顺序挑出无穷多项组成的新数列。