这道题在问什么
中心极限定理说: 个 i.i.d. 随机变量的和,标准化后近似标准正态。可实际中常常加多少项本身也是随机的(例如一天里来了多少顾客、保险公司一年收到多少笔理赔)。本题说:只要随机项数 与一个确定的数列 的比值依概率趋于 1,就有 即使 依赖于 本身也成立,这是关键。证明的核心是 Kolmogorov 极大不等式:它控制部分和在一整个「窗口」里的最大波动,不管随机项数落在窗口的哪里。
- 考点:依分布收敛、中心极限定理、Slutsky 定理、Kolmogorov 极大不等式。这些都超出了讲义的范围,「先补基础」逐一讲清楚。
- 出处:Durrett《Probability: Theory and Examples》习题 3.4.6;结论叫 Anscombe 定理(1952)。
- 和其他题的关系:第 10 题 的鞅 是 Kolmogorov 极大不等式背后的结构;第 4 题 讨论中心极限定理与大数定律的关系。
先补基础
依分布收敛到 (记作 课件写 指:对 的分布函数 的每个连续点
它只看分布,不要求 和 定义在同一个概率空间上,是最弱的一种收敛。依概率收敛 ⇒ 依分布收敛。(Durrett 第 3.2 节)
i.i.d.,则
(Durrett 定理 3.4.1。)例:掷 次公平硬币,正面数减去 再除以 近似标准正态。
若 且 依概率,则
为什么对:对任意 以及 令 再令 (取 为连续点)即得。直观上:加上一个依概率趋于 0 的「小扰动」,不改变极限分布。(Durrett 习题 3.2.13。)
独立、均值 0、方差有限,则对
和 Chebyshev 不等式右边一样,但左边控制的是整条路径上的最大值,不只是终点 (Durrett 定理 2.5.5。)用在「从第 项开始的和」(上:
(或 表示不超过 的最大整数,有 所以
题目与原解答
- Let be i.i.d. with and , and let . Let be a sequence of nonnegative integer-valued random variables and a sequence of integers with and in probability. Show that
Hint: Use Kolmogorov's maximal inequality to conclude that for and , we have in probability.
- 设 i.i.d.,设 是一列取非负整数值的随机变量, 是一列整数, 且 依概率。证明 依分布收敛到标准正态
提示:用 Kolmogorov 极大不等式证明:对 依概率。
- 是「把前 项加起来」,项数 是随机的:
- 题目没有假设 与 独立,这一点很重要。
原解答的思路(左栏):由中心极限定理 只要证明 依概率,就有 为此把概率拆成 (概率趋于 0)和 两部分,后者用 Kolmogorov 极大不等式估计为 再令
思路正确,有一处符号笔误和几处说法不严谨(见「原解答逐行对照」)。
思路:怎么想到的
- 化归: 是确定的数列, 由普通的中心极限定理处理。只需证明 与 的差依概率趋于 0,再用 Slutsky。
- 差是什么:是「第 项到第 项之间」那一段的和。由于 这一段只有大约 项,它的波动约为 除以 后约为 很小。
- 难点: 是随机的,而且可能依赖于 不能直接算「这一段和」的方差。解决办法:不管 落在窗口 的哪里,这一段和都不超过「窗口内部分和的最大波动」的两倍;而最大波动正好由 Kolmogorov 极大不等式控制,与 无关。
完整解答
记
第 1 步(:由中心极限定理,(因为 把 换成 仍然成立:对每个
第 2 步(化归):由 Slutsky 定理,只需证明 依概率,即对每个
第 3 步(拆成两部分):固定 和 记 事件 则
由 依概率,
第 4 步(窗口内的最大波动):在 上,整数 和 都在 内。由三角不等式,
所以
注意最右边已经不含 :无论 是否依赖于 这个估计都成立。
第 5 步(Kolmogorov 极大不等式):(是 的部分和,它们独立、均值 0、方差 由 Kolmogorov 极大不等式,
第 6 步(取极限):合并第 3–5 步并令 (
左边与 无关,而 任意,令 得 所以 依概率,由第 2 步,
原解答逐行对照
- 「By CLT ... . Thus, its subsequence : 只假设趋于无穷,不一定递增、可以重复,所以严格说不是「子列」。结论仍然成立,理由见第 1 步。
- 「:中间一项的符号写反了,见下面的警告卡片。
- 「:这一步用的是 Slutsky 定理,原解答没有点名。
- 拆成 和 两部分:正确,第一部分的 为 0。
- 「:正确,理由是第 4 步的三角不等式(原解答没有写出「为什么除以 2」)。
- Kolmogorov 极大不等式一行:正确。
- 「:取整带来一个 见下面的警告卡片。
应为
这样第二项才等于 原解答写成 等号两边不相等。
可能等于 的整数部分(取整多出 1),所以对每个 只能得到 好在 取 后多出的项消失,结论不受影响。
原解答没有强调:整个证明从未假设 与 独立。正是因为 可能依赖于 (例如「和超过某个值就停止」),才不能简单地「对 取条件」,而要用控制整个窗口的极大不等式。这是本题最值得学的地方。
例子与数值验证
取 (如果前 项的和为正,就再多加 项。 依赖于 但 电脑模拟(2 万次): 的均值 方差 (标准正态是 与定理一致。
取 或 各以概率 (与 独立),不依概率趋于 1。此时 近似于「一半概率 一半概率 的混合,方差 模拟(1 万次):方差 峰度约 (正态是 3,这个混合分布的理论值约 不是标准正态。
一年里的理赔笔数 每笔金额 独立同分布。总理赔额 由大数定律 于是(对中心化的 Anscombe 定理给出 的正态近似,这是精算里估计「总理赔超过准备金」概率的基础。
拓展延伸
Anscombe 定理的一般形式
设 依分布收敛,并且满足「一致连续性条件」:对任意 存在 使 若 依概率,则 与 有相同的极限分布。本题中 条件由 Kolmogorov 极大不等式验证。
更换归一化:用 √Nₙ 代替 √aₙ
由 依概率和连续映射定理(第 3 讲 第 17 页), 依概率;再用 Slutsky 定理的乘法形式,也有 在统计里样本量随机时,常用这个形式。
更新过程的中心极限定理
设 是第 个事件发生的时刻(相邻间隔 i.i.d.,均值 方差 是时间 之前发生的事件数。那么
这是排队论、可靠性理论中的基本结果。证明思路分三步(这里只讲思路,第 3 步的严格细节当作已知结论使用):
- 事件数的大数定律:各项除以 后,两端都趋于 (强大数定律),夹逼得 几乎必然。
- 对随机项数用 Anscombe 定理:取 和 得
- 把 换成 :两者相差不到一个间隔的长度,除以 后依概率趋于 0,所以由 Slutsky 定理,分子分母同除以 并利用 关于 0 对称(乘以 不改变分布),就得到上式。
常见疑问与易错点
答:「是相对意义的(比值趋于 1),绝对差 可以很大(可以到 量级)。这一段的和大约是 的量级,和归一化尺度 相比是 必须用 才能消掉,所以需要细致的估计。
答:Chebyshev 只能估计固定位置的 是随机的、还可能依赖于 的分布无法直接算。极大不等式控制整个窗口内所有位置的最大值,自然也就控制了随机位置 处的值。
答:用在中心极限定理(除以 时每个 没有可以标准化的东西。
小结与自测
- 目标:化归为 依概率,再用中心极限定理 + Slutsky。
- 关键估计:在 上,用 Kolmogorov 极大不等式得
- 可以依赖于 但 不能去掉(例 2)。
- 原解答:分解式符号写反; 不一定是子列;取整多出的项;没有点名 Slutsky 定理。
1. 设 (确定的)。 依分布收敛到什么?
点开看答案
由本题收敛到
2. 在第 5 步中,若 的上界是多少?
点开看答案
这个上界对固定的 不小,但 可以任意小,所以真实的 是 0。
3. 叙述 Slutsky 定理,并说明它在本题中用在哪里。
点开看答案
若 依概率,则 本题取 (由中心极限定理收敛到 (由极大不等式依概率趋于 0),得到
| 中文 | English | 白话解释 |
|---|---|---|
| 中心极限定理 | central limit theorem (CLT) | 独立同分布、方差 σ² 有限时,(Sₙ − nμ)/(σ√n) 依分布收敛到标准正态分布:大量独立小误差之和近似正态。 |
| 独立同分布 | independent and identically distributed (i.i.d.) | 一列随机变量相互独立,并且分布都相同,例如反复独立地掷同一颗骰子。 |
| 随机变量 | random variable | 从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。 |
| Kolmogorov 极大不等式 | Kolmogorov's maximal inequality | 独立、均值 0、方差有限时,P(max(|S₁|, …, |Sₙ|) ≥ λ) ≤ Var(Sₙ)/λ²:控制的是整条路径的最大值,而不只是终点。 |
| 部分和 | partial sum | 级数 a₁ + a₂ + … 的前 n 项之和 Sₙ = a₁ + … + aₙ;级数的值就是 Sₙ 在 n → ∞ 时的极限。 |
| Slutsky 定理 | Slutsky's theorem | Xₙ 依分布收敛到 X,Yₙ 依概率收敛到常数 c,则 Xₙ + Yₙ 依分布收敛到 X + c,XₙYₙ 依分布收敛到 cX。 |
| 依分布收敛 | convergence in distribution | 在极限分布函数 F 的每个连续点 x 上,P(Xₙ ≤ x) → F(x)。它只比较分布,不要求 Xₙ 本身靠近 X。 |
| 鞅 | martingale | 适应、可积且 E[Xₙ₊₁ | 𝓕ₙ] = Xₙ 的随机过程:公平游戏,已知过去时对下一步的最佳猜测就是现在的值。 |
| 分布 | law / distribution | X 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。 |
| 累积分布函数 | cumulative distribution function (CDF) | F(x) = P(X ≤ x),单调不减、右连续,完全决定分布。 |
| 依概率收敛 | convergence in probability | 对每个 ε > 0,P(|Xₙ − X| > ε) → 0;比几乎必然收敛弱。 |
| 概率空间 | probability space | 三元组 (Ω, 𝓕, P):样本空间、事件的 σ-代数、概率测度。 |
| 方差 | variance | Var X = E[(X − E X)²],衡量随机变量围绕均值的波动大小。 |
| 独立 | independence | 任意有限个事件同时发生的概率等于各自概率的乘积。 |
| Chebyshev 不等式 | Chebyshev's inequality | P(|X − μ| ≥ t) ≤ σ² / t²:方差控制偏离均值的概率。 |
| 事件 | event | 样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。 |
| 三角不等式 | triangle inequality | |a + b| ≤ |a| + |b|:分两段走的总路程不会比直接走更短。推广有 |∫f| ≤ ∫|f|、E|X + Y| ≤ E|X| + E|Y|,以及 Lᵖ 范数的 Minkowski 不等式。 |
| 子列 | subsequence | 从一个数列里按顺序挑出无穷多项组成的新数列。 |
| 函数 | function / map | f: A → B 给 A 中每个元素指定 B 中唯一一个元素。 |
| 强大数定律 | strong law of large numbers (SLLN) | 独立同分布且 E|X₁| < ∞ 时,样本均值 Sₙ/n 几乎必然收敛到 E X₁。 |
| 几乎必然收敛 | almost sure convergence | 除了概率为 0 的结局以外,Xₙ(ω) 都收敛到 X(ω)。 |
| 上界 | upper bound | 数集 A 的上界是一个数 M,A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界;所有上界中最小的那个叫上确界。 |

