高等概率论逐页精讲

作业 2 收敛方式、大数定律、中心极限定理与鞅›离散鞅

第 10 题 / 共 12 题解答原页 第 11–12 页证明题

平方和减去 nσ² 是鞅:方差随时间线性增长

A quadratic martingale

解答原页第 11 页(本题所在部分)
解答原页第 12 页(本题所在部分)
解答原页第 11–12 页(本题部分)· 点击图片看整页

这道题在问什么

人话版一句话版

独立、均值 0、方差都是 部分和 本身是鞅(公平游戏),但 不是:平均来说它每一步增长 把这个确定的增长扣掉, 就成了鞅。它说明「随机游走离原点的平方距离,平均按时间线性增长」,是计算停时期望(例如赌徒破产的平均局数,第 12 题)的关键工具。

  • 考点:验证鞅的三条性质;条件期望的「已知量提出」和「独立量等于普通期望」两条规则。
  • 讲义里没有讲过:条件期望与鞅,见「先补基础」(第 12 题 有更详细的说明)。
  • 和其他题的关系:第 12 题的 是本题 的特例;第 9 题 用到的 Kolmogorov 极大不等式,背后正是 的这种结构。

先补基础

基础补课条件期望与鞅(简要回顾)

是已知前 步时对 的最佳猜测(这里作为已知结论使用,详见第 12 题)。本题只用三条规则:

  1. 线性;
  2. 已知的可以提出来: 关于 可测时,(只要 可积);
  3. 独立的等于普通期望: 与 独立时,

鞅:适应( 由前 步决定)、可积、

基础补课独立随机变量和的方差

独立、均值 0 时,理由:展开平方,交叉项 (第 4 讲 第 10 页 的推论)。所以 本题的鞅从 0 出发,期望始终为 0。

题目与原解答

课件原文题目
  1. Let be a sequence of independent random variables with mean 0 and variance . Show that

is a martingale.

中文翻译
  1. 设 是一列独立的随机变量,均值都是 0,方差都是 证明 (是鞅。
  • 「鞅」总是相对于某个 σ-代数流说的,这里取自然的 (原解答也是这样取的)。
  • 只要求独立、均值 0、方差相同,不要求同分布。

原解答的思路(左栏):把 写成 由独立性 逐项取条件期望得到 原解答的计算是正确的,只是没有验证鞅定义中的「适应」和「可积」两条,也没有说明每一步用的是哪条规则。

思路:怎么想到的

  • 明天的位置 = 今天的位置 + 一个与过去无关、均值 0 的增量。
  • 平方后多出两项:交叉项 (今天已知 × 明天的增量,条件期望为 0)和 (条件期望为
  • 所以 每一步平均增加 扣掉 就平衡了。
图解:一团越摊越开的「云」

想象很多个独立的随机游走同时从原点出发,第 步时把它们的位置画成一团点云:

  • 云的中心一直在原点( 是鞅);
  • 云的宽度(标准差)是 越来越宽,所以平方距离的平均 线性增长;
  • 量的是「这一条路径比云的平均宽度偏离得多还是少」,它的平均值始终是 0。

步数翻 4 倍,云只宽 2 倍:这就是随机游走的 尺度律。

完整解答

记

第 1 步(适应): 是 的连续函数,关于 可测。

第 2 步(可积):(用了「独立随机变量和的方差」)。

第 3 步(展开):

第 4 步(逐项取条件期望):

  • 已知(规则 2)。
  • 先把已知的 提出来(规则 2; 可积,因为由 Cauchy–Schwarz,再用 与 独立(规则 3)。
  • 与 独立(规则 3);均值 0 时

第 5 步(合起来):

三条性质都满足, 是关于 的鞅。

原解答逐行对照

  1. 「we need to verify the martingale property where is the σ-algebra generated by :意思是「需要验证鞅性 其中 是由 生成的 σ-代数」。鞅的定义还要求适应和可积,原解答只验证了第三条。本题中前两条很容易(上面第 1、2 步),但考试时最好写出来。
  2. 展开 的三行:正确。
  3. 「Since is independent of , it implies , :意思是「因为 与 独立,所以 正确,用的是规则 3。
  4. 「:这一步把已知的 从条件期望里提了出来(规则 2),原解答没有点明。
  5. 最后得到 正确。
易错点原解答的小问题:没有验证适应性和可积性

鞅的定义有三条。可积性在这里需要方差有限:如果 的方差是无穷, 不可积, 根本没有定义。题目给了方差 所以没有问题,但应该写出

例子与数值验证

例 1:简单随机游走

各以概率 ( 是鞅。例如 概率

例 2:不同分布、同一方差

交替地取「 各半」和「 上的均匀分布」(两者方差都是 1)。它们独立、不同分布,本题结论照样成立。电脑模拟 全取 上的均匀分布,10 万次: 的估计约为 与理论值 0 相差在随机误差之内: 的标准差可以算出约为 10 万次平均的误差约为

例 3:去掉独立性,结论可能失败

设 各半; 各半且与 独立;

  • 均值 0、方差 1、与 不相关。
  • 但 不是常数 1。于是

而 不是鞅。原因: 的「波动大小」依赖于 不独立。

拓展延伸

方差不同的情形与 Doob 分解

若 独立、均值 0、方差 各不相同,同样的计算给出: 是鞅。

更一般地,任何(平方可积的)鞅 都有 Doob 分解:其中 是一个可预测的递增过程,叫 的「二次变差的补偿子」。本题中 是确定的;例 3 中 是随机的,所以要扣掉的不再是

应用:离开区间要多长时间

简单随机游走从 0 出发,对 用可选停止定理(与第 12 题 同样的有界性论证):而 所以 模拟(4 万次): 时 时 时 与 吻合。走出距离 平均需要 步,这就是「扩散」的尺度律。

应用:Kolmogorov 极大不等式

对独立、均值 0、方差有限的

它比 Chebyshev 强:控制的是整条路径的最大值,而不只是终点。证明的关键是 是下鞅(期望只增不减),本题的鞅 正是这一结构的精确版本。第 9 题 会用到这个不等式。

常见疑问与易错点

易错点问:为什么 Sₙ² 不是鞅?

答:平方距离平均每步增加 它是一个下鞅(submartingale),不是鞅。直观上,随机游走越走越远,平方距离的期望线性增长。

易错点问:只要 Yⱼ 两两不相关就够了吗?

答:不够(例 3)。需要的是 和 独立性保证了这两条;不相关只保证无条件的二阶矩关系。

易错点问:σ² = 0 时会怎样?

答:方差为 0 且均值为 0,每个 几乎必然,平凡的鞅。

小结与自测

小结本题小结
  • 交叉项条件期望为 0, 的条件期望为 所以
  • 鞅定义的三条都要验证:适应、可积(鞅性质。
  • 独立性不能换成不相关(例 3);方差不同时扣掉 (Doob 分解)。
  • 应用:随机游走离开 的平均时间是 赌徒破产的平均局数(第 12 题)。
自测

1. 独立,哪个过程是鞅:

点开看答案

所以 是鞅。

2. 简单随机游走从 0 出发,求离开 (第一次 的平均步数。

点开看答案

3. 若 独立、均值 0、写出一个由 构造的鞅。

点开看答案

本页术语中英对照(按出现顺序)
中文English白话解释
方差varianceVar X = E[(X − E X)²],衡量随机变量围绕均值的波动大小。
独立independence任意有限个事件同时发生的概率等于各自概率的乘积。
部分和partial sum级数 a₁ + a₂ + … 的前 n 项之和 Sₙ = a₁ + … + aₙ;级数的值就是 Sₙ 在 n → ∞ 时的极限。
鞅martingale适应、可积且 E[Xₙ₊₁ | 𝓕ₙ] = Xₙ 的随机过程:公平游戏,已知过去时对下一步的最佳猜测就是现在的值。
赌徒破产gambler's ruin资本从 b 出发,每局公平地赢 1 或输 1,直到输光(0)或达到目标 a 为止;破产概率是 1 − b/a,平均局数是 b(a − b)。
期望expectation随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。
停时stopping time取值为 0, 1, 2, …(或 ∞)的随机时刻 T,「是否在第 n 步停下」只依赖前 n 步的信息:{T = n} ∈ 𝓕ₙ。
条件期望conditional expectationE[X | 𝓕] 是已知 σ-代数 𝓕 中的信息时对 X 的最佳猜测;它本身是一个 𝓕-可测的随机变量。
Kolmogorov 极大不等式Kolmogorov's maximal inequality独立、均值 0、方差有限时,P(max(|S₁|, …, |Sₙ|) ≥ λ) ≤ Var(Sₙ)/λ²:控制的是整条路径的最大值,而不只是终点。
可积integrable (L¹)∫|f| dμ < ∞。全体可积函数记作 L¹(μ)。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
σ-代数sigma-algebra允许谈概率的「事件清单」:含 Ω,对补集和可数并封闭。
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
柯西–施瓦茨不等式Cauchy–Schwarz inequalityE|XY| ≤ √(E X²) · √(E Y²):Hölder 不等式取 p = q = 2 的特例。
生成的 σ-代数generated sigma-algebra包含给定集合族的最小 σ-代数 σ(𝒞):只加入「被逼着加入」的集合。
可选停止定理optional stopping theorem在适当条件下(如 T 有界,或 E T < ∞ 且每步增量有界),鞅在停时处的期望等于初值:E M_T = E M₀。
阶矩momentE[|X|ᵖ] 叫 p 阶(绝对)矩;它有限与否反映尾部有多「重」。
几乎必然收敛almost sure convergence除了概率为 0 的结局以外,Xₙ(ω) 都收敛到 X(ω)。