高等概率论逐页精讲

作业 2 收敛方式、大数定律、中心极限定理与鞅›离散鞅

第 12 题 / 共 12 题解答原页 第 14–16 页计算题

赌徒破产:用两个鞅算出破产概率与平均局数

Gambler's ruin

解答原页第 14 页(本题所在部分)
解答原页第 15 页(本题所在部分)
解答原页第 16 页(本题所在部分)
解答原页第 14–16 页(本题部分)· 点击图片看整页

这道题在问什么

人话版一句话版

一个赌徒手里有 元,每局公平地赢 1 元或输 1 元,直到输光(0 元)或赢到 元为止。问:输光的概率是多少?平均要赌多少局? 答案出奇地简单:破产概率 平均局数 工具是两个鞅:财富 本身,以及 把「公平游戏的期望财富不变」用在停止的时刻(可选停止定理),就能直接解出答案。

  • 考点:鞅的定义与验证、停时、可选停止定理及其使用条件。这是鞅论最经典的应用。
  • 讲义里没有讲过:条件期望、鞅、停时、可选停止定理都超出了四讲的范围,下面「先补基础」从定义讲起。
  • 和其他题的关系:第 10 题 证明 是鞅,本题的 是它的特例(第 11 题 是另一个鞅的例子(分支过程)。

先补基础

基础补课条件期望(离散情形的直观理解)

设 表示「到第 局为止知道的全部信息」。 是在知道前 局结果的条件下,对 的最佳猜测,它本身是一个随机变量(依赖于前 局的结果)。

正式定义: 是唯一(几乎必然意义下)满足下面两条的随机变量 ① 关于 可测(只用前 局的信息就能算出);② 对每个 它的存在性来自 Radon–Nikodym 定理(第 3 讲 第 27 页)。这里作为已知结论使用(Durrett《Probability: Theory and Examples》第 4.1 节)。

基础补课条件期望的四条运算规则

设 可积。

  1. 线性:
  2. 已知的可以提出来:若 关于 可测(例如 则 特别地
  3. 独立的等于不加条件:若 与 独立(例如第 局的结果 则
  4. 塔性质:

例:(规则 1、2、3)。

基础补课鞅:公平游戏的数学模型

随机变量序列 叫关于 的鞅(martingale),如果

  1. 适应:每个 关于 可测;
  2. 可积:
  3. 鞅性质:

意思:已知到现在为止的一切,下一步的期望值等于现在的值,这是「公平游戏」。由塔性质, 对所有 成立。

基础补课停时

取值于 的随机变量 叫停时,如果对每个 事件 是否在第 局后停止,只能根据前 局的结果决定,不能偷看未来。

例:「第一次财富达到 0 或 的时刻」是停时;「财富达到最大值的时刻」不是停时(要知道未来才能判断现在是不是最大)。

基础补课可选停止定理(这里作为已知结论使用)

设 是鞅, 是停时。

  1. 停止后的过程仍是鞅:(其中 是鞅,所以 对每个 成立。
  2. 若再满足下列条件之一,则 (a) 有界;(b) 且 对所有 成立;(c) 且

(Durrett 定理 4.8.5 等。)条件不能省,见「拓展延伸」里的反例。

题目与原解答

课件原文题目
  1. Gambler's ruin. Let be i.i.d. random variables with . Fix also integers, and

* Show that both and are martingales w.r.t. the natural filtration.

** Compute the ruin probability when she stops the game.

*** Compute the expected number of bets before she stops the game.

中文翻译
  1. 赌徒破产问题。设 i.i.d.,固定整数 令 为第 局后的财富, 为财富第一次等于 0 或 的时刻。

* 证明 和 都是关于自然 σ-代数流的鞅。

** 计算她停止赌博时的破产概率

*** 计算她停止之前的平均局数

易错点题目的笔误:财富应写成 Sₙ = b + X₁ + ⋯ + Xₙ

题目写 又写 后者在 时是 0,和 矛盾。按题意,第 局后的财富应为

下面一律按这个理解。自然 σ-代数流是 ( 是平凡 σ-代数)。

原解答的思路(左栏):

  • *:用 验证两个鞅性质。
  • **:对 用可选停止定理,结合 解出破产概率。
  • ***:对 用可选停止定理,解出

思路完全正确,但有一处数值笔误、一处公式漏项,并且没有验证可选停止定理的条件(见「原解答逐行对照」)。

思路:怎么想到的

  • 未知量有三个:破产概率 获胜概率 平均时间 需要几个方程?
  • 第一个方程来自「公平」: 是鞅,停止时的期望财富应等于初始财富:而 只取 0 或 所以 一个方程解出
  • 第二个方程来自「方差随时间线性增长」:每局方差为 1, 是鞅。停止时 而 只取 0 或 于是能解出
  • 要小心的地方:「停止时期望不变」不是无条件成立的(见反例),必须检查 是否几乎必然有限、停止前的过程是否有界。

完整解答

设定: 是停时: 只依赖前 局。

* 两个鞅

:

  1. 适应: 是 的函数。
  2. 可积:
  3. 鞅性质:这里 已知(规则 2), 与 独立(规则 3),

:适应( 也只用到 可积(是一个常数上界)。展开 于是

( 恒成立)所以

先证明:T 几乎必然有限,并且 E T < ∞

可选停止定理需要这一条,原解答没有证明。用 本身就能得到。

第 1 步:由可选停止定理第 1 条, 是鞅,即

第 2 步:在时刻 之前,财富始终在 内(一碰到 0 或 就停),所以

第 3 步:(由单调收敛定理,特别地

** 破产概率

由可选停止定理第 1 条,因为 a.s.,又 由有界收敛定理(第 1 讲 第 46 页),(这正是条件 (b))。

只取两个值:(破产,概率 和 (获胜,概率 所以

*** 平均局数

回到第 1 步的等式 令

  • 左边:单调收敛定理给出
  • 右边: 且 有界收敛定理给出

所以

原解答逐行对照

  1. * 部分:「和 的展开计算都正确;只是没有写出「 关于 可测、 与 独立」这两条理由,也没有检查可积性。
  2. ** 部分:定义 并指出「赢 元」「输 元」正确(looses 应为 loses)。
  3. 「By the Optional Stopping Theorem :意思是「由可选停止定理,数值错误,见下面的警告卡片。
  4. 「:这个方程本身是对的,它说的是「输赢的期望为 0」,即
  5. 「So : 应为
  6. *** 部分:这里把 记为 和 * 部分里 冲突(应为 「正确。
  7. 「Hence :漏项,见下面的警告卡片。
易错点原解答的问题:E(S₀) = b,不是 0

原解答写「可是 所以 正确的式子是 后面的方程 实际上是 所以最后的答案碰巧没错。原解答在「从 出发」和「从 0 出发、两边界是 和 两种写法之间混用了。

易错点原解答的问题:E T 的公式漏了 −b²

由前一行 应得 原解答写成「中间漏掉了 (不等于

易错点原解答的问题:没有验证可选停止定理的条件

可选停止定理并不总成立(「拓展延伸」里有反例:本题需要说明 几乎必然、并且停止前的 有界,才能把 推到 上面「先证明」一节补上了,而且用 同时证明了

例子与数值验证

例 1:具体数字与电脑模拟

取 破产概率 平均局数 模拟 10 万次(固定随机种子):破产比例 平均局数

破产概率(理论 / 模拟) 平均局数(理论 / 模拟)
/ /
/ /
/ /
例 2:不用鞅的解法——一阶差分方程

记 为从 元出发的破产概率。看第一局:一半概率变成 一半变成 所以

这说明 相邻差相等, 是一次函数,用同样的办法看第一局,平均局数 满足 (开头的 1 是第一局本身)、二阶差分等于 解得 和鞅方法的答案一致。

例 3:直觉检验
  • 很接近 (几乎赢到目标)时,破产概率 很小,平均局数 也小:离边界近,很快结束。
  • (正中间)时平均局数最大,为 例:平均 100 局。
  • 平均局数和到两边距离的乘积成正比:这是随机游走「走 步大约离开 远」的体现。

拓展延伸

不公平的游戏:指数鞅

设 此时 不再是鞅,但 (是鞅:同样的方法给出

轮盘赌押红色 时破产概率约 (模拟 时约 赌场只多占一点点优势,赌得越久,玩家几乎必输。

可选停止定理的条件为什么不能省:「赢 1 块就走」

从 出发的公平随机游走,令 (赢 1 块就走,没有下边界)。于是 可选停止定理失败了。

先用本题的结论说明 几乎必然、但 任取正整数 再加一条下边界 把财富整体加 就是本题 的情形。

  • 先碰到 1 的概率:它等于本题的「获胜概率」先碰到 1 时 所以 令 得
  • 平均时间: 不小于「碰到 或 1 的时刻」,后者的期望是 所以 对每个 成立,

定理失败的原因: 没有下界(中途可能输很多),条件 (b) 不成立;条件 (c) 也不成立。现实含义:没有无限的本钱和时间,「赢一点就走」的策略在公平游戏里并不能保证赚钱。

对手的钱无穷多时

令 破产概率 平均局数 也就是说,和一个无限富有的对手赌公平的游戏,一定会输光,但平均要等无穷长的时间。这正是上一条反例的另一面。

Wald 恒等式

两个鞅对应概率论里的两个 Wald 恒等式:若 i.i.d.、均值 方差 是停时且 则

本题 第一个给出 第二个给出 展开同样得到

常见疑问与易错点

易错点问:为什么不能直接说「游戏公平,所以 E S_T = E S₀」?

答:因为停止的时刻是随机的,而且依赖于游戏的过程。「赢 1 块就走」的例子里,停止时刻专挑对自己有利的时机,期望财富就变了。只有在停时足够「温和」(有界,或过程有界、停时有限)时,公平性才能保持到停止时刻。

易错点问:T 会不会是 ∞,即永远碰不到 0 和 a?

答:概率是 0。上面用 和单调收敛定理证明了 从而 几乎必然。直观上:每连续 局里,都有至少 的概率一路赢到 永远不出界的概率是 0。

易错点问:条件期望 E[X₍ₙ₊₁₎ | ℱₙ] 为什么等于 E X₍ₙ₊₁₎?

答:因为第 局的结果与前 局独立(规则 3)。知道前面的输赢,并不改变对下一局的预期。这就是「公平」的数学含义。

小结与自测

小结本题小结
  • 财富 和 都是鞅。
  • 由 得 于是可选停止定理可用。
  • ⇒ 破产概率 ⇒
  • 原解答: 应为 公式漏 可选停止定理的条件未验证。
自测

1. 赌徒有 2 元,目标 5 元,公平游戏。破产概率和平均局数各是多少?

点开看答案

破产概率 平均局数

2. 验证:对不公平的游戏, 是鞅。

点开看答案

因为

3. 从 出发的公平随机游走,为什么不能对 用可选停止定理得出

点开看答案

几乎必然,所以 可选停止定理的条件都不满足: 没有下界(条件 (b) 失败),(条件 (c) 失败), 也无界(条件 (a) 失败)。

本页术语中英对照(按出现顺序)
中文English白话解释
鞅martingale适应、可积且 E[Xₙ₊₁ | 𝓕ₙ] = Xₙ 的随机过程:公平游戏,已知过去时对下一步的最佳猜测就是现在的值。
期望expectation随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。
可选停止定理optional stopping theorem在适当条件下(如 T 有界,或 E T < ∞ 且每步增量有界),鞅在停时处的期望等于初值:E M_T = E M₀。
停时stopping time取值为 0, 1, 2, …(或 ∞)的随机时刻 T,「是否在第 n 步停下」只依赖前 n 步的信息:{T = n} ∈ 𝓕ₙ。
条件期望conditional expectationE[X | 𝓕] 是已知 σ-代数 𝓕 中的信息时对 X 的最佳猜测;它本身是一个 𝓕-可测的随机变量。
分支过程branching process (Galton–Watson process)每个个体独立地产生随机个后代,Zₙ 是第 n 代的个体数;若平均后代数是 μ,则 Zₙ/μⁿ 是鞅。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
几乎必然收敛almost sure convergence除了概率为 0 的结局以外,Xₙ(ω) 都收敛到 X(ω)。
Radon–Nikodym 导数Radon–Nikodym derivativeQ ≪ P 时存在 L = dQ/dP ≥ 0,使 Q(A) = ∫_A L dP;它是「换测度的密度」。
可积integrable (L¹)∫|f| dμ < ∞。全体可积函数记作 L¹(μ)。
独立independence任意有限个事件同时发生的概率等于各自概率的乘积。
事件event样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。
赌徒破产gambler's ruin资本从 b 出发,每局公平地赢 1 或输 1,直到输光(0)或达到目标 a 为止;破产概率是 1 − b/a,平均局数是 b(a − b)。
独立同分布independent and identically distributed (i.i.d.)一列随机变量相互独立,并且分布都相同,例如反复独立地掷同一颗骰子。
σ-代数sigma-algebra允许谈概率的「事件清单」:含 Ω,对补集和可数并封闭。
方差varianceVar X = E[(X − E X)²],衡量随机变量围绕均值的波动大小。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
上界upper bound数集 A 的上界是一个数 M,A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界;所有上界中最小的那个叫上确界。
单调收敛定理monotone convergence theorem (MCT)非负可测函数单调递增地收敛时,积分也收敛:∫fₙ ↑ ∫f。
有界收敛定理bounded convergence theorem (BCT)有限测度上一致有界、几乎处处收敛的函数列,积分收敛;是 DCT 的特例。
下界lower bound数集 A 的下界是一个数 m,A 里每个数都 ≥ m。例如 0 和 −3 都是 (0,1] 的下界;所有下界中最大的那个叫下确界。