高等概率论逐页精讲

第 3 讲 Borel–Cantelli、收敛与 Radon–Nikodym›第 1 部分 Borel–Cantelli:事件的重复发生

PDF 第 5 / 47 页幻灯片 5/49例子

每条路径上次数有限,期望却可以无穷:第一引理的逆不成立

A finite count on every path can have infinite expectation

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

在 上随机取点 令 每一个样本点上 都只发生有限次(但平均发生次数 所以「 几乎必然」推不出「第一 Borel–Cantelli 引理的逆命题也不成立。

上一页(第 4 页)的第二种证明走的是这条路:

自然要问:箭头能不能反过来?这一页用一个非常具体的例子说明不能。

它也为 第 7 页 的第二 Borel–Cantelli 引理做铺垫:同样是 这里的事件一个套一个(强烈相关),结果只发生有限次;如果换成相互独立的事件,结果会完全相反。

先补基础

基础补课区间 (0,1)、博雷尔 σ-代数与 λ
  • 是所有满足 的实数,两端都不含。 表示 左端不含、右端包含。
  • 是 上的博雷尔 σ-代数:由所有子区间生成的 σ-代数(第 11 页),区间、区间的可数并等都在里面。
  • 是勒贝格测度(第 23 页),在区间上就是长度:它在 上总质量为 1,所以是概率测度。
  • 这个概率空间就是「在 里均匀地随机取一个点」。
基础补课取整函数 ⌊x⌋
  • (读作「 的下取整」)是不超过 的最大整数。
  • 例:
  • 关键性质:对正整数 和实数 ⟺ 所以「满足 的正整数」恰好是 共 个。
基础补课调和级数发散

把项分组:

第 组是从 到 的 项,每项都 所以每组之和 无穷多个 相加是

基础补课非负整数值随机变量的尾和公式

第 2 讲的尾积分公式(第 21 页)说:对非负随机变量

如果 只取 (也可以取 那么当 在区间 里时,「和「是同一件事(整数大于 就至少是 所以被积函数在每个长度为 1 的区间 上是常数 积分就变成求和:

例: 恒等于 3 时,其余为 0,求和得

课件原文逐句精读

课件原文A finite count on every path can have infinite expectation

On , let and .

中文翻译

在概率空间 上,令

  • 标题:「每条路径上的计数都有限,期望却可以是无穷」。path(路径)指一个样本点 所决定的整条记录 count(计数)就是 第 3 页 的
  • :样本空间是区间 事件是博雷尔集,概率是长度。
  • :随机变量 就是「把取到的点原样读出来」。它服从 上的均匀分布:
  • :事件「取到的点不超过 即

补全课件留白

补充说明

课件此处留白(课堂板书),以下内容由本站根据标准教材补写,记号与本课件保持一致;如与老师课堂写法不同,以老师为准。

补写的计算一:每条路径上的计数都有限

例子计算:N(ω) = ⌊1/ω⌋
  1. 每个事件的概率:特别地
  2. 事件一个套一个: 随 减小,所以
  3. 固定一个样本点 :

(第二步两边同乘正数 第三步用取整的关键性质。)4. 所以 恰好属于 不属于之后的任何一个:

因为 是一个有限的实数,它的下取整也有限。5. 结论:每一个 上 都只发生有限次,当然

具体数字:

属于哪些

注意 属于 因为右端点包含在内。

补写的计算二:平均次数是无穷

例子计算:E N = ∞(四种算法)

算法 1:用 第 4 页 证明二的恒等式。 那里用 MCT 证明了对任意事件列都有 (这个恒等式本身不需要和有限)。于是

算法 2:先求 的分布。 对正整数

检查总和:(裂项相消),确实是一个分布。于是

算法 3:直接积分。 取任意

  • 被积函数非负,把积分范围从 缩小到 积分不会变大;
  • 下取整满足 所以

于是

令 右边趋于 所以

算法 4:尾和公式。 ( ⟺ 由基础补课里的尾和公式,

四种算法结果一致。

补写的结论:第一 Borel–Cantelli 引理的逆不成立

命题结论(本例说明的两件事)
  1. 几乎必然有限 ⇏ 期望有限:本例中 对每个 成立,但 所以 第 4 页 证明二中「只是 a.s. 的充分条件。
  2. 第一 Borel–Cantelli 引理的逆不成立:本例中 但

为什么会这样?因为这些事件没有独立性,而是一个套一个。

  • 对 所以 而 例如
  • 一旦 落在某个 外面,它就落在之后所有 外面。「不发生」会一直延续下去,这种强烈的正相关让事件没法反复发生。
  • 相反,如果事件相互独立,前面发生与否不影响后面。第 7 页 会证明:独立且 时,
人话版为什么有限的 N 平均值会是无穷?

的尾巴很「重」: 很大的情况虽然越来越少见,但少见得不够快。按分布算,取值 对平均值的贡献是 每一项都不小,加起来就超过任何有限数。

更直观的分档算法:把 的取值按 分档,第 档是

  • 这一档的概率: ⟺ 所以
  • 这一档里 至少是 所以它对平均值的贡献至少是

越往后的档,概率越小,但数值越大,两者正好抵消,每档都贡献至少 档有无穷多个,平均值就是无穷。这和调和级数发散的分组论证是同一件事。

图解

图解:一个套一个的区间与一条「路径」
A₁A₂A₃A₄ A₅A₆A₇A₈ ω = 0.3 00.250.50.751

怎么读这张图:

  • 横轴是样本空间 第 行的色条是区间 长度 所以色条一行比一行短,全部从左端 0 出发,一个套一个。
  • 红色虚线是某个样本点,这里取 沿着虚线从上往下走,就是这个 的「路径」:它穿过的色条(橙色的 表示发生,没穿过的(蓝色的 及以后)表示不发生。
  • 所以 的发生记录是 虚线越靠左( 越小),穿过的色条越多,但因为色条长度趋于 0,任何 终究会在某一行之后落到色条外面。
  • 图里看不到「无穷多次」:一条竖线要穿过无穷多个色条,只能站在 上,而 不在样本空间 里。

例子

例 1(对照):换成 A_n = {U ≤ 1/n²}

同一个概率空间上,令 第 4 页 的例 1 已算出 且

这时第一引理的条件满足,结论和实际情况一致。与本页对比:两者每条路径上的计数都有限,差别只在于尾巴轻重: 衰减得够快, 不够快。

例 2:圣彼得堡游戏——处处有限、期望无穷的经典例子

反复抛公平硬币,直到第一次出现正面,记总共抛了 次,奖金为 元。

  • (前 次反面、第 次正面),所以以概率 1 游戏会结束,奖金是有限数。
  • 平均奖金:

和本页一样:每次玩,奖金都有限;但平均奖金无穷大。原因同样是尾巴太重:奖金至少 的概率是 乘起来每一项都差不多是常数。

例 3(预告):同样的概率,换成独立事件

设 是相互独立的 均匀随机变量,令 每个 和本页完全一样,但现在事件相互独立。第 7 页 会证明 几乎每条路径上都发生无穷多次。概率一样、相关结构不同,长期行为可以完全相反。

常见疑问与易错点

易错点问:既然每个 ω 上 N(ω) 都有限,E N 怎么会是无穷?

答:「每个值都有限」和「平均值有限」是两回事。平均值还要看大值出现的频率。本例中 的概率是 大值不够稀少,加权平均就发散了。类比:一个彩票的奖金每次都有限,但奖金分布的尾巴足够重时,平均奖金可以是无穷(例 2)。

易错点问:如果把 Ω 换成 [0,1),结论会变吗?

答:多出的点 属于所有 那里 于是 它的长度是 0,所以 不变, 也不变。只是「每条路径都有限」要改成「几乎每条路径都有限」。

易错点问:恒等式 E N = ∑P(A_n) 要求事件独立吗?

答:不要求。它只用到期望的线性(有限项求和可以和期望交换)以及 MCT(把有限项推到无穷项,第 36 页),对任何一列事件都成立,包括本页这种一个套一个的事件。独立性影响的是 的分布形状(比如 是否以概率 1 为无穷),不影响 的计算公式。

易错点问:这个例子否定了第一 Borel–Cantelli 引理吗?

答:没有。第一引理说「和有限 ⇒ 只发生有限次」,这里和是无穷,引理的条件不满足,它本来就什么也没说。本例否定的是逆命题「只发生有限次 ⇒ 和有限」。

小结与自测

小结本页小结
  • 在 上取 事件一个套一个。
  • 每个样本点上 所以
  • 但 的分布为 尾巴 太重。
  • 结论:几乎必然有限 ⇏ 期望有限;第一 Borel–Cantelli 引理的逆不成立。原因是事件高度相关(嵌套),没有独立性。
自测

1. 在本页的例子中, 属于哪些 等于多少?

点开看答案

所以 属于 验证:属于 不属于

2. 验证 与 是否相等,并说明这对独立性意味着什么。

点开看答案

所以 而 两者不等, 与 不独立。这些事件之间有很强的正相关,第二 Borel–Cantelli 引理用不上。

3. 判断:若 是取值于 的随机变量(不取 则一定有

点开看答案

错。本页的 (以及例 2 的圣彼得堡奖金)处处有限,但期望为

本页术语中英对照(按出现顺序)
中文English白话解释
样本点sample point一个完整的结局 ω;每次试验恰好实现一个样本点。
几乎必然收敛almost sure convergence除了概率为 0 的结局以外,Xₙ(ω) 都收敛到 X(ω)。
Borel–Cantelli 引理Borel–Cantelli lemma概率之和有限 ⇒ 只发生有限次;独立且概率之和无穷 ⇒ 发生无穷多次。
事件event样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。
独立independence任意有限个事件同时发生的概率等于各自概率的乘积。
博雷尔 σ-代数Borel sigma-algebra由实数轴上所有开区间生成的 σ-代数 𝓑(ℝ),包含所有常见的集合。
生成的 σ-代数generated sigma-algebra包含给定集合族的最小 σ-代数 σ(𝒞):只加入「被逼着加入」的集合。
区间interval数轴上的一段,[a,b] 包含端点,(a,b) 不包含端点。
可数countable元素能排成第 1 个、第 2 个、第 3 个……的一列(有限也算),例如自然数、有理数。
勒贝格测度Lebesgue measure实数轴上「长度」的严格版本,定义在勒贝格可测集上,m([a,b]) = b − a。
概率测度probability measure总质量 P(Ω) = 1 的测度。
概率空间probability space三元组 (Ω, 𝓕, P):样本空间、事件的 σ-代数、概率测度。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
期望expectation随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。
样本空间sample space一次试验所有可能的完整结局组成的集合,记作 Ω。
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。
单调收敛定理monotone convergence theorem (MCT)非负可测函数单调递增地收敛时,积分也收敛:∫fₙ ↑ ∫f。
级数series无穷多项相加 a₁ + a₂ + …,它的值是前 n 项和在 n → ∞ 时的极限。
无穷多次infinitely often (i.o.)「Aₙ 发生无穷多次」就是集合 lim sup Aₙ。