高等概率论逐页精讲

第 3 讲 Borel–Cantelli、收敛与 Radon–Nikodym›第 1 部分 Borel–Cantelli:事件的重复发生

PDF 第 7 / 47 页幻灯片 7/49定理

第二 Borel–Cantelli 引理:独立且概率之和无穷,就发生无穷多次

Borel–Cantelli II

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

如果事件相互独立,并且概率加起来是无穷大,那么以概率 1 它们发生无穷多次:

这是第 1 部分的第二个工具,方向和第一引理(第 4 页)正好相反:

条件 结论
第一引理(第 4 页) 不需要独立
第二引理(本页) 需要相互独立

两者合起来,对相互独立的事件给出一个非此即彼的结论: 只能是 0 或 1,看 是有限还是无穷。

第 5 页 已经说明:没有独立性时, 也可能只发生有限次。所以独立性这个条件是必不可少的。下一页(第 8 页)用它证明抛硬币时任何固定字串都会出现无穷多次。

先补基础

基础补课指数函数 e^x
  • 是自然常数。 对所有实数 都有定义,而且总是正数。
  • 关键性质:所以一串乘积可以变成指数上的求和:
  • 随 增大而减小,当 时 例:
基础补课不等式 1 − x ≤ e^{−x}

对所有实数 先看几个数:

几何意义:直线 是曲线 在 处的切线,而这条曲线向上弯(凸),整条曲线都在切线上方。证明见下面「推导」一节。在本页里只用 的情形。

基础补课发散级数去掉前面几项仍发散

若 且 则对每个 理由:前 项之和是有限数,如果尾巴也有限,整个和就有限了,矛盾。例:

基础补课从上连续(回顾)

若事件 一个比一个小,则 (第 14 页;概率测度的总质量是 1,有限,所以可以用)。

课件原文逐句精读

课件原文Borel–Cantelli II

Theorem 4 (Second Borel–Cantelli lemma)

中文翻译

定理 4(第二 Borel–Cantelli 引理)

  • Theorem 4:定理 4,紧接着 第 6 页 的定义 3(相互独立)。编号顺序本身就提示:这个定理要用到独立性。
  • Second Borel–Cantelli lemma:第二 Borel–Cantelli 引理,是第一引理的「反方向」伙伴。
  • 课件在标题之下留白,定理的陈述与证明由下面补全。

补全课件留白

补充说明

课件此处留白(课堂板书),以下内容由本站根据标准教材补写,记号与本课件保持一致;如与老师课堂写法不同,以老师为准。

Theorem 4 (Second Borel–Cantelli lemma)|定理 4(第二 Borel–Cantelli 引理)

定理 4(第二 Borel–Cantelli 引理)

设 相互独立(定义 3,第 6 页)。若

则

即以概率 1,有无穷多个 发生。

条件与结论的含义:

  • 相互独立:前面的事件发不发生,不影响后面事件的概率。于是「连续很多次都不发生」的概率可以拆成乘积,越乘越小。
  • :概率之和无穷大。 可以趋于 0,只要趋于 0 得不太快,比如
  • 结论:几乎每一个样本点上, 都会一次又一次地发生,永不断绝。
人话版直觉:独立时,每一次都是「重新开始」的机会

想象你在等一件事「再发生一次」。第 次机会成功的概率是 失败的概率是

  • 独立时,前面失败多少次都不影响后面,所以「从第 次起一直失败」的概率是把所有失败概率乘起来。每乘一个小于 1 的因子,这个概率就缩小一点;总的缩小程度大约是 概率之和无穷,缩小就没有尽头,「从此一直失败」的概率只能是 0。
  • 不独立时(例如 第 5 页 一个套一个的事件),一次失败会「锁死」后面所有机会:落在 外面,就落在之后所有 外面。机会再多也没用。

这就是为什么第二引理必须假设独立,而第一引理不用:第一引理只需要「平均发生次数有限」,与事件之间的关系无关。

推论(独立事件的零一律)

若 相互独立,则

第一种情况来自第一引理(它甚至不需要独立),第二种情况来自本定理。所以对独立事件, 不可能取 0 和 1 之外的值。

补写的证明

推导证明思路

改证补集的概率为 0。「只发生有限次」=「从某个 起全都不发生」。对固定的 用独立性把「第 到第 个全都不发生」的概率写成乘积,再用 把乘积压到 以下;概率之和发散,所以这个概率趋于 0。

  1. 转成补集:由 第 3 页 的补集关系,
  1. 只需证每一块概率为 0:由可数次可加性(第 4 页),

所以只要对每个固定的 证明 3. 有限段的概率是乘积:固定 对 令 (「第 到第 个全都不发生」)。由 第 6 页 的命题 A(独立事件换成补集仍独立),

  1. 用 放大:取 每个因子满足 非负数的不等式可以逐项相乘(若 则 于是
  1. 概率之和发散,所以趋于 0:由基础补课,即 (所以右边 从而
  2. 从上连续: 随 增大而变小(条件越来越多),且 由从上连续,

(也可以只用单调性:所以它的概率不超过每一个 而这些数趋于 0。)7. 合起来:第 2 步的右边每一项都是 0,所以 即

补充独立性用在了哪一步?

只用在第 3 步:把「连续很多个都不发生」的概率拆成乘积。没有独立性,这一步就失效,例如 第 5 页 中一个套一个的事件,根本不会随 变小。

例子

例 1:独立事件,P(A_n) = 1/n——精确算出乘积

设 相互独立,(例如 是独立的 均匀随机变量;这样一列独立随机变量的存在性由测度论的标准构造保证,这里当作已知)。

  • 条件:(第 5 页 证过调和级数发散)。结论:
  • 证明第 3 步的乘积可以精确算出来(

相邻分子分母相消,只剩首项分子和末项分母。

  • 数值:「从第 10 个到第 1000 个一个都不发生」的概率是 到第 个是
  • 对照 第 5 页:同样 那里事件一个套一个,这里独立,概率相同,相关结构不同,结论正好相反。
例 2:一直掷骰子,6 会出现无穷多次

各次独立,所以以概率 1,6 出现无穷多次。

直接验证第 3 步:「第 到第 次都不是 6」的概率是 时趋于 0。例如连续 100 次都不是 6 的概率约为

例 3:独立但概率之和有限——零一律的另一边

设 相互独立,由第一引理 第二引理不适用(和不是无穷)。两个引理合起来正好覆盖了独立事件的所有情况。

例 4(反例):不独立时,和为无穷也可以不发生无穷多次
  • 第 5 页:(嵌套),但
  • 第 4 页 例 3: 对所有 (但

两者都不独立,所以第二引理的结论不成立。

推导:一步一步来

证明 对所有实数 成立。

  1. 令 要证
  2. 求导:
    • 当 所以 在 上递增;
    • 当 所以 在 上递减。
  3. 所以 在 处取到最小值 处处 即 等号只在 处成立。

逐项相乘的不等式。 若 (则 (每次只换一个因子,且另一个因子非负,不等号方向不变),依次换下去得到 这里需要 这由 保证。

动手试一试动手试一试:独立、概率之和无穷,正面出现无穷多次

选「公平硬币」:每次正面概率 各次独立,把 N 拖到很靠后,从第 N 次往后几乎总还有正面——第二 Borel–Cantelli 引理说它以概率 1 发生无穷多次。再换成「正面概率越来越小」对比:概率之和有限时结论正好相反。

常见疑问与易错点

易错点问:P(A_n) → 0,怎么还能发生无穷多次?

答:「每个事件越来越难发生」和「总共发生无穷多次」并不矛盾,关键是趋于 0 的速度。例 1 中 第 个事件越来越难发生,但事件的个数是无穷的,平均发生次数 在独立的情况下,这些机会一次次累积,就不断有事件发生。当然,发生得越来越稀疏:前 个里平均只发生约 个。

易错点问:P(A_n i.o.) = 1 是说每条路径上 A_n 都发生无穷多次吗?

答:是「几乎每条」。可能存在一些路径只发生有限次(例 2 中「一个 6 都不出现」的那条掷骰记录就存在),但所有这样的路径合起来概率为 0。

易错点问:为什么证明里要先固定 m,再让 M → ∞?

答:因为「只发生有限次」意味着存在某个起点 此后全都不发生。起点有可数多个,第 2 步用可数次可加性把问题拆成「每个固定起点的概率都是 0」。对固定的起点,再看越来越长的一段 这一段全不发生的概率可以用独立性精确计算,然后让

易错点问:只要两两独立,第二引理还成立吗?

答:成立,这是一个已知的更强结果,但证明要用方差和 Chebyshev 不等式,比本页复杂。本讲采用相互独立的版本,它的证明只需要 第 6 页 的乘积公式。

小结与自测

小结本页小结
  • 第二 Borel–Cantelli 引理: 相互独立且 ⇒
  • 证明:补集 = 从上连续。
  • 独立性只用在「把连续不发生的概率拆成乘积」这一步,但它不可缺少(第 5 页 的反例)。
  • 对独立事件的零一律: 是 0 还是 1,完全由 有限还是无穷决定。
自测

1. 相互独立的事件 满足 等于多少?

点开看答案

等于 1。所以 事件独立,由第二引理

2. 例 1 中,「从第 5 个到第 50 个都不发生」的概率是多少?

点开看答案

3. 判断:对任意一列事件,只要 就有

点开看答案

错。第 5 页 的嵌套事件 满足 但 没有独立性,第二引理不能用。

本页术语中英对照(按出现顺序)
中文English白话解释
事件event样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。
独立independence任意有限个事件同时发生的概率等于各自概率的乘积。
无穷多次infinitely often (i.o.)「Aₙ 发生无穷多次」就是集合 lim sup Aₙ。
概率测度probability measure总质量 P(Ω) = 1 的测度。
Borel–Cantelli 引理Borel–Cantelli lemma概率之和有限 ⇒ 只发生有限次;独立且概率之和无穷 ⇒ 发生无穷多次。
样本点sample point一个完整的结局 ω;每次试验恰好实现一个样本点。
补集complement样本空间里不属于 A 的元素全体,记作 Aᶜ,对应「A 不发生」。
次可加性subadditivity并集的测度不超过各部分测度之和:μ(A ∪ B) ≤ μ(A) + μ(B)。
可数countable元素能排成第 1 个、第 2 个、第 3 个……的一列(有限也算),例如自然数、有理数。
从上连续continuity from above集合一层层变小(Eₙ ↓ E)且 μ(E₁) < ∞ 时,μ(Eₙ) → μ(E)。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
测度measure给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。
级数series无穷多项相加 a₁ + a₂ + …,它的值是前 n 项和在 n → ∞ 时的极限。
Chebyshev 不等式Chebyshev's inequalityP(|X − μ| ≥ t) ≤ σ² / t²:方差控制偏离均值的概率。
方差varianceVar X = E[(X − E X)²],衡量随机变量围绕均值的波动大小。