高等概率论逐页精讲

第 3 讲 Borel–Cantelli、收敛与 Radon–Nikodym›第 1 部分 Borel–Cantelli:事件的重复发生

PDF 第 3 / 47 页幻灯片 3/49定义

「无穷多次」与「最终总是」:用集合写出长期行为

Infinitely often and eventually always

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

给定一列事件 「 发生无穷多次」和「 从某一步起一直发生」都是事件,可以用可数次并、交写出来;它们还可以用一个计数 ( 落进了多少个 来刻画:发生无穷多次 ⟺

这是第 1 部分「Borel–Cantelli:事件的重复发生」的第一页。整个第 1 部分要回答 目录页 的第一个问题:事件什么时候会发生无穷多次?

要回答「概率是多少」,先得把「发生无穷多次」写成一个集合,并确认它属于 (这样才能谈概率)。这一页就做这件事:

  • 定义「无穷多次」(上极限)和「最终总是」(下极限);
  • 说明两者通过补集互相转化;
  • 引入计数 下一页(第 4 页)的第二种证明就靠它。

第 1 讲 第 7 页 用抛硬币的例子已经写过同样的集合,这里把它变成对任意一列事件都适用的正式定义。

先补基础

基础补课可数并、可数交与量词(回顾)
  • ⟺ 存在某个 使 (并 ↔ 存在
  • ⟺ 对所有 都有 (交 ↔ 对所有
  • 德摩根律:取补集时「并」和「交」互换,「存在」和「对所有」也互换。
  • 详细的讲解和例子见第 1 讲 板书续页:上极限与下极限。
基础补课示性函数 1_A
  • 对事件 示性函数(indicator function) 定义为
  • 它像一盏灯:结局 落在 里,灯亮(1);不在,灯灭(0)。
  • 例:掷骰子,则
  • 对一列事件,把 依次写出来,就得到 的一条 0/1「发生记录」,例如 表示 发生、 不发生、 发生……
基础补课取值可以是 ∞ 的求和
  • 无穷多个非负数相加 定义为前 项和 在 时的极限。因为每项非负,前 项和只增不减,所以极限要么是一个有限数,要么是
  • 如果每一项只是 0 或 1,那么总和就是「1 出现的次数」:有限个 1,总和是有限数;无穷多个 1,总和是
  • 例:
基础补课记号约定:为什么用字母 m

第 1 讲 第 7 页 写上极限时用 表示「从第几项开始看」。本讲要把字母 留给计数 所以把起点改记为 只是换了个字母,意思完全一样。

课件原文逐句精读

课件原文Infinitely often and eventually always

For events

Definition 1 (Infinitely often)

中文翻译

对事件

定义 1(无穷多次)

  • For events :给定一列事件 每一个都属于 σ-代数 要求 有两个作用:
    1. 每个 都有定义;
    2. 下面用 做可数次并、交得到的新集合也仍在 里(σ-代数对可数并、可数交封闭,第 9 页),所以「发生无穷多次」也能谈概率。
  • Definition 1 (Infinitely often):定义 1,标题是「无穷多次」。蓝条标题里还有 eventually always(最终总是),所以这一页要定义两个概念,它们互为「补集的镜像」。
  • 课件在这两行之后全部留白,定义的正文是老师上课手写的,下面补全。

补全课件留白

补充说明

课件此处留白(课堂板书),以下内容由本站根据标准教材补写,记号与本课件保持一致;如与老师课堂写法不同,以老师为准。

Definition 1 (Infinitely often)|定义 1(无穷多次)

定义 1(无穷多次;最终总是)

设 是一列事件。

  1. 发生无穷多次(infinitely often,缩写 i.o.):
  1. 最终总是发生(eventually always,缩写 ev.):

怎么读第 1 个式子:分内外两层。

  • 内层 =「从第 个事件起,至少还有一个发生」。
  • 外层 =「不管从第几个开始看,后面总还有事件发生」。
  • 用量词写: ⟺

怎么读第 2 个式子:

  • 内层 =「从第 个起,每一个都发生」。
  • 外层 =「存在某个起点,从那以后一直发生」。
  • 用量词写: ⟺

两者只是把 和 的位置对调了一下,意思却差很多:「无穷多次」允许中间断断续续,「最终总是」要求从某一步起一次不落。

命题(定义 1 的配套性质)

在定义 1 的记号下:

  1. 补集关系:
  2. 包含关系:
  3. 计数刻画:令 即 落进了多少个 取值于 则
  1. 可测性: 与 都属于 是取值可以为 的随机变量。

每条性质的人话:

  1. 「不是发生无穷多次」=「只发生有限次」=「从某一步起再也不发生」=「 最终总是发生」。
  2. 从某一步起一直发生,当然就发生了无穷多次。反过来不对(见下面例 1 的第一行)。
  3. 把 的发生记录里的 1 加起来就是 1 有无穷多个 ⟺ 发生无穷多次。
  4. 可测性保证 有意义。后面两页的 Borel–Cantelli 引理,算的就是这个概率。

证明放在下面的「推导」一节。

例子

例 1:看发生记录,逐条判断

每一行是某个样本点 的发生记录

发生记录 无穷多次(i.o.)? 最终总是(ev.)?
(奇数项发生) 是 否
(只有前 3 个发生) 否 否
(第 4 个起全发生) 是 是
只在 (平方数)发生 是 否
(从不发生) 否 否

逐行说理由:

  • 第 1 行:任给起点 从 往后最多走一步就遇到奇数项,所以 成立,是 i.o.。但任何起点之后都还有偶数项(不发生),找不到「从此一直发生」的起点,所以不是 ev.。这一行说明 ev. 严格比 i.o. 强。
  • 第 2 行:取 从第 4 项起一个都不发生,所以 不含 「在 处失败,不是 i.o.;只发生 3 次,
  • 第 3 行:取 从第 4 项起全发生,是 ev.;于是也是 i.o.(性质 2)。
  • 第 4 行:任给 取 第 项发生,是 i.o.;但平方数之间有空档(如 任何起点之后都会遇到不发生的项,不是 ev.。发生得越来越稀疏也没关系,只要永不断绝就是 i.o.。
  • 第 5 行:一次都不发生,
例 2:区间 (0,1) 上交替出现的两个事件

取 为长度(勒贝格测度)。令

每个

  • 若 发生记录是 i.o. 但不是 ev.。
  • 若 发生记录是 同样 i.o. 但不是 ev.。

所以

每个事件的概率都是 两个长期事件的概率却一个是 1、一个是 0。单个 的大小并不能直接告诉你长期行为。

例 3:掷骰子,把集合翻译成话

一直掷一颗骰子,

  • 「6 出现无穷多次」。
  • 「从某一次起再也不出现 6」,也就是「6 只出现有限次」,恰是上一条的补集。
  • 「从某一次起每次都是 6」。
  • 这条无穷长的掷骰记录里 6 的总个数。

在 第 7 页 我们会证明:因为各次独立、所以

推导:一步一步来

推导证明思路

补集关系用两次德摩根律;计数刻画用「0/1 求和就是数 1 的个数」;可测性用 σ-代数对可数并、可数交封闭。

性质 1(补集关系)。 对 取补集:

第二个等式对 用同样的两步德摩根律得到:外层并的补是补的交,内层交的补是补的并,结果为

性质 2(包含关系)。 设 即存在 使所有 都有 任给起点 取 一方面 另一方面 所以 于是 成立,

性质 3(计数刻画)。

  1. 每一项 只取 0 或 1,所以 就是集合 的元素个数(见基础补课)。
  2. 于是 ⟺ 有无穷多个 使
  3. 再说明「有无穷多个 ⟺「
    • 若有无穷多个这样的 任给 小于 的正整数只有 个,装不下无穷多个,所以必有一个这样的
    • 反过来,若对每个 都有这样的 这些 就没有上界(任何候选上界 之后都还有一个),而有限个数总有最大值,所以这样的 有无穷多个。
  4. 合起来 取补集,(性质 1)。

性质 4(可测性)。

  1. 每个 σ-代数对可数并封闭,所以
  2. σ-代数对可数交也封闭(可数交 = 补集的可数并再取补),所以 即 的论证相同步骤:先 再
  3. 部分和 是简单函数(第 30 页),因而可测; 随 递增,可数个可测函数的上确界仍可测,所以 是(可取 的)随机变量。
展开:示性函数的上极限就是上极限集合的示性函数

对实数序列,(第 40 页)。对 0/1 序列 ⟺ 从第 项起至少有一个 1 ⟺ 所以 再让 ( 递减),得到

这就是集合的上、下极限借用「limsup / liminf」这个名字的原因。

常见疑问与易错点

易错点问:P(A_n i.o.) 是不是就等于 lim P(A_n)?

答:不是,二者可以差得很远。例 2 里 始终是 而 再比如 第 5 页 和 第 7 页 会给出两列事件,概率都是 一列的 另一列却等于 1。长期行为取决于事件之间的关系(是否独立、是否嵌套),不只取决于每个事件自己的概率。

易错点问:「无穷多次」和「最终总是」哪个更难满足?

答:「最终总是」更难满足。它要求从某一步起一次不落地发生;「无穷多次」只要求永不断绝,中间可以有空档。所以总有

易错点问:N(ω) = ∞ 合法吗?随机变量不是取实数值吗?

答:这里允许 取 这类随机变量叫「广义实值」随机变量,第 1 讲定义非负函数的积分时就允许函数取 (第 33 页)。 恰好对应「发生无穷多次」,所以这种取值不仅合法,而且正是我们要研究的对象。

易错点问:两个式子里的 ∩ 和 ∪ 能不能交换顺序?

答:不能。(先并后交)是「无穷多次」;(先交后并)是「最终总是」。例 1 第一行(属于前者、不属于后者,说明两者不相等。

小结与自测

小结本页小结
  • 即发生无穷多次。
  • 即从某一步起一直发生。
  • 补集关系:(只发生有限次 = 从某步起再不发生);并且 ev. ⊆ i.o.。
  • 计数 这些集合都在 里,可以谈概率。
自测

1. 发生记录为 (每三个一组,组内为 0,1,1)。它属于 吗?属于 吗? 是多少?

点开看答案

属于 i.o.:任给起点 往后最多两步就遇到 1。不属于 ev.:任何起点之后都会遇到组首的 0。(1 有无穷多个)。

2. 用定义 1 的记号写出「 只发生有限次」,并说明它和 的关系。

点开看答案

「只发生有限次」是 即从某一步起 再不发生。由计数刻画,它正好等于

3. 判断:如果 且 那么 的发生记录里 0 和 1 都出现无穷多次。这可能吗?举例。

点开看答案

可能,而且正确。例 1 第一行 就是:1 出现无穷多次( i.o.),0 也出现无穷多次( i.o.)。这样的 既不在 里,也不在 里。

本页术语中英对照(按出现顺序)
中文English白话解释
事件event样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。
无穷多次infinitely often (i.o.)「Aₙ 发生无穷多次」就是集合 lim sup Aₙ。
可数countable元素能排成第 1 个、第 2 个、第 3 个……的一列(有限也算),例如自然数、有理数。
集合set把一些对象放在一起当成一个整体,例如 {1,2,3}。
上极限limit superior (lim sup)数列「尾部的最大可能值」的极限;对集合则表示「发生无穷多次」。
下极限limit inferior (lim inf)数列「尾部的最小可能值」的极限;对集合则表示「从某一项起一直发生」。
补集complement样本空间里不属于 A 的元素全体,记作 Aᶜ,对应「A 不发生」。
德摩根律De Morgan's laws「并的补 = 补的交」「交的补 = 补的并」,把「非(A 或 B)」变成「非 A 且非 B」。
示性函数indicator function𝟏_A(x) 在 x ∈ A 时取 1,否则取 0;它的积分就是 A 的测度。
σ-代数sigma-algebra允许谈概率的「事件清单」:含 Ω,对补集和可数并封闭。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
Borel–Cantelli 引理Borel–Cantelli lemma概率之和有限 ⇒ 只发生有限次;独立且概率之和无穷 ⇒ 发生无穷多次。
样本点sample point一个完整的结局 ω;每次试验恰好实现一个样本点。
勒贝格测度Lebesgue measure实数轴上「长度」的严格版本,定义在勒贝格可测集上,m([a,b]) = b − a。
独立independence任意有限个事件同时发生的概率等于各自概率的乘积。
元素element集合里的对象。ω ∈ Ω 读作「ω 属于 Ω」。
上界upper bound数集 A 的上界是一个数 M,A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界;所有上界中最小的那个叫上确界。
部分和partial sum级数 a₁ + a₂ + … 的前 n 项之和 Sₙ = a₁ + … + aₙ;级数的值就是 Sₙ 在 n → ∞ 时的极限。
简单函数simple function只取有限个值的可测函数,是若干示性函数的线性组合,图像像台阶。
可测函数measurable function对每个 a,集合 {f > a} 都可测;这样的函数才能积分。
上确界supremum (sup)最小的上界。最大值不一定存在,但有上界的实数集一定有上确界。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。