高等概率论逐页精讲

第 1 讲 测度与积分›第 1 部分 概率空间与可测事件

PDF 第 11 / 47 页幻灯片 10/42定义

生成的 σ-代数:只添加「被迫加入」的集合

The generated sigma-algebra adds exactly what is forced

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

你手里有几个「一定要当事件」的集合(比如「第 1 次正面」,或者所有区间)。它们自己通常凑不成 σ-代数。生成的 σ-代数 就是:把它们放进去,再把 σ-代数的规则逼着你加入的集合加进去,多一个都不加。它是包含这些集合的最小的 σ-代数。

上一页 第 10 页 说:σ-代数不能总是取最大的 要「够用但不太大」。那具体怎么选?最常见的做法是:

  1. 先列出你必须能谈概率的基本事件,组成一个族
  2. 取包含 的最小 σ-代数,记作

这一页给出 的精确定义(定义 4),并证明它确实是「最小」的(命题 5)。老师的板书举了两个例子:有限的 和整讲最重要的博雷尔 σ-代数 并由此引出随机变量的分布函数(CDF)。本页属于第 1 部分「概率空间与可测事件」。

先补基础

基础补课花体字母 𝒞、𝒢:集合族
  • 和 一样,是集合族(元素是 的子集)。 取自 collection(收集),代表「你想要的那些基本集合」; 代表「某一个 σ-代数」。
  • 的每个成员都是 的子集。
  • 的每个成员也都是 的成员,即「 包含了所有你想要的集合」。
基础补课一堆集合族的交集
  • 如果有很多个集合族 (甚至无穷多个),它们的交集 由「同时属于每一个 的集合组成。
  • 例:交集是 因为这四个集合在两个族里都有,而 只在 里。
  • 写法 先把所有满足条件的 收集起来,再取它们的交集。
基础补课「最小」是什么意思
  • 在集合族之间,用「包含」比大小: 就说 比 小(或一样)。
  • 「包含 的最小 σ-代数」:它自己是包含 的 σ-代数;而且任何别的包含 的 σ-代数都包含它。
  • 注意:这比「元素个数最少」要求更强——它必须被每一个竞争者包含。
基础补课有理数 ℚ 与区间 (−∞, q]
  • 有理数 能写成分数 ( 是整数,的数,如 不是有理数。
  • 有理数可数(能排成一列),而且稠密:任何两个不同实数之间都夹着有理数。
  • 所有不超过 的实数,是一条「向左无限延伸、右端含 的射线。

课件原文逐句精读

课件原文Definition 4 (Generated sigma-algebra)

Definition 4 (Generated sigma-algebra) For a family , define

The collection is nonempty because is one of its members.

Proposition 5 (Minimality)  is a sigma-algebra containing , and if and is a sigma-algebra, then .

(说明:定义 4 的公式、命题 5 的后半句「 is a σ-algebra then 是老师当堂手写的,其余为印刷。)

中文翻译

定义 4(生成的 σ-代数) 对集合族 定义

这一堆 σ-代数不是空的,因为 就是其中一员。

命题 5(最小性)  是一个包含 的 σ-代数;并且,若 是 σ-代数且 则

Definition 4|定义:把所有「合格候选人」取交集

一步一步读这个公式:

  1. 候选人:所有满足两个条件的 ——① 是 上的 σ-代数;② 包含 的每个成员。每个候选人都是「一种满足你要求的事件族」。
  2. 取交集:只保留「每个候选人都有」的集合。
  3. 为什么这样就「只加被迫加入的」:如果某个集合 在 里,那么每个候选人都含 ——无论你怎么选 σ-代数,只要它包含 就躲不开 这就是标题「adds exactly what is forced」(恰好添加被迫加入的东西)。
  4. 为什么不直接列出来:在 这样的空间上, 里的集合多得无法一一列出。「取交集」的写法绕开了列举,却给出了精确的定义。

老师在印刷的 上画了圈:提醒你 是 的一部分,而 本身也会是候选人之一(下一句)。

The collection is nonempty because 2^Ω is one of its members|候选人至少有一个

  • 为什么要特意说「非空」?因为对一个候选人都没有的空集合取交集,没有明确的意义(「属于每一个候选人」的条件对空集合来说是空话,任何东西都满足)。
  • 为什么 是候选人:第 10 页 证明过 是 σ-代数;而 的成员都是 的子集,当然都在 里。两个条件都满足。
  • 所以交集总是良好定义的,而且

Proposition 5 (Minimality)|最小性

命题 5 有三层意思(证明在下面「推导」一节):

  1. 是 σ-代数:一堆 σ-代数的交集还是 σ-代数。这一点不是显然成立的——一般来说,两个 σ-代数的并就不一定是 σ-代数(例 4)。
  2. 它包含 :每个候选人都包含 所以交集也包含
  3. 它最小(老师手写的后半句):任何包含 的 σ-代数 都是候选人之一,而交集总被每个参与者包含,所以
定义 4 与命题 5(生成的 σ-代数)

对 由 生成的 σ-代数 是所有包含 的 σ-代数的交集。它满足:

  1. 是 σ-代数,且
  2. 若 是 σ-代数且 则

也就是说, 是包含 的最小 σ-代数。

人话版怎么求 σ(𝒞):两边夹

实际计算 时,几乎总用「两边夹」的办法:

  • 上界:猜一个族 验证它是 σ-代数且包含 由最小性,
  • 下界:说明 的每个成员都是「被迫加入」的——任何包含 的 σ-代数都必须含它。于是
  • 两边合起来,板书的例 ① 就是这样算的。

老师板书在说什么

老师板书板书转写(按从上到下的顺序)
  1. (印刷的 被蓝笔圈出)
  2. .(原文拼作 simga-alegra,即 sigma-algebra)
  3. (命题 5 下方) is a σ-algebra then .
  4. ①   .
  5. .
  6. ② Borel σ-algebra.
  7. .
  8. the event is admissiable.(花括号右下方写着 集合 下画了红线;admissiable 即 admissible)
  9. (红笔)CDF 
  10. (红笔,右侧)
  11. (红笔)
  12. (红笔).
  13. (蓝笔,左下)

第 1–3 行:定义与最小性

就是上面讲过的定义 4 和命题 5,老师把印刷课件空着的公式补全了。

第 4–5 行:例 ①,由一个集合生成的 σ-代数

老师写的 是简写,严格应写 生成元是只含一个集合 的族。用「两边夹」验证

  • 上界:第 9 页 板书已经验证 是 σ-代数,而且它含 由最小性,
  • 下界:任取一个含 的 σ-代数 它必须含 (规则 1),含 (对 用规则 2),含 (对 用规则 2)。所以 的四个成员都是被迫加入的,对每个候选人都成立,所以
  • 合起来:它就是 第 9 页、第 10 页 里「只看第 1 次硬币」的信息。

这个例子说明:「我只关心 这句话,自动决定了事件族—— 本身、它的反面、必然事件、不可能事件,恰好这四个,一个不多。

第 6–7 行:例 ②,博雷尔 σ-代数

博雷尔 σ-代数(Borel sigma-algebra) 是 上最常用的事件族。老师的定义是

即由所有「右端点是有理数的左射线」生成的 σ-代数。

  • 为什么用射线 :「是关于一个数最基本的问题。只要这些问题都能回答,σ-代数的规则会迫使其他问题也能回答。
  • 为什么只用有理数 就够了:有理数可数,便于操作;而且端点是无理数的射线也会被迫加入。例如取一列从上方逼近 的有理数 则 是可数交,必在 里(推导一节有详细论证)。
  • 它里面有什么:所有区间(开、闭、半开)、单点、有理数集 所有开集和闭集,以及它们反复做可数次运算得到的集合。你能具体写出来的实数集合,几乎都在里面。
  • 它不是 :维塔利集就不在里面(第 21 页、第 23 页)。这正好解决了 第 10 页 红框的问题。
  • 常见的等价定义:由所有开区间生成,或由所有开集生成,得到的是同一个 σ-代数。不同教材写法不同,结果一样。

第 8 行:{X ≤ x} 必须是事件

这里 是一个随机变量(第 5 页:把结局翻译成数字的函数)。老师用红线划出集合 常简写为 意思是「 的取值不超过 这件事。

  • is admissible:对每个实数 (花括号下的 这个集合都必须在 里,否则连「 的概率」都没法问。
  • 这其实就是「随机变量必须可测」的要求(第 29 页 会正式定义可测函数)。它和第 7 行的联系是: 就是「 落在射线 里」,而这些射线正是博雷尔 σ-代数的生成元。

第 9 行:分布函数 CDF

  • CDF 是 cumulative distribution function(累积分布函数,简称分布函数)的缩写。「累积」是说:从 一路累加到 为止的概率。
  • 第 8 行保证了右边有定义。
  • 第 2 讲会系统讲 CDF。这里老师想说明:CDF 能算出 落在任何区间里的概率——见第 10–12 行。

第 10–12 行:区间事件 = 两个射线事件相减

老师用减号「表示差集,标准写法是 为什么成立:

  1. 且不是 就是 且 即
  2. 两个射线事件都在 里(第 8 行),差集还在 里(第 9 页 结论 4),所以区间事件也是事件。
  3. 算概率: 时 所以 是 与 的不交并。由可加性,

第 13 行:回到三件套

最后老师写下 生成的 σ-代数告诉我们怎么选中间那一项 下一页 第 12 页 把整个三件套正式定义为概率空间。

例子

例 1:两个单点生成了全部子集

逐个找「被迫加入」的集合:

  1. 规则 1:补集得
  2. 补集:
  3. 并集:再取补集
  4. 到这里已经有了 这是全部 个子集。

它们都是被迫的,而 是 σ-代数,所以 直观:知道「是不是 1」「是不是 2」,就能推出「是不是 3」,于是每个点都分辨得出来。

例 2:由一个「分块」生成

(骰子),三块互不重叠、拼起来是

  • 上界:令 =「若干块的并」组成的族(包括一块都不选的 和全选的 共 个集合,如 几块的并的补集是其余块的并,几块的并的并还是几块的并,所以 是 σ-代数,且含
  • 下界:每个「若干块的并」都是 中成员的有限并,任何含 的 σ-代数都必须含它。
  • 所以 共 8 个集合。它分辨不了 1 和 2(它们总在同一块里)。这对应「只告诉你点数是 1–2、3–4 还是 5–6」的信息。
例 3:博雷尔集里有什么

按「被迫加入」的思路,验证下列集合都在 里:

  1. 两个生成元的差集。
  2. 单点 可数多个左开右闭区间的交(每个区间都像第 1 条那样得到)。
  3. 开区间 可数并。
  4. 有理数可数,是可数多个单点的并。
  5. 无理数全体 的补集。

每一步只用了 σ-代数的规则,所以这些集合都是「被迫加入」的。

例 4(反例):两个 σ-代数的并,不一定是 σ-代数

两个都是 σ-代数。它们的并 含 和 却不含 不是 σ-代数。所以定义 4 用的是交集而不是并集:交集保持 σ-代数的性质,并集不一定。

例 5:分布函数的具体计算

抛两次公平硬币,=正面次数,取值 0、1、2,概率分别为

  • 都在 里,是事件。
  • 分布函数:((((
  • 用第 10–12 行的公式:正是「恰好一次正面」的概率。
动手试一试动手试一试:点一点,看 σ(𝒞) 长什么样

在 上,点击数字把它放进(或移出)生成集 演示会先找出「原子」——对 的「属于 / 不属于」完全相同的点归成一块,这是 里无法再切分的最小事件;然后列出 的全部成员:恰好是原子的所有可能的并,共 个。试试:只让 时,原子是 和 得到 这 4 个集合;再让 原子变成 σ-代数一下子变成全部 16 个子集。

推导:一步一步来

推导证明思路

命题 5 的关键是:一堆 σ-代数的交集仍是 σ-代数。逐条检查三条规则:每条规则在每个候选人里都成立,所以在交集里也成立。最小性则几乎是定义本身。最后补上「无理端点的射线也在 里」的论证。

记所有候选人(包含 的 σ-代数)组成的集合为 于是 一个集合属于 当且仅当它属于每个

第 1 步: 满足规则 1。 每个 都是 σ-代数,都含 所以 属于每个候选人,

第 2 步:满足规则 2。 设 任取候选人 (因为 属于每个候选人),而 是 σ-代数,所以 是任取的,所以 属于每个候选人,

第 3 步:满足规则 3。 设 任取候选人 每个 而 对可数并封闭,所以 对每个候选人都成立,所以

第 4 步:包含 每个候选人都包含 所以 的每个成员属于每个候选人,

第 5 步:最小性。 设 是任意一个包含 的 σ-代数。那么 是参与取交集的一员。交集里的集合属于每个参与者,当然属于 所以

补充:任意实数 的射线 都在 里。

  1. 对每个 区间 里有有理数(有理数稠密),取一个记为 于是
  2. 断言:
    • 若 则 对每个 成立, 在每条射线里,所以在交集里。
    • 若 取 足够大使 则 不在 里,所以不在交集里。
  3. 每个 是生成元,交集是可数交,由 第 9 页 结论 3,

常见疑问与易错点

易错点问:σ(𝒞) 是不是就是「把 𝒞 的成员做一两次补、并运算」得到的集合?

答:在有限的例子里,反复做几轮运算确实能得到全部。但在 上,做一轮可数并、可数交后又会产生新集合,再做一轮又有新的……这个过程可能要进行「无穷多轮」都停不下来。定义 4 用「取所有候选人的交集」一步到位,避开了这个麻烦。

易错点问:σ(𝒞) 会不会比 𝒞 大很多?

答:会,而且通常如此。例 1 里 只有 2 个集合, 却有 8 个;博雷尔 σ-代数由可数多条射线生成,却包含了几乎所有你能写出来的实数集合。但它依然不等于

易错点问:σ(𝒞) 一定比 𝒞 大吗?

答:不一定。如果 本身已经是 σ-代数,那么它自己就是最小的候选人,例如

易错点问:为什么是「取交集」,而不是「取并集」?

答:交集保持 σ-代数的性质(推导一节第 1–3 步),并集不保持(例 4)。而且我们要的是「最小」:交集只保留每个候选人都有的,自然最小。

小结与自测

小结本页小结
  • =所有包含 的 σ-代数的交集;因为 是候选人,这个交集总有意义。
  • 命题 5: 是包含 的最小 σ-代数,只含「被迫加入」的集合。
  • 计算方法「两边夹」:找一个含 的 σ-代数做上界,再说明其成员都是被迫的。例:
  • 博雷尔 σ-代数 含所有区间、单点、 等,但不是
  • 随机变量要求 分布函数 且
自测

1. 求

点开看答案

上界:这四个集合组成的族是 σ-代数且含 下界:任何含 的 σ-代数都必须含

2. 判断:若 则

点开看答案

正确。 是 σ-代数,且包含 从而包含 由最小性(对 用命题 5),直观:想要的基本事件越多,被迫加入的也越多。

3. 用博雷尔 σ-代数的规则说明闭区间 在 里。

点开看答案

而 是可数多条(端点为有理数的)射线的并,在 里; 是生成元。差集仍在 σ-代数里,所以 另一种写法:两块都在(例 3),并集也在。

本页术语中英对照(按出现顺序)
中文English白话解释
σ-代数sigma-algebra允许谈概率的「事件清单」:含 Ω,对补集和可数并封闭。
集合set把一些对象放在一起当成一个整体,例如 {1,2,3}。
区间interval数轴上的一段,[a,b] 包含端点,(a,b) 不包含端点。
事件event样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。
生成的 σ-代数generated sigma-algebra包含给定集合族的最小 σ-代数 σ(𝒞):只加入「被逼着加入」的集合。
博雷尔 σ-代数Borel sigma-algebra由实数轴上所有开区间生成的 σ-代数 𝓑(ℝ),包含所有常见的集合。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
累积分布函数cumulative distribution function (CDF)F(x) = P(X ≤ x),单调不减、右连续,完全决定分布。
概率空间probability space三元组 (Ω, 𝓕, P):样本空间、事件的 σ-代数、概率测度。
集合族family of sets元素本身都是集合的集合,例如事件族 𝓕。
元素element集合里的对象。ω ∈ Ω 读作「ω 属于 Ω」。
子集subsetA 的每个元素都在 B 里,就说 A 是 B 的子集,记作 A ⊆ B。
交集intersection同时属于两个集合的元素全体,A ∩ B 对应「A 且 B」。
有理数rational number能写成分数 p/q 的数,全体有理数记作 ℚ;它们可数,却在数轴上处处稠密。
可数countable元素能排成第 1 个、第 2 个、第 3 个……的一列(有限也算),例如自然数、有理数。
稠密dense任何一小段区间里都能找到它的点,例如有理数在实数轴上稠密。
空集empty set一个元素也没有的集合,记作 ∅。作为事件,它永远不会发生。
上界upper bound数集 A 的上界是一个数 M,A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界;所有上界中最小的那个叫上确界。
下界lower bound数集 A 的下界是一个数 m,A 里每个数都 ≥ m。例如 0 和 −3 都是 (0,1] 的下界;所有下界中最大的那个叫下确界。
维塔利集Vitali set用选择公理造出的「坏」集合,证明了不可能给 ℝ 的所有子集定义长度。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
可测函数measurable function对每个 a,集合 {f > a} 都可测;这样的函数才能积分。
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。
差集set difference在 A 里但不在 B 里的元素,记作 A \ B,等于 A ∩ Bᶜ。
补集complement样本空间里不属于 A 的元素全体,记作 Aᶜ,对应「A 不发生」。
并集union至少属于其中一个集合的元素全体,A ∪ B 对应「A 或 B」。
当且仅当if and only if (iff)「A 当且仅当 B」:A 成立就一定有 B,B 成立也一定有 A,两者同真同假,记作 A ⟺ B。