高等概率论逐页精讲

第 1 讲 测度与积分›第 1 部分 概率空间与可测事件

PDF 第 8 / 47 页幻灯片 7/42定义

概率的分配必须尊重可数拆分(可数可加性)

Probability weights must respect countable decompositions

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

概率就是给每个事件分配一个「重量」。分配要守两条规矩:总重量是 1;把一个事件切成可数多块、两两不重叠的小块,整体的重量必须等于各块重量之和。

前两页搭好了「事件」:第 6 页 说事件是 的子集,第 7 页 用可数并、可数交写出了「至少一次正面」「无穷多次正面」这类事件,并在最后问了一句 assign the mass?(质量怎么分配?)。这一页回答:分配可以千变万化,但必须遵守两条规则——规范性和可数可加性。

标题里的 decomposition 是「拆分」:一件事拆成若干不重叠的部分,概率就按部分相加。老师在板书最后用 上的均匀分布说明:这种相加只能对可数多块要求,对不可数多块会出矛盾。

这两条规则后面会被正式写进测度与概率空间的定义(第 12 页),而「可数并还得是事件」的要求会在下一页 第 9 页 变成 σ-代数的定义。本页属于第 1 部分「概率空间与可测事件」。

先补基础

基础补课概率是一个「输入集合、输出数字」的函数
  • 读作「P」(概率 probability 的首字母,用空心体写)。 读作「事件 的概率」。
  • 输入是事件(一个集合),输出是 0 到 1 之间的数。写成 它只对事件族 里的集合有定义(第 6 页)。
  • 例:两次抛公平硬币,
基础补课两两不交(pairwise disjoint)
  • 一列集合 两两不交:任取两个不同的下标 都有 也就是任意两块都没有公共元素。
  • 例: 两两不交。
  • 反例: 不是两两不交(尽管三个一起的交集是空集。「两两不交」要求每一对都不交,比「整体的交为空」严格得多。
  • 不交的并常叫「拆分」:若 且 两两不交,就说把 拆成了 这些块。
基础补课级数:无穷多个数相加
  • 的意思:先算前 项的和 (部分和),看 越来越大时 逼近什么。
  • 例: 的部分和 逼近 1,所以和为 1。
  • 例: 的部分和是 越来越大,和为
  • 所有项都 时,部分和只增不减,所以和要么是一个有限数,要么是 而且怎么调换顺序,和都不变。概率都是非负的,所以本页的求和不会出麻烦。
  • 注意:级数要求把项排成一列(第 1 项、第 2 项……),也就是只能对可数多项求和。
基础补课单点集与 [0,1] 上的均匀分布
  • 单点集 只含一个元素 的集合。
  • 「在 上均匀地随机取一个点」(uniform probability)的意思:取到的点落在一个子区间里的概率等于这个子区间的长度,即 (例:

课件原文逐句精读

课件原文Normalization and countable additivity

Normalization and countable additivity On the admissible event family, a probability assignment satisfies and, for pairwise disjoint events ,

Finite atomic model

(说明:课件印刷的句子到「,」为止,下面这个公式是老师当堂手写补上的;Finite atomic model 是印刷的粗体小标题,后面的内容也是手写。)

中文翻译

规范性与可数可加性 在可接受的(老师旁注:允许的)事件族上,一个概率分配满足 并且对于两两不交的事件 有

有限原子模型

Normalization and countable additivity|规范性与可数可加性

这是本页的粗体小标题,点出两条规则的名字。逐句来读:

「On the admissible event family」:概率只对事件族里的集合定义。 老师在 admissible 上方写了中文旁注(推测为「允许」),并在 admissible event family 下画了线: 只对 有意义。不在 里的子集,根本不问它的概率(第 6 页 例 2)。

「a probability assignment」:一个概率分配。 就是一个函数 给每个事件一个数。可以有很多种分配(公平硬币、不公平硬币……),只要守下面两条规则。

第一条,规范性(normalization):

  • 为什么: 包含所有结局,每次试验必然发生(第 6 页),「一定发生」就记作 100%。
  • 它还起「定标」的作用:总量定为 1,其他事件的概率就是「占总量的比例」。如果去掉这条,剩下的规则同样适用于长度、面积、个数,这就是一般的测度(第 12 页),允许总量不是 1,甚至是

第二条,可数可加性(countable additivity)。 条件和结论分开看:

  • 条件: 两两不交(老师在这几个字下画了线)。块与块之间没有重叠。如果有重叠,重叠的部分会被重复计数。例如两次抛币, 都含 HH,而 多出来的 正是 HH 被算了两次。
  • 结论:整体的概率=各块概率之和。左边的 是「至少一块发生」,右边是一个级数。
  • 为什么是「可数」多块,而不只是有限多块? 因为 第 7 页 里那些最自然的事件(至少一次正面、无穷多次正面)本来就是无穷多个事件拼成的。只有有限可加性,这些事件的概率根本算不出来(见下面例 2)。
  • 为什么不要求「不可数」多块? 老师在板书最后专门演示了:要求不可数可加会导出 (见「老师板书在说什么」)。
定义概率分配的两条基本规则

设 是可接受的事件族。函数 称为一个概率分配(后面正式称为概率测度,第 12 页),如果

  1. 规范性:
  2. 可数可加性:对任意一列两两不交的事件 都有

Finite atomic model|有限原子模型

这是印刷的第二个粗体小标题,后面由老师手写

  • 原子(atom):最小、不能再分的块。在有限样本空间里,就是单点事件
  • 有限原子模型: 只有有限个结局,给每个结局一个重量 要求加起来是 1:
  • 那么任何事件的概率都由原子决定:理由: 是它的单点 (的并,这些单点两两不交,只有有限个,用可加性即可。
  • 这就是中学「古典概率」的来源:若 有 个结局且等可能,于是

老师板书在说什么

老师板书板书转写(按从上到下的顺序)
  1. 印刷文字上的标记:admissible 上方写了两个中文字(字迹潦草,推测为「允许」),并有一小竖线指向 admissible;admissible event family 下画了蓝线;pairwise disjoint events 下画了蓝线。
  2. Two tossing   
  3. (印刷的 Finite atomic model 右边)
  4. For uniform prob. on
  5. (中间的「是红笔写的:一个被划掉的等号)

第 2 行:可数可加性的公式

课件印刷的句子停在「,」,老师把规则的公式手写补全。读法见上一节。

第 3 行:两次抛币,一个最简单的「按块相加」

  • 老师写的样本空间里 HT 出现了两次,这是笔误:应为 (和 第 6 页 一样)。
  • 里的「是「随便什么」的意思: 表示「第 1 次是 H,第 2 次随便」,也就是
  • 公平硬币下每个结局重量 拆成两个不交的原子 所以

第 4 行:有限原子模型

有限原子模型只需要检查一件事:所有原子的重量加起来是 1。两次抛币里 合格。

第 5–7 行:为什么只要求「可数」可加——[0,1] 上的均匀分布

这是本页最重要的板书。老师的论证分三步:

  1. 每个单点的概率都是 0(第 5 行)。理由:任取一个很小的正数 点 落在区间 里,这个区间与 的公共部分长度不超过 「 发生」比「落在这个小区间里」更难,所以 可以任意小,而概率不能是负数,只能
  2. 是它所有点的不交并(第 6 行):不同的单点当然不相交;而且 (规范性)。
  3. 如果对不可数多块也能相加,就会得到 荒谬。所以老师用红笔把等号划掉,写成 (第 7 行)。

结论:可加性不能对不可数多块要求。可数可加性只对「能排成一列」的块生效; 是不可数的(它的点不能排成一列),所以第 6 行的并不在可数可加性的管辖范围内,公理本身没有矛盾。

这也回答了 第 7 页 最后的问题:不可数空间上每个点的概率都可以是 0,但整体概率是 1。概率不能「逐点相加」,只能直接分配给集合。

例子

例 1:两次抛币——不交就能相加,重叠就不能直接加

公平硬币,每个结局重量

  1. 「恰好一次正面」=两块不交,概率
  2. 「至少一次正面」=三块两两不交,概率
  3. 错误做法:把「至少一次正面」写成 (第 1 次正面、第 2 次正面),直接算 错在 不满足「两两不交」,HH 被算了两次。
  4. 正确做法:先拆成不交的块,其中 所以
例 2:可数可加性真正派上用场——无穷次抛币中「至少一次正面」

沿用 第 7 页 的无穷次抛公平硬币,=「第 次正面」。把「至少一次正面」按第一次正面出现在第几次拆开:

  1. 两两不交:一条序列的「第一次正面」只有一个位置,不可能同时属于 和
  2. 拼起来正好是「至少一次正面」:至少有一次正面,就有第一次正面,它在某个第 次,于是属于 反之属于某个 当然至少有一次正面。所以
  3. 每块的概率: 规定了前 次的具体结果( 个 T 加一个 H),公平硬币下概率为
  4. 用可数可加性:

如果只有「有限可加」,我们只能算出前 块之和 却无权说「无穷多块合起来的概率就是它们的极限 1」。正是可数可加性把这一步合法化了。

例 3(反例):在全体正整数里「等可能地」选一个数,是不可能的

想在 上让每个数一样可能,设 (对所有 相同)。 是单点 的可数不交并,由两条规则,

  • 若 右边是 不等于 1;
  • 若 右边是 也不等于 1。

两种情况都矛盾。结论:满足可数可加性的「正整数上的均匀分布」不存在。可数可加性不是一句空话,它会排除掉一些看起来很自然的分配。

例 4:可数原子模型——抛到第一次正面为止

记录「抛了几次才第一次出现正面」,由例 2 知 且 合格。

求「抛了偶数次」的概率:它是 的可数不交并,所以

(这里用了等比级数求和:首项 公比 (的等比级数之和是

推导:一步一步来

推导证明思路

所有常用的概率性质,都能从这两条规则推出来。技巧只有一个:把集合拆成两两不交的块,再用可加性。下面依次推出 有限可加性、补集公式、单调性。

性质 1:

  1. 取 它们两两不交(空集和谁都不交),并集是
  2. 由可数可加性:
  3. 左边是 1,右边是 两边减去有限数 1,得
  4. 无穷多个相同的非负数加起来是 0,这个数只能是 0。所以

性质 2(有限可加性):若 两两不交,则

补上 这一列仍两两不交、并集不变。用可数可加性,再用性质 1,后面的项全是 0。

性质 3(补集公式):

且 由性质 2 和规范性,移项即得。例:两次抛币,与例 1 一致。

性质 4(单调性):若 则

两块不交,所以 因为概率非负。板书第 5 行「用的正是单调性: 包含于那个小区间。

性质 5(有限原子模型的公式):

有限集 是 的不交并,由性质 2 即得。

常见疑问与易错点

易错点问:概率为 0 的事件就是不可能发生的吗?

答:不是。在 上均匀取点,每个单点的概率都是 0,但每次总有某一个点被取到。「不可能事件」是 (里面没有结局);「概率为 0 的事件」可以非空。在有限原子模型里,如果每个原子重量都 两者才一致。

易错点问:为什么不干脆要求「任意多块都可加」?

答:板书第 5–7 行已经证明这会导出 是不可数多个单点的不交并,每个单点概率为 0。所以只能要求可数可加。反过来,只要求有限可加又太弱,算不出例 2 那种「无穷多块拼成」的事件的概率,也推不出 第 13 页、第 14 页 的连续性。「可数」恰好是既够用又不自相矛盾的那一档。

易错点问:可数可加性里的并集一定是事件吗?

答:必须是,否则左边 就没有定义。这正是 第 9 页 要求事件族对可数并封闭(σ-代数)的原因:规则要能用,事件族就得配合。

易错点问:概率和测度有什么区别?

答:测度只保留可数可加性(和 不要求总量是 1,值可以是 例如整条实数轴的长度。概率就是「总量为 1 的测度」。第 12 页 会把这两个定义并排写出来。

小结与自测

小结本页小结
  • 概率 只对事件族 里的集合定义,满足规范性 和可数可加性:两两不交时
  • 「两两不交」防止重复计数;「可数」让无穷多块拼成的事件(如「至少一次正面」)也能算概率。
  • 有限原子模型:给每个结局一个重量,总和为 1,
  • 上的均匀分布:每个单点概率为 0,但 所以可加性不能对不可数多块要求。
  • 由两条规则可推出:有限可加、单调性。
自测

1. 掷一颗公平骰子,用可加性计算「点数是质数」的概率,并写出你用到的拆分。

点开看答案

质数有 2、3、5,事件 三块两两不交,每块概率 所以概率为

2. 判断:对任意两个事件 都有

点开看答案

错误。只有 时才成立。反例:两次抛币,=第 1 次正面、=第 2 次正面,但 因为 HH 被算了两次。正确的一般公式是

3. 在 上均匀取点,求「取到的数是有理数」的概率。提示:有理数可以排成一列。

点开看答案

是可数的,可以排成 于是它是单点 的可数不交并。每个单点概率为 0,由可数可加性,概率 注意这里可以用可加性,因为块数是可数的;而板书里 的块数不可数,不能用。

本页术语中英对照(按出现顺序)
中文English白话解释
事件event样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。
可数countable元素能排成第 1 个、第 2 个、第 3 个……的一列(有限也算),例如自然数、有理数。
子集subsetA 的每个元素都在 B 里,就说 A 是 B 的子集,记作 A ⊆ B。
无穷多次infinitely often (i.o.)「Aₙ 发生无穷多次」就是集合 lim sup Aₙ。
可数可加性countable additivity两两不交的可数个集合,并集的测度等于各自测度之和。
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。
不可数uncountable无论怎么排都排不成一列,例如区间 [0,1] 里的全体实数。
概率空间probability space三元组 (Ω, 𝓕, P):样本空间、事件的 σ-代数、概率测度。
测度measure给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。
σ-代数sigma-algebra允许谈概率的「事件清单」:含 Ω,对补集和可数并封闭。
集合set把一些对象放在一起当成一个整体,例如 {1,2,3}。
两两不交pairwise disjoint一列集合中任意两个都没有公共元素,对应「任意两件事不会同时发生」。
元素element集合里的对象。ω ∈ Ω 读作「ω 属于 Ω」。
空集empty set一个元素也没有的集合,记作 ∅。作为事件,它永远不会发生。
交集intersection同时属于两个集合的元素全体,A ∩ B 对应「A 且 B」。
部分和partial sum级数 a₁ + a₂ + … 的前 n 项之和 Sₙ = a₁ + … + aₙ;级数的值就是 Sₙ 在 n → ∞ 时的极限。
级数series无穷多项相加 a₁ + a₂ + …,它的值是前 n 项和在 n → ∞ 时的极限。
区间interval数轴上的一段,[a,b] 包含端点,(a,b) 不包含端点。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
有限可加性finite additivity两两不交的有限个集合,并集的测度等于各自测度之和。可数可加性是它的加强版:可数无穷多个集合也成立。
概率测度probability measure总质量 P(Ω) = 1 的测度。
样本空间sample space一次试验所有可能的完整结局组成的集合,记作 Ω。
补集complement样本空间里不属于 A 的元素全体,记作 Aᶜ,对应「A 不发生」。
并集union至少属于其中一个集合的元素全体,A ∪ B 对应「A 或 B」。
有理数rational number能写成分数 p/q 的数,全体有理数记作 ℚ;它们可数,却在数轴上处处稠密。