高等概率论逐页精讲

第 1 讲 测度与积分›第 1 部分 概率空间与可测事件

PDF 第 12 / 47 页幻灯片 11/42定义

测度空间:把「事件范围」和「重量」分开

Measure spaces separate the event domain from the weights

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

测度空间 由两层组成: 规定「哪些集合可以称重」(事件范围), 规定「每个集合有多重」(重量)。重量必须非负、空集为 0、对两两不交的可数多块可以相加。概率空间就是总重量为 1 的测度空间。

前面几页把概率模型的三件套一件件搭好了:样本空间 (第 5 页)、事件族 必须是 σ-代数(第 9 页、第 11 页)、概率要满足规范性和可数可加性(第 8 页)。这一页把它们正式打包成两个定义:

  • 定义 6(测度空间):更一般的框架,重量可以是任何非负数,甚至 长度、面积、「数个数」都属于这一类。
  • 定义 7(概率空间):测度空间的特例,总重量为 1。

标题说「把事件范围和重量分开」:同一个 上可以放很多不同的测度(例 2)。这种分离让我们能「换一种称重方式、但不换事件」,后面的第 3 讲(Radon–Nikodym)就建立在这个想法上。接下来的 第 13 页、第 14 页 会证明测度的两条连续性。本页是第 1 部分「概率空间与可测事件」的收官定义。

先补基础

基础补课新字母:S、𝓜、μ
  • 一般的「底空间」(space),相当于 换个字母,是为了强调这里不一定是概率问题,比如 量长度。
  • (花体 M,取自 measurable「可测」): 上的一个 σ-代数,相当于
  • (读作「缪」,希腊字母 mu,取自 measure「测度」):测度,相当于
  • 三元组(triple):按顺序写在一起的三样东西
基础补课扩充的半直线 [0, ∞] 与 ∞ 的算术
  • 是所有非负实数再加上一个符号 (无穷大)。方括号放在 旁边,表示 也算一个允许的取值。
  • 为什么需要 整条数轴 的长度不是任何有限数,只能记作
  • 约定:(非负项级数如果越加越大、没有上限,就说它的和是
  • 不允许的运算: 没有定义(它可以「是」任何数,见 第 14 页)。所以处理测度时不能随便做减法。
基础补课可测空间与可测集
  • (底空间加 σ-代数)叫可测空间(measurable space):已经规定好「哪些集合可以测量」,但还没规定量出来是多少。
  • 里的集合叫可测集。在概率里,可测集就是事件。

课件原文逐句精读

课件原文Definition 6 (Measure space)

Definition 6 (Measure space) A measure space is a triple , where is the σ-algebra on and satisfies: for every pairwise disjoint seq. it holds

Definition 7 (Probability space)  is a measure space, and ①  ②  ③ .

(说明:课件只印了「Definition 6 (Measure space)」和「Definition 7 (Probability space)」两个标签,定义的全部内容都是老师手写的:定义 6 用蓝笔,定义 7 用粉笔。)

中文翻译

定义 6(测度空间) 测度空间是一个三元组 其中 是 上的 σ-代数, 满足:并且对 中每一列两两不交的集合 都有

定义 7(概率空间)  是一个测度空间,并且 ① ② 把 映到 ③ 对两两不交的

Definition 6 (Measure space)|定义 6(测度空间)

逐个成分来读:

  1. :任意一个非空集合,是被测量的「底」。
  2. 是 上的 σ-代数:规定可以测量的集合(第 9 页)。老师写的是 the σ-algebra,更准确的说法是 a σ-algebra(一个 σ-代数):同一个 上可以有很多 σ-代数,选哪一个是建模决定。
  3. :给每个可测集一个非负的重量,允许是
    • 非负:重量、长度、个数都不会是负的。
    • 允许 :像 的长度、 的元素个数,本来就是无穷。
  4. :空集没有重量。为什么要单独写出来?因为对测度我们不能做减法( 无定义),第 8 页 里「从规范性推出 的办法在这里失效。不写这条,「给所有集合(包括空集)都赋值 也满足可数可加(这显然不是我们想要的(例 4)。
  5. 可数可加性(老师用红线划出了 pairwise disjoint 和这个公式):两两不交的可数多块,整体重量=各块重量之和。右边的级数每一项都 所以和总是有意义的(有限数或
定义 6(测度空间)

设 是一个集合, 是 上的一个 σ-代数。函数 称为 上的测度,如果

  1. (可数可加性)对 中任意一列两两不交的集合 都有

三元组 称为测度空间。

Definition 7 (Probability space)|定义 7(概率空间)

老师用粉笔写了一句「 is a measure space」(是一个测度空间),再列出三条:

  • ① :规范性(第 8 页)。这是概率空间比测度空间多出来的唯一一条。
  • ② :取值在 0 和 1 之间。其实它可以由 ① 推出(推导一节):任何事件都包含于 重量不会超过 的重量 1。老师写出来是为了醒目。
  • ③ 可数可加性:测度本来就有这条,重复写一遍是强调它仍是核心。
定义 7(概率空间)

测度空间 若满足 就称为概率空间, 称为概率测度。此时 的取值都在 里, 中的集合称为事件。

人话版测度与概率对照
测度空间 概率空间
底空间 (样本空间)
可测集族 σ-代数 σ-代数 (事件族)
重量的取值
空集 (公理) (可推出)
可数可加 要求 要求
总重量 任意,可以是
典型例子 长度、面积、计数 抛硬币、均匀分布、正态分布

老师板书在说什么

老师板书板书转写(按从上到下的顺序)

蓝笔(定义 6 下方):

  1. A measure space is a triple , where is the σ-algebra on and satisfies for
  2. every pairwise disjoint seq. it holds(pairwise disjoint 下画了红线)
  3. .(整个式子下面画了一道红线)

粉笔(定义 7 下方):

  1. is a measure space
  2. ①  ②  ③ .
  3. .  .

第 1–3 行:测度的定义

内容就是上面的定义 6。两处红线是老师强调的重点:

  • pairwise disjoint(两两不交):可加性只对不重叠的块成立。重叠会重复计数(第 8 页 例 1)。
  • 可数可加公式:这是测度的灵魂。后面几乎所有定理——从下连续(第 13 页)、从上连续(第 14 页)、单调收敛定理(第 36 页)——都是从这个公式推出来的。

写法上的小瑕疵:老师把 和可数可加写在同一句「对每一列两两不交的集合,成立……」里。其实 与集合列无关,是一条单独的要求。

第 4–5 行:概率空间

「 is a measure space」加上三条。见上一节。

第 6 行:实数轴上的概率空间

老师写了一个最重要的特例:

合起来是

  • 样本空间是整条数轴,事件是博雷尔集(第 11 页), 是某个概率测度。
  • 这是描述「一个随机数的分布」的标准框架:随机变量 的分布(law)就是 上的概率测度 第 2 讲会详细讲。
  • 同一个 上可以放很多不同的 点质量 (第 10 页)、 上的均匀分布(第 23 页)、正态分布……这正是标题「把事件范围和重量分开」的意思。

例子

例 1:计数测度——「数个数」也是测度

取 令 = 的元素个数( 是无限集时记为

  • 空集没有元素。
  • 可数可加:两两不交的集合没有公共元素,并集的元素个数就是各自个数之和。例: 的并有 个元素。若有一块是无限集或有无穷多块非空,两边都是
  • 具体值:

它是测度但不是概率(总重量

例 2:同一个可测空间,四种不同的重量

在 上考虑:(全部质量在 0,第 10 页);长度 (勒贝格测度,第 23 页); 上的均匀分布 骰子分布

集合
1 0
0 2 0
1 1 1
1 1 1

事件范围完全相同(都是博雷尔集),重量却各不相同。其中 是概率测度( 那一行都是 1), 只是测度(

算 的过程:单点长度为 0,所以

例 3(反例):有限可加,但不是可数可加

在 上令 ( 有限),( 无限)。

  • 满足。
  • 有限可加:两个有限集的并是有限集(只要有一个是无限集,并集也是无限集(满足。
  • 可数可加:两两不交。左边 右边 不相等。

所以 不是测度。「可数」可加比「有限」可加严格得多。

例 4(反例):为什么必须写 μ(∅) = 0

在任意 上令 对所有 (包括空集)。检查可数可加:左边是 右边每项都是 和也是 等式成立。但 这很荒谬。定义 6 的第一条正是为了排除它。

对比:若只对非空集合赋值 并令 这是一个合法(虽然很粗糙)的测度。

例 5:把有限测度「归一化」成概率

测度 (在 0 放 2 个单位的质量)满足定义 6,但总重量 不是概率。一般地,若 则

是概率测度。例: 限制在 上(归一化后得到 上的均匀分布,

推导:一步一步来

推导证明思路

从定义 6 出发推出测度的两条基本性质:有限可加、单调。推的时候只做加法,不做减法,因为值可能是 然后说明定义 7 的 ② 是 ① 的推论。

性质 1(有限可加):若 两两不交,则

  1. 补上 空集和谁都不交,这一列仍两两不交,并集不变。
  2. 用可数可加性:
  3. 由 后面全是 0。得证。(这里就用到了定义 6 的第一条。)

性质 2(单调性):若 且都可测,则

  1. 两块不交;(第 9 页 结论 4)。
  2. 由性质 1,
  3. 所以

注意第 2 步是加法。如果想写成「就必须先保证 否则可能出现 例:但 而「给不出这个 1。第 14 页 的反例就是这个问题。

性质 3(定义 7 的 ② 可以推出):若 则对每个

是测度的定义;由单调性

性质 4(例 5 的归一化是概率): 设

  • 两两不交时,(级数的每一项除以同一个正数,和也除以这个数)。

常见疑问与易错点

易错点问:为什么测度允许取 ∞,概率却不允许?

答:测度要能描述长度、个数这类本来就可能无穷的量,比如 的长度。概率是「占总量的比例」,总量定为 1,每个事件都包含于 由单调性不会超过 1,自然不会是

易错点问:可测空间、测度空间、概率空间有什么区别?

答:可测空间 只规定「哪些集合能量」;测度空间 再加上「量出来是多少」;概率空间是总量为 1 的测度空间。三者一层比一层多规定一点。

易错点问:为什么要把事件范围和重量分开?直接说「一个概率」不行吗?

答:因为同一个事件范围上可以有很多种合理的重量(例 2),我们经常需要比较它们,甚至从一种换到另一种。例如金融里「真实世界的概率」和「风险中性概率」作用在同样的事件上;统计里要比较不同参数下的分布。把 固定、只换 这些操作才有清楚的意义。

易错点问:测度可以对不可测的集合取值吗?

答:不可以。 的定义域就是 不在 里的集合没有测度值。这不是缺点,而是 第 10 页、第 21 页 告诉我们的必要让步:长度不可能自洽地定义在所有子集上。

小结与自测

小结本页小结
  • 测度空间 是 σ-代数,并且可数可加。
  • 概率空间 总重量为 1 的测度空间;取值自动在 内。
  • 必须单独规定,因为测度可能是 不能用减法推出。
  • 由定义可推出有限可加与单调性;涉及 时只能做加法,不能随便相减。
  • 同一个 上可以放长度、点质量、均匀分布等不同的测度——「事件范围」与「重量」分离。
自测

1. 在 上,「 中元素之和」(例如 它是测度吗?是概率测度吗?

点开看答案

是测度:值非负,两个不交的集合,并集的元素之和等于各自元素之和相加,所以可加(有限集上可数可加等价于有限可加,因为非空的块只能有有限个)。不是概率测度:除以 6 后就是概率测度,例如

2. 判断:若 是测度,则总有

点开看答案

错误。当 时右边是 没有意义。例:长度测度下 右边却无法计算。只有 时这个等式才成立。

3. 例 2 中,求

点开看答案

(0 是有理数);

本页术语中英对照(按出现顺序)
中文English白话解释
测度空间measure space三元组 (S, 𝓜, μ):空间、σ-代数、测度。
集合set把一些对象放在一起当成一个整体,例如 {1,2,3}。
事件event样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。
两两不交pairwise disjoint一列集合中任意两个都没有公共元素,对应「任意两件事不会同时发生」。
空集empty set一个元素也没有的集合,记作 ∅。作为事件,它永远不会发生。
可数countable元素能排成第 1 个、第 2 个、第 3 个……的一列(有限也算),例如自然数、有理数。
概率空间probability space三元组 (Ω, 𝓕, P):样本空间、事件的 σ-代数、概率测度。
测度measure给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。
样本空间sample space一次试验所有可能的完整结局组成的集合,记作 Ω。
σ-代数sigma-algebra允许谈概率的「事件清单」:含 Ω,对补集和可数并封闭。
可数可加性countable additivity两两不交的可数个集合,并集的测度等于各自测度之和。
级数series无穷多项相加 a₁ + a₂ + …,它的值是前 n 项和在 n → ∞ 时的极限。
可测空间measurable space一个集合加上它上面的一个 σ-代数,例如 (Ω, 𝓕);还没有给出测度。
可测集measurable setσ-代数里的集合,也就是可以谈「测度多大」的集合;在概率空间里,可测集就叫事件。
元素element集合里的对象。ω ∈ Ω 读作「ω 属于 Ω」。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
概率测度probability measure总质量 P(Ω) = 1 的测度。
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。
从下连续continuity from below集合一层层变大(Eₙ ↑ E)时,测度也跟着收敛:μ(Eₙ) → μ(E)。
从上连续continuity from above集合一层层变小(Eₙ ↓ E)且 μ(E₁) < ∞ 时,μ(Eₙ) → μ(E)。
单调收敛定理monotone convergence theorem (MCT)非负可测函数单调递增地收敛时,积分也收敛:∫fₙ ↑ ∫f。
博雷尔 σ-代数Borel sigma-algebra由实数轴上所有开区间生成的 σ-代数 𝓑(ℝ),包含所有常见的集合。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
点质量point mass (Dirac measure)把全部质量 1 放在一个点上:δ₀(E) = 1 当且仅当 0 ∈ E。
并集union至少属于其中一个集合的元素全体,A ∪ B 对应「A 或 B」。
勒贝格测度Lebesgue measure实数轴上「长度」的严格版本,定义在勒贝格可测集上,m([a,b]) = b − a。
有限可加性finite additivity两两不交的有限个集合,并集的测度等于各自测度之和。可数可加性是它的加强版:可数无穷多个集合也成立。
子集subsetA 的每个元素都在 B 里,就说 A 是 B 的子集,记作 A ⊆ B。
有理数rational number能写成分数 p/q 的数,全体有理数记作 ℚ;它们可数,却在数轴上处处稠密。