高等概率论逐页精讲

第 2 讲 随机变量、期望与不等式›第 2 部分 用 CDF 计算期望

PDF 第 20 / 32 页幻灯片 20/33定理

实数轴上的概率分布只有三种质量

Three kinds of mass in a real probability law

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

实数轴上的任何概率分布,都可以唯一地拆成三部分:原子部分(集中在可数多个点上的「沙丘」)、绝对连续部分(有密度,按长度铺开的「沙层」)、奇异连续部分(没有沙丘,却全部落在一个长度为 0 的集合上,像康托尔分布)。

  • 位置:第 2 部分「用 CDF 计算期望」的总结页。前面分别见过:离散分布(只有原子)、有密度的分布(第 15 页、第 17 页)、混合型(第 13 页:原子 + 密度)、康托尔分布(第 19 页:既无原子也无密度)。这一页说:就这三种,没有第四种。
  • 为什么有用:遇到一个陌生的分布,先问三个问题:有没有跳跃?有没有密度部分?剩下的是什么?计算期望时也可以三部分分别算再相加。
  • 和第 3 讲的联系:把「绝对连续」与「奇异」分开,是第 3 讲 Radon–Nikodym 定理(第 27 页)讨论的「一个测度相对于另一个测度」问题的特例(这里「另一个测度」是勒贝格测度)。

先补基础

基础补课三个术语

设 是 上的(有限)测度。

  • 原子(atom):满足 的点 纯原子的: 的全部质量都在原子上,( 是点 处的单位点质量)。
  • 绝对连续(关于勒贝格测度):存在非负可积 使 等价地:勒贝格测度为 0 的集合, 也为 0。
  • 奇异(singular,关于勒贝格测度):存在勒贝格零测集 使 的全部质量都在 上,奇异连续:奇异,并且没有原子。
基础补课为什么原子最多可数个

总质量为 1 的分布,质量 的原子最多 个(否则总质量 所有原子 质量 的原子是可数个有限集的并,所以最多可数个。

课件原文逐句精读

课件原文Three kinds of mass in a real probability law

Theorem 20 (Atomic, singular continuous, and absolutely continuous parts) Every probability measure on decomposes as(留白)

中文翻译

蓝条标题:实数轴上的概率分布里的三种质量。

定理 20(原子部分、奇异连续部分、绝对连续部分) 上的每个概率测度 都可以分解为(课件留白,见下一节。)

  • three kinds of mass:三种「质量」。把概率想成质量(沙子),问的是:沙子可以以哪几种方式撒在实数轴上?
  • Every probability measure on :无一例外,任何实值随机变量的分布都适用。

补全课件留白

补充说明

课件此处留白(课堂板书),以下内容由本站根据标准教材补写,记号与本课件保持一致;如与老师课堂写法不同,以老师为准。

定理 20(原子、奇异连续与绝对连续部分)

上的每个概率测度 都可以唯一地写成

其中三部分都是(总质量可能小于 1 的)测度:

  • 是纯原子部分, 是 的全部原子(最多可数个);
  • 是绝对连续部分, 可积;
  • 是奇异连续部分:没有原子,并且集中在某个勒贝格零测集上。

对应地,CDF 分解为 一个只有跳跃的阶梯函数、一个密度的不定积分、一个连续且导数几乎处处为 0 的函数。

推导证明思路

先把原子「挖出来」,剩下的部分没有原子;再把剩下部分中「可以用密度表示」的那一块分出来(勒贝格分解定理),剩下的就是奇异连续部分。

第 1 步(原子部分):令 为全部原子(最多可数个,见「先补基础」),它是测度(可数可加来自非负项级数可以重排)。

第 2 步(剩下的部分没有原子):令 对每个 所以 是测度;每个点 若 是原子,否则本来就是 0。所以 没有原子。

第 3 步(勒贝格分解,当作已知结论):任何有限测度 都能唯一地写成 其中 有密度, 集中在一个勒贝格零测集上。(证明要用 Radon–Nikodym 定理,第 3 讲 第 27 页 会陈述。)把它用在 上,得到 和 也没有原子,所以是奇异连续的。

第 4 步(唯一性的想法):原子部分由「哪些点有正质量」唯一决定;绝对连续部分与奇异部分由勒贝格分解的唯一性决定。

例子

例 1:只有一种成分的三个典型
分布
掷骰子(取 全部质量 0 0
指数分布 (第 15 页) 0 全部质量,密度 0
康托尔分布(第 19 页) 0 0 全部质量
例 2:混合型——第 13 页 的例 12

在 0 处跳 在 上以斜率 爬升:

CDF 的分解:验证: 时 ✓

例 3:三种成分都有

先抛一个三面的「骰子」:以 的概率令 以 的概率令 以 的概率令 服从康托尔分布。则

  • (原子);
  • (三部分的期望分别算再按权重相加)。
例 4:从 CDF 读出三部分

拿到一个 CDF 可以这样拆:

  1. 找跳跃:每个跳跃点 处的跳跃高度 就是原子质量,加起来得到
  2. 求导: 几乎处处可导(单调函数的性质), 就是绝对连续部分的密度,
  3. 剩下的:它连续、单调、导数几乎处处为 0。若它不是常数,分布就有奇异连续部分。

对康托尔函数:第 1 步没有跳跃,第 2 步 所以

常见疑问与易错点

易错点问:离散分布、连续分布、混合分布,是不是就覆盖了所有情况?

答:如果「连续」指「有密度」,那就漏掉了奇异连续这一种。定理 20 的完整说法是三种:原子、绝对连续、奇异连续。实际应用中第三种很少出现,但它确实存在(康托尔分布),不能忽略。

易错点问:计算期望时可以三部分分开算吗?

答:可以。积分对测度是线性的:(三部分非负,或 可积)。原子部分是 绝对连续部分是 奇异连续部分没有简单公式,通常借助 CDF(第 12 页)或具体构造(第 19 页 例 2)来算。

易错点问:「奇异」和「连续」放在一起不矛盾吗?

答:不矛盾。「连续」说的是 CDF 没有跳跃(没有原子),「奇异」说的是质量集中在勒贝格零测集上。康托尔分布同时满足两者:每个点概率为 0,但全部概率都在测度为 0 的康托尔集上。

小结与自测

小结本页小结
  • 定理 20: 上每个概率测度唯一分解为 (原子 / 绝对连续 / 奇异连续)。
  • 原子最多可数个;绝对连续部分有密度 奇异连续部分没有原子、集中在零测集上。
  • CDF 对应分解为「跳跃阶梯 + 密度的积分 + 魔鬼阶梯式的连续函数」。
  • 例:骰子(纯原子)、指数(纯绝对连续)、康托尔(纯奇异连续)、第 13 页 例 12(原子 + 绝对连续)。
自测

1. 一个随机变量以 的概率取 2、以 的概率服从 写出它的三部分,并求

点开看答案

的密度是

2. 判断:一个分布若没有原子,就一定有密度。

点开看答案

错误。没有原子只排除了 还可能有奇异连续部分,例如康托尔分布。

3. 为什么原子部分的点最多只有可数个?

点开看答案

总质量为 1,质量大于 的原子少于 个;所有原子是对 取并,是可数个有限集合的并,所以最多可数。

本页术语中英对照(按出现顺序)
中文English白话解释
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。
可数countable元素能排成第 1 个、第 2 个、第 3 个……的一列(有限也算),例如自然数、有理数。
绝对连续absolute continuity函数版:小区间总长很小时增量总和也很小;测度版:Q ≪ P,P 为零的事件 Q 也为零。
奇异连续分布singular continuous distribution没有原子(每一点的概率都是 0),却没有密度的分布:全部质量集中在一个长度为 0 的集合上,例如康托尔分布。
集合set把一些对象放在一起当成一个整体,例如 {1,2,3}。
累积分布函数cumulative distribution function (CDF)F(x) = P(X ≤ x),单调不减、右连续,完全决定分布。
期望expectation随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。
Radon–Nikodym 导数Radon–Nikodym derivativeQ ≪ P 时存在 L = dQ/dP ≥ 0,使 Q(A) = ∫_A L dP;它是「换测度的密度」。
勒贝格测度Lebesgue measure实数轴上「长度」的严格版本,定义在勒贝格可测集上,m([a,b]) = b − a。
测度measure给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。
点质量point mass (Dirac measure)把全部质量 1 放在一个点上:δ₀(E) = 1 当且仅当 0 ∈ E。
可积integrable (L¹)∫|f| dμ < ∞。全体可积函数记作 L¹(μ)。
零测集null set测度为 0 的集合,例如单点、有理数全体、康托尔集。
概率测度probability measure总质量 P(Ω) = 1 的测度。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
几乎处处almost everywhere (a.e.)除了一个测度为 0 的集合之外都成立;零测集上的值不影响积分。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
可数可加性countable additivity两两不交的可数个集合,并集的测度等于各自测度之和。
级数series无穷多项相加 a₁ + a₂ + …,它的值是前 n 项和在 n → ∞ 时的极限。
指数分布exponential distributionP(X > x) = e^(−λx)(x ≥ 0)的分布,均值 1/λ,常用来描述等待时间。
康托尔集Cantor set反复挖掉中间三分之一得到的集合:不可数,但长度为 0。