这一页在讲什么
随机变量什么时候有密度(可以写成 答案是:当且仅当它的 CDF 绝对连续——比「连续」更强的一种连续:很多个小区间的总长度很小时,CDF 在这些区间上的总增量也很小。此时密度就是 CDF 的导数。
- 位置:第 2 部分「用 CDF 计算期望」的后半段。前几页(第 12 页–第 16 页)只用 CDF 算期望,从不假设密度;这一页回答:密度到底什么时候存在。
- 为什么需要:中学和大一的概率课默认「连续型随机变量有密度」。但下面两页会看到,存在 CDF 处处连续、却没有密度的随机变量(康托尔分布,第 19 页)。所以「连续」不是正确的条件,「绝对连续」才是。
- 后面怎么用:第 20 页 会把任意分布拆成「原子 + 有密度 + 既无原子又无密度」三部分,本页给出的是中间那一部分的刻画。第 3 讲的 Radon–Nikodym 定理(第 27 页)是本页的抽象推广。
先补基础
说随机变量 有(勒贝格)密度 是指存在非负可积函数 使对每个博雷尔集
特别地取 直观上, 是「 落在 附近长度为 的小区间里」的概率。密度存在时,每个单点的概率都是 0(单点长度为 0),所以有原子(跳跃)的分布一定没有密度。
- 连续:在每一点, 变化一点, 也只变化一点。
- 一致连续:同一个精度要求 对所有位置都管用(只看一个小区间)。
- 绝对连续:同一个 对「有限多个互不相交的小区间,总长度 都管用——这些区间可以散落在各处,个数可以很多。
绝对连续 ⇒ 一致连续 ⇒ 连续(取只有一个区间的情形即可看出第一个箭头);反过来都不成立。
若 连续可导,则 本页的「勒贝格版」把条件从「连续可导」放宽到「绝对连续」,结论只要求 几乎处处存在。
课件原文逐句精读
Definition 16 (Absolutely continuous function) A function is absolutely continuous if, for every , there exists such that every finite pairwise disjoint collection of intervals satisfying
also satisfies
Lebesgue FTC used below Such an has an a.e. derivative satisfying (留白) Conversely, an indefinite integral of an function is absolutely continuous.
Theorem 17 (CDF-density equivalence) A real random variable has a Lebesgue density if and only if is absolutely continuous. In that case almost everywhere.
定义 16(绝对连续函数) 函数 叫绝对连续的,如果对每个 都存在 使得任何有限个两两不交的区间 只要总长度 就有
下面要用的勒贝格微积分基本定理 这样的 几乎处处有导数,并且满足(留白)。反过来,一个 函数的不定积分是绝对连续的。
定理 17(CDF–密度等价) 实值随机变量 有勒贝格密度,当且仅当 绝对连续。此时 几乎处处成立。
Definition 16|逐句拆开
- for every ε > 0, there exists δ > 0:一场「你出题、我应答」的游戏:你要求总增量小于 我能找到一个总长度门槛
- every finite pairwise disjoint collection of intervals:区间个数不限(但有限),彼此不重叠,可以散落在实数轴上任何地方。
- :这些区间的总长度小于
- : 在这些区间上的总增量(取绝对值相加)小于
一句话:「在总长度很小的地方, 不可能攒下很多增长。」 对 CDF 来说,所以这句话就是「总长度很小的一堆区间,总概率也很小」——这正是「概率按长度摊开」的意思。
Lebesgue FTC|补全留白
留白处应是勒贝格版微积分基本定理的公式,见下一节定理卡片。
Theorem 17|两件事
- 等价:有密度 ⟺ CDF 绝对连续。
- 公式:密度就是 CDF 的导数,(几乎处处——密度在零测集上改值无所谓,第 43 页)。
补全课件留白
课件此处留白(课堂板书),以下内容由本站根据标准教材补写,记号与本课件保持一致;如与老师课堂写法不同,以老师为准。
- 若 绝对连续,则 几乎处处可导, 在每个有界区间上可积,并且
- 反过来,若 (或在每个有界区间上可积),则不定积分 (或 是绝对连续的,并且 几乎处处。
这个定理的证明需要实分析里的「勒贝格微分定理」,超出本课范围,课件也说是 used below(下面直接使用)。我们只需理解它的意思:绝对连续的函数,正好是「某个可积函数的积分」。
设 是实值随机变量, 是它的 CDF。则 有勒贝格密度 绝对连续。此时 几乎处处。
⇐:用 FTC 第 1 条, 的增量等于 的积分,所以 就是密度(还要检查它非负、总积分为 1,并从区间推广到所有博雷尔集)。⇒:有密度时 是密度的不定积分,用 FTC 第 2 条。
(⇐)设 绝对连续。
- 由 FTC, 几乎处处存在,且
- : 单调不减,差商 极限也 (不可导的零测集上令
- 总积分为 1:令 左边 右边 (非负函数,单调收敛定理 第 36 页)。所以
- 两个测度在区间上相同:定义 它是概率测度(非负、可数可加由 MCT 保证、总质量为 1),并且对每个
- 推广到所有博雷尔集:两个概率测度在所有 上相等,那么在 上处处相等(第 8 页「CDF 决定分布」用的就是这个事实)。所以 就是密度。
(⇒)设 有密度
- 是可积函数 的不定积分(
- 由 FTC 第 2 条, 绝对连续,并且 几乎处处。
不用 FTC 第 2 条,直接看出「有密度 ⇒ 绝对连续」
关键是一个「积分的绝对连续性」:对可积的 和任意 存在 使 时
- 截断:令 由 MCT,(取 使
- 取 若 则
把 取成 就得到 这正是定义 16。
图解
把概率想成撒在实数轴上的沙子, 是 左边沙子的总量。
- 有密度:沙子均匀或不均匀地「铺」开,每一小段的沙子量 ≈ 密度 × 长度。总长度很小的一堆区间,装的沙子也很少——绝对连续。
- 有原子:某一点上堆了一座「小沙丘」(正概率)。用一个极短的区间罩住这一点,沙子量不会变小——不连续,更不绝对连续。
- 康托尔分布(第 19 页):沙子全部撒在一个总长度为 0 的「尘埃」集合上,没有一处堆成沙丘(所以 CDF 连续),但用总长度任意小的一堆区间就能罩住全部沙子——连续但不绝对连续。
例子
(((
- 对任意区间,(斜率不超过 1)。所以取 总长度 时总增量 绝对连续。✓
- (( 或 在 0 和 1 两点不可导(零测集)。所以密度 与熟悉的结果一致。
((所以 取 即可。密度 (第 15 页)。
一般地:导数有界(「利普希茨」)的 CDF 一定绝对连续。
常见疑问与易错点
答:在很多入门教材里是这么定义的,但严格地说,「CDF 连续」和「有密度」不是一回事。CDF 连续只说明没有原子;有密度还要求概率不能集中在零测集上。康托尔分布就是「连续但没有密度」的例子(第 19 页)。正确的说法是:有密度 ⟺ CDF 绝对连续。
答:在一个零测集上改变 的值, 完全不变(第 43 页),所以密度只在「几乎处处」的意义下唯一。例如均匀分布的密度可以写 也可以写 两者都对。
答:如果区间可以重叠,同一段长度会被重复计数,总长度的门槛失去意义。「有限个」是为了让求和是普通的有限和;事实上换成可数个也等价。关键在于允许多个区间——只看一个区间时,就退化成一致连续,康托尔函数也满足,无法排除它。
小结与自测
- 绝对连续:任何总长度 的有限个不交区间, 的总增量 它比连续、一致连续都强。
- 勒贝格 FTC:绝对连续 ⟺ 是可积函数的不定积分;此时
- 定理 17: 有密度 ⟺ 绝对连续,且 几乎处处。
- 有跳跃 ⇒ 不连续 ⇒ 没有密度;康托尔函数连续但不绝对连续 ⇒ 也没有密度。
1. ( 时为 0, 时为 1。它是某个随机变量的 CDF 吗?有密度吗?密度是什么?
点开看答案
单调不减、右连续、两端为 0 和 1,是 CDF。在 上 取 即绝对连续,所以有密度 (其余为 0。验证:
2. 判断:若 CDF 在每一点都连续,则随机变量一定有密度。
点开看答案
错误。连续只保证没有原子。康托尔分布的 CDF 处处连续,却没有密度(概率全部集中在测度为 0 的康托尔集上)。
3. 设 有密度 用定义说明 对每个 成立。
点开看答案
单点 的勒贝格测度为 0,非负函数在零测集上的积分为 0(第 43 页 零支撑原则),所以
| 中文 | English | 白话解释 |
|---|---|---|
| 随机变量 | random variable | 从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。 |
| 当且仅当 | if and only if (iff) | 「A 当且仅当 B」:A 成立就一定有 B,B 成立也一定有 A,两者同真同假,记作 A ⟺ B。 |
| 累积分布函数 | cumulative distribution function (CDF) | F(x) = P(X ≤ x),单调不减、右连续,完全决定分布。 |
| 绝对连续 | absolute continuity | 函数版:小区间总长很小时增量总和也很小;测度版:Q ≪ P,P 为零的事件 Q 也为零。 |
| 区间 | interval | 数轴上的一段,[a,b] 包含端点,(a,b) 不包含端点。 |
| 期望 | expectation | 随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。 |
| 分布 | law / distribution | X 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。 |
| Radon–Nikodym 导数 | Radon–Nikodym derivative | Q ≪ P 时存在 L = dQ/dP ≥ 0,使 Q(A) = ∫_A L dP;它是「换测度的密度」。 |
| 函数 | function / map | f: A → B 给 A 中每个元素指定 B 中唯一一个元素。 |
| 可积 | integrable (L¹) | ∫|f| dμ < ∞。全体可积函数记作 L¹(μ)。 |
| 博雷尔 σ-代数 | Borel sigma-algebra | 由实数轴上所有开区间生成的 σ-代数 𝓑(ℝ),包含所有常见的集合。 |
| 两两不交 | pairwise disjoint | 一列集合中任意两个都没有公共元素,对应「任意两件事不会同时发生」。 |
| 几乎处处 | almost everywhere (a.e.) | 除了一个测度为 0 的集合之外都成立;零测集上的值不影响积分。 |
| 零测集 | null set | 测度为 0 的集合,例如单点、有理数全体、康托尔集。 |
| 单调递增 | nondecreasing | 后一项不小于前一项;单调有界的数列一定有极限。 |
| 单调收敛定理 | monotone convergence theorem (MCT) | 非负可测函数单调递增地收敛时,积分也收敛:∫fₙ ↑ ∫f。 |
| 测度 | measure | 给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。 |
| 概率测度 | probability measure | 总质量 P(Ω) = 1 的测度。 |
| 可数可加性 | countable additivity | 两两不交的可数个集合,并集的测度等于各自测度之和。 |
| 集合 | set | 把一些对象放在一起当成一个整体,例如 {1,2,3}。 |
| 康托尔集 | Cantor set | 反复挖掉中间三分之一得到的集合:不可数,但长度为 0。 |
| 可数 | countable | 元素能排成第 1 个、第 2 个、第 3 个……的一列(有限也算),例如自然数、有理数。 |
| 勒贝格测度 | Lebesgue measure | 实数轴上「长度」的严格版本,定义在勒贝格可测集上,m([a,b]) = b − a。 |