这一页在讲什么
定义 17 只说「这一页把它加强成「 很小 ⇒ 也很小」,而且「多小算小」有一个统一的标准 对所有事件都管用。证明的办法是把密度 截断成「不超过 的部分」和「超过 的尾巴」分开估计。
- 上一页 第 28 页 讲完了密度的唯一性。这一页是定理 18(第 27 页)的第一个推论。
- 它的直接用途在下一页 第 30 页: 下依概率收敛的随机变量,换到 下仍然依概率收敛。依概率收敛说的正是「误差事件的概率趋于 0」,所以需要「 概率小 ⇒ 概率小」这种定量的说法。
- 截断密度是一个很常用的技巧:无界的函数,先切掉一个「很高但很少」的尾巴,剩下的部分就有界了。
先补基础
「对任意 存在 使得对所有 要按下面的顺序读:
- 对手先出题:给你一个任意小的正数 (希腊字母 epsilon),要求
- 你来回答:你要找一个正数 (delta),作为「 概率的门槛」。
- 一视同仁:这个 找好之后,对所有事件 都得管用——只要 就必须
关键是 只能依赖 (以及固定的 不能依赖 。如果允许先看 再选 这个命题就没有内容了。
- 对一个非负函数 和一个门槛 有恒等式理由:每个 要么 (第一项等于 第二项是 0),要么 (反过来)。
- 第一块 不超过 ,是有界的;第二块是「高于 的尾巴」。
- 叫作 的尾部期望:只统计 很大的那些情形对期望的贡献。
课件原文逐句精读
Corollary 19 (Fixed probabilities )
Proof: truncate the density
推论 19(固定的概率
证明:截断密度
- Corollary(推论):由前面的定理(这里是定理 18)比较直接地推出来的结论。
- 括号里的 Fixed probabilities:强调 是固定的两个概率,不随任何下标 变化。下面找到的 依赖这一对概率;如果 换成一列 就不一定能找到对所有 都管用的 (见例 3)。这也呼应下一页的标题 under a fixed change of measure。
- Proof: truncate the density:证明的方法是「截断密度」,即上面基础补课里的那个切法。
- 蓝条标题 Absolute continuity controls small-event probabilities:绝对连续控制「小事件」的概率。
补全课件留白
课件此处留白(课堂板书),以下内容由本站根据标准教材补写,记号与本课件保持一致;如与老师课堂写法不同,以老师为准。
Corollary 19 (Fixed probabilities ℚ ≪ ℙ)|推论 19(固定的概率 ℚ ≪ ℙ)
设 是 上的概率测度,且 那么对任意 存在 使得
理解这个结论:
- 比定义 17 强在哪里:定义 17 只管 恰好等于 0 的事件;推论 19 管的是 很小但不为 0 的事件,并且给出一个统一的门槛。
- 反过来也对:如果某一对概率满足「对任意 存在 那么 理由:取 的事件,对任何 都有 所以 可以任意小,只能 所以对概率测度而言,推论 19 的性质和绝对连续是等价的。
- 序列版本(下一页要用):若事件列满足 则 理由:任给 取推论 19 的 因为 存在 使 时 于是
Proof: truncate the density|证明:截断密度
由定理 18 写 把 在高度 处截断:不超过 的部分贡献至多 超过 的尾巴贡献至多 与 无关,并且 大时趋于 0。先选 让尾巴小于 再选
设 (由定理 18, 可测、取值在 固定
- 截断分解:对任意 和任意 由截断恒等式和非负函数积分的可加性(第 38 页),
- 估计第一项:所以 积分的单调性给出
- 估计第二项:所以注意 不含 。
- 合起来得到关键不等式:对所有 所有
- 尾巴趋于 0:让 取
- 逐点:对每个 是有限数,当 时 所以
- 控制:而 是与 无关的可积上界。
- 由控制收敛定理(第 44 页),(
- 先选 :由第 5 步,存在 使
- 再选 :令 若 则 由第 4 步
证毕。选择的顺序是:整个过程没有用到 ,所以 对所有事件一视同仁。
在 时, 就是「曲线 下方、横坐标落在 里」那块面积。在高度 处画一条水平线,把这块面积切成两层:
- 下层(高度不超过 它是一些宽度合计为 高度不超过 的竖条,面积至多 越窄,这一层越小。
- 上层(水平线以上的「尖顶」):不管 是什么,它都不会超过整条曲线在水平线以上的全部面积 水平线抬得越高,这部分越小。
所以要让 小,先把水平线抬高(选 压住尖顶,再要求 足够窄(选 压住下层。
第 5 步也可以用单调收敛定理
随 增大而单调不减,并且逐点趋于 (理由同第 5 步)。由 MCT(第 36 页),于是 这里的减法合法,因为两项都是有限数。
第 5 步需要 可积(才能保证尾巴 是概率时 自动满足。见下面例 4:总量无穷时,结论真的会失败。
例子
的密度
- 处处成立,取 尾巴
- 关键不等式变成 所以对任意 取 即可。
- 例如 只要事件的长度小于 它的 -概率就小于
的密度 (上一页的自测第 3 题)。它在 0 附近无界,没法像例 1 那样取一个 盖住全部。
- 尾巴:所以
- 取 :第 6 步要求 即 也就是 取 第 7 步取
- 核对:长度为 的集合里,-概率最大的是放在最左边的 (因为 在左边最大),当 时 结论成立。
- 其实 就够了(证明给出的 偏保守,但推论只要求存在一个
对每个 令 的密度为 (尖峰 第 19 页 的形状)。
- 每个 所以对每个 单独都有一个
- 但取 事件 所以 必须 随 增大趋于 0。
- 不存在一个对所有 都管用的 推论 19 只对一对固定的概率成立。
令 是一个测度,且 (长度为 0 的集合上积分为 0),但 不是概率:
- 对任何 而
- 所以对 找不到任何 推论 19 的结论失败。
- 失败的原因:密度 不可积,尾巴 第 5 步不成立。
常见疑问与易错点
答: 可能没有最大值(例 2 中 在 0 附近趋于无穷)。截断的妙处在于:不需要 有界,只需要「 很大的部分对期望的贡献很小」,而这由 可积加控制收敛定理保证。
答: 的上界由两块组成: 和 让每块都小于 加起来就小于 这是分析里最常见的「分两半」技巧,换成 也完全可以。
答:那命题就变成空话了。对单个事件 如果 由绝对连续可知 取 时条件「根本不成立,命题自动为真;如果 结论本来就成立。所以「对每个 各选一个 什么都没说。推论 19 的价值在于一个 管住所有事件,下一页正是靠这一点处理一整列误差事件
答:只有在 也成立时才行。第 26 页 例 4 中 是 上的均匀分布:事件 的 -概率是 0,-概率却是 所以「 概率小 ⇒ 概率小」不成立。
小结与自测
- 推论 19: ⇒ 对任意 存在 使 蕴含 与 无关。
- 关键不等式:尾巴项由控制收敛定理(或 MCT)趋于 0。
- 选择顺序:
- 对概率测度,这个 ε-δ 性质和绝对连续等价;序列版本是「
- 「固定」很重要:一列 不一定有共同的 总量无穷的测度也会失败。
1. 的密度 对 给出一个可行的
点开看答案
所以 取 时
2. 用推论 19 证明:若 且 则
点开看答案
任给 由推论 19 取 因为 存在 使 时 从而 任意,所以
3. 在例 2 中,如果要求 按证明的做法应该怎样选 和
点开看答案
需要 即 取 再取 (直接计算可知 也行,证明给的更保守。)
| 中文 | English | 白话解释 |
|---|---|---|
| 事件 | event | 样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。 |
| 依概率收敛 | convergence in probability | 对每个 ε > 0,P(|Xₙ − X| > ε) → 0;比几乎必然收敛弱。 |
| 随机变量 | random variable | 从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。 |
| 函数 | function / map | f: A → B 给 A 中每个元素指定 B 中唯一一个元素。 |
| 期望 | expectation | 随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。 |
| 几乎处处 | almost everywhere (a.e.) | 除了一个测度为 0 的集合之外都成立;零测集上的值不影响积分。 |
| 可积 | integrable (L¹) | ∫|f| dμ < ∞。全体可积函数记作 L¹(μ)。 |
| 上界 | upper bound | 数集 A 的上界是一个数 M,A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界;所有上界中最小的那个叫上确界。 |
| 绝对连续 | absolute continuity | 函数版:小区间总长很小时增量总和也很小;测度版:Q ≪ P,P 为零的事件 Q 也为零。 |
| 概率测度 | probability measure | 总质量 P(Ω) = 1 的测度。 |
| 测度 | measure | 给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。 |
| 控制收敛定理 | dominated convergence theorem (DCT) | fₙ → f 几乎处处且 |fₙ| ≤ g、g 可积时,∫fₙ → ∫f。 |
| 单调递增 | nondecreasing | 后一项不小于前一项;单调有界的数列一定有极限。 |
| 单调收敛定理 | monotone convergence theorem (MCT) | 非负可测函数单调递增地收敛时,积分也收敛:∫fₙ ↑ ∫f。 |
| 集合 | set | 把一些对象放在一起当成一个整体,例如 {1,2,3}。 |
| 分布 | law / distribution | X 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。 |