高等概率论逐页精讲

第 3 讲 Borel–Cantelli、收敛与 Radon–Nikodym›第 4 部分 Radon–Nikodym 与换测度

PDF 第 29 / 47 页幻灯片 29/49定理

绝对连续控制小事件:ℙ 概率小,ℚ 概率也小

Absolute continuity controls small-event probabilities

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

定义 17 只说「这一页把它加强成「 很小 ⇒ 也很小」,而且「多小算小」有一个统一的标准 对所有事件都管用。证明的办法是把密度 截断成「不超过 的部分」和「超过 的尾巴」分开估计。

  • 上一页 第 28 页 讲完了密度的唯一性。这一页是定理 18(第 27 页)的第一个推论。
  • 它的直接用途在下一页 第 30 页: 下依概率收敛的随机变量,换到 下仍然依概率收敛。依概率收敛说的正是「误差事件的概率趋于 0」,所以需要「 概率小 ⇒ 概率小」这种定量的说法。
  • 截断密度是一个很常用的技巧:无界的函数,先切掉一个「很高但很少」的尾巴,剩下的部分就有界了。

先补基础

基础补课ε-δ 语言:先给误差,再找门槛

「对任意 存在 使得对所有 要按下面的顺序读:

  1. 对手先出题:给你一个任意小的正数 (希腊字母 epsilon),要求
  2. 你来回答:你要找一个正数 (delta),作为「 概率的门槛」。
  3. 一视同仁:这个 找好之后,对所有事件 都得管用——只要 就必须

关键是 只能依赖 (以及固定的 不能依赖 。如果允许先看 再选 这个命题就没有内容了。

基础补课截断:把一个函数按「高度」切成两块
  • 对一个非负函数 和一个门槛 有恒等式
    理由:每个 要么 (第一项等于 第二项是 0),要么 (反过来)。
  • 第一块 不超过 ,是有界的;第二块是「高于 的尾巴」。
  • 叫作 的尾部期望:只统计 很大的那些情形对期望的贡献。
基础补课控制收敛定理(DCT)回顾

控制收敛定理:若 几乎处处,并且存在一个与 无关的可积函数 使 对所有 成立,则 「有一个共同的可积上界」就能交换极限和积分;本讲 第 19 页 的尖峰反例正是因为缺了这个上界才失败。

课件原文逐句精读

课件原文课件印刷文字

Corollary 19 (Fixed probabilities )

Proof: truncate the density

中文翻译

推论 19(固定的概率

证明:截断密度

  • Corollary(推论):由前面的定理(这里是定理 18)比较直接地推出来的结论。
  • 括号里的 Fixed probabilities:强调 是固定的两个概率,不随任何下标 变化。下面找到的 依赖这一对概率;如果 换成一列 就不一定能找到对所有 都管用的 (见例 3)。这也呼应下一页的标题 under a fixed change of measure。
  • Proof: truncate the density:证明的方法是「截断密度」,即上面基础补课里的那个切法。
  • 蓝条标题 Absolute continuity controls small-event probabilities:绝对连续控制「小事件」的概率。

补全课件留白

补充说明

课件此处留白(课堂板书),以下内容由本站根据标准教材补写,记号与本课件保持一致;如与老师课堂写法不同,以老师为准。

Corollary 19 (Fixed probabilities ℚ ≪ ℙ)|推论 19(固定的概率 ℚ ≪ ℙ)

推论 19(固定的概率 ℚ ≪ ℙ)

设 是 上的概率测度,且 那么对任意 存在 使得

理解这个结论:

  • 比定义 17 强在哪里:定义 17 只管 恰好等于 0 的事件;推论 19 管的是 很小但不为 0 的事件,并且给出一个统一的门槛。
  • 反过来也对:如果某一对概率满足「对任意 存在 那么 理由:取 的事件,对任何 都有 所以 可以任意小,只能 所以对概率测度而言,推论 19 的性质和绝对连续是等价的。
  • 序列版本(下一页要用):若事件列满足 则 理由:任给 取推论 19 的 因为 存在 使 时 于是

Proof: truncate the density|证明:截断密度

推导证明思路

由定理 18 写 把 在高度 处截断:不超过 的部分贡献至多 超过 的尾巴贡献至多 与 无关,并且 大时趋于 0。先选 让尾巴小于 再选

设 (由定理 18, 可测、取值在 固定

  1. 截断分解:对任意 和任意 由截断恒等式和非负函数积分的可加性(第 38 页),
  2. 估计第一项:所以 积分的单调性给出
  3. 估计第二项:所以
    注意 不含 。
  4. 合起来得到关键不等式:对所有 所有
  5. 尾巴趋于 0:让 取
    • 逐点:对每个 是有限数,当 时 所以
    • 控制:而 是与 无关的可积上界。
    • 由控制收敛定理(第 44 页),(
  6. 先选 :由第 5 步,存在 使
  7. 再选 :令 若 则 由第 4 步

证毕。选择的顺序是:整个过程没有用到 ,所以 对所有事件一视同仁。

人话版画一张图想一想

在 时, 就是「曲线 下方、横坐标落在 里」那块面积。在高度 处画一条水平线,把这块面积切成两层:

  • 下层(高度不超过 它是一些宽度合计为 高度不超过 的竖条,面积至多 越窄,这一层越小。
  • 上层(水平线以上的「尖顶」):不管 是什么,它都不会超过整条曲线在水平线以上的全部面积 水平线抬得越高,这部分越小。

所以要让 小,先把水平线抬高(选 压住尖顶,再要求 足够窄(选 压住下层。

第 5 步也可以用单调收敛定理

随 增大而单调不减,并且逐点趋于 (理由同第 5 步)。由 MCT(第 36 页),于是 这里的减法合法,因为两项都是有限数。

易错点这个证明在哪里用到了「ℚ 是概率」

第 5 步需要 可积(才能保证尾巴 是概率时 自动满足。见下面例 4:总量无穷时,结论真的会失败。

例子

例 1:有界密度,δ 可以直接写出来

的密度

  • 处处成立,取 尾巴
  • 关键不等式变成 所以对任意 取 即可。
  • 例如 只要事件的长度小于 它的 -概率就小于
例 2:无界密度,必须截断

的密度 (上一页的自测第 3 题)。它在 0 附近无界,没法像例 1 那样取一个 盖住全部。

  • 尾巴:所以
  • 取 :第 6 步要求 即 也就是 取 第 7 步取
  • 核对:长度为 的集合里,-概率最大的是放在最左边的 (因为 在左边最大),当 时 结论成立。
  • 其实 就够了(证明给出的 偏保守,但推论只要求存在一个
例 3:为什么强调「固定的」概率

对每个 令 的密度为 (尖峰 第 19 页 的形状)。

  • 每个 所以对每个 单独都有一个
  • 但取 事件 所以 必须 随 增大趋于 0。
  • 不存在一个对所有 都管用的 推论 19 只对一对固定的概率成立。
例 4(反例):总量无穷的测度

令 是一个测度,且 (长度为 0 的集合上积分为 0),但 不是概率:

  • 对任何 而
  • 所以对 找不到任何 推论 19 的结论失败。
  • 失败的原因:密度 不可积,尾巴 第 5 步不成立。

常见疑问与易错点

易错点问:为什么不直接取 M = L 的最大值?

答: 可能没有最大值(例 2 中 在 0 附近趋于无穷)。截断的妙处在于:不需要 有界,只需要「 很大的部分对期望的贡献很小」,而这由 可积加控制收敛定理保证。

易错点问:为什么要把 ε 分成两个 ε/2?

答: 的上界由两块组成: 和 让每块都小于 加起来就小于 这是分析里最常见的「分两半」技巧,换成 也完全可以。

易错点问:如果允许 δ 随事件 A 改变,会怎样?

答:那命题就变成空话了。对单个事件 如果 由绝对连续可知 取 时条件「根本不成立,命题自动为真;如果 结论本来就成立。所以「对每个 各选一个 什么都没说。推论 19 的价值在于一个 管住所有事件,下一页正是靠这一点处理一整列误差事件

易错点问:把 ℙ 和 ℚ 对调,结论还成立吗?

答:只有在 也成立时才行。第 26 页 例 4 中 是 上的均匀分布:事件 的 -概率是 0,-概率却是 所以「 概率小 ⇒ 概率小」不成立。

小结与自测

小结本页小结
  • 推论 19: ⇒ 对任意 存在 使 蕴含 与 无关。
  • 关键不等式:尾巴项由控制收敛定理(或 MCT)趋于 0。
  • 选择顺序:
  • 对概率测度,这个 ε-δ 性质和绝对连续等价;序列版本是「
  • 「固定」很重要:一列 不一定有共同的 总量无穷的测度也会失败。
自测

1. 的密度 对 给出一个可行的

点开看答案

所以 取 时

2. 用推论 19 证明:若 且 则

点开看答案

任给 由推论 19 取 因为 存在 使 时 从而 任意,所以

3. 在例 2 中,如果要求 按证明的做法应该怎样选 和

点开看答案

需要 即 取 再取 (直接计算可知 也行,证明给的更保守。)

本页术语中英对照(按出现顺序)
中文English白话解释
事件event样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。
依概率收敛convergence in probability对每个 ε > 0,P(|Xₙ − X| > ε) → 0;比几乎必然收敛弱。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
期望expectation随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。
几乎处处almost everywhere (a.e.)除了一个测度为 0 的集合之外都成立;零测集上的值不影响积分。
可积integrable (L¹)∫|f| dμ < ∞。全体可积函数记作 L¹(μ)。
上界upper bound数集 A 的上界是一个数 M,A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界;所有上界中最小的那个叫上确界。
绝对连续absolute continuity函数版:小区间总长很小时增量总和也很小;测度版:Q ≪ P,P 为零的事件 Q 也为零。
概率测度probability measure总质量 P(Ω) = 1 的测度。
测度measure给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。
控制收敛定理dominated convergence theorem (DCT)fₙ → f 几乎处处且 |fₙ| ≤ g、g 可积时,∫fₙ → ∫f。
单调递增nondecreasing后一项不小于前一项;单调有界的数列一定有极限。
单调收敛定理monotone convergence theorem (MCT)非负可测函数单调递增地收敛时,积分也收敛:∫fₙ ↑ ∫f。
集合set把一些对象放在一起当成一个整体,例如 {1,2,3}。
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。