高等概率论逐页精讲

第 3 讲 Borel–Cantelli、收敛与 Radon–Nikodym›第 4 部分 Radon–Nikodym 与换测度

PDF 第 33 / 47 页幻灯片 33/49证明

期望换算的证明(续):单调收敛推到非负函数,正负部推到可积函数

Change of measure in expectations: proof

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

上一页已经对简单函数证明了 这一页把它推广到所有非负可测函数:用一列递增的简单函数 从下面逼近 于是 也从下面逼近 两边各用一次单调收敛定理取极限。最后把有正有负的可积函数拆成「正部减负部」,命题 21 就完整证完了。

  • 这是 第 32 页 的续页。课件只印了一个小标题 Nonnegative measurable functions(非负可测函数),证明本身是课上板书,下面补全。
  • 在 第 32 页 的「标准四步」表里,上一页完成了第 1、2 步(示性函数 → 简单函数),这一页完成第 3、4 步(非负可测函数 → 可积函数)。
  • 证完以后,命题 21 就能用在任何随机变量上。下一页 第 34 页 的链式法则、第 35 页 的倒数公式,以及第 5 部分重要性抽样的方差计算(第 38 页、第 39 页),都直接调用它。

先补基础

基础补课要证的是什么(命题 21 回顾)

设 是 上的概率测度,(取值在 第 27 页)。命题 21(第 32 页)说:

  1. 对每个可测的 (两边可以同时为
  2. 对每个可测的 并且此时

上一页已经证明:当 是非负简单函数时,第 1 条成立。 这一页就从这里出发。

基础补课二进逼近:任何非负可测函数都能被递增的台阶逼近

第 1 讲定理 29(第 34 页):若 可测,则存在非负简单函数 使得对每个 一个具体的选法是

意思是「先把 截在高度 ( 表示 和 中较小的那个),再向下取整到 的整数倍」。 读作「 的下取整」,是不超过 的最大整数,例如

  • 例: 时,一步步往上贴近 0.7。
  • 在 的点,同样是「递增地趋于
基础补课单调收敛定理(MCT)对任何测度都成立

第 1 讲定理 30(第 36 页):在任意测度空间上,若非负可测函数 逐点趋于 则

「任意测度空间」这几个字这一页要用两次:一次用在 上,一次用在 上。定理并不关心测度叫什么名字。

基础补课正部与负部

对实值函数 定义

  • 保留 的正值、把负值改成 0; 把负值取反、把正值改成 0。两者都非负。
  • 例: 时 时
  • 恒等式:
  • 可积函数的积分定义为 (第 43 页)。可积保证两项都有限,所以减法有意义。
基础补课非负常数乘上递增数列

设 ( 可以是 是有限常数。那么 也递增,并且 这里按测度论约定

  • 每一项都是 0,极限是 0,而 (包括 的情形,按约定)。
  • 常数乘收敛数列,极限是
  • 越过任何界, 也越过任何界,所以

课件原文逐句精读

课件原文课件印刷文字

Nonnegative measurable functions

中文翻译

非负可测函数

  • 这是标准四步里的第 3 步:对象从「只取有限个值的简单函数」扩大到「任意非负可测函数」。后者可以取无穷多个值,可以无界,甚至可以在某些点取
  • Nonnegative(非负):这是能用单调收敛定理的前提。MCT 只管非负函数。
  • measurable(可测):保证 能积分,也保证能用二进逼近(二进逼近里的集合 必须是事件)。
  • 蓝条标题 Change of measure in expectations: proof:期望换测度公式的证明。它和 第 32 页 共用一个命题(命题 21),这一页是证明的后半段。

补全课件留白

补充说明

课件此处留白(课堂板书),以下内容由本站根据标准教材补写,记号与本课件保持一致;如与老师课堂写法不同,以老师为准。

Nonnegative measurable functions|非负可测函数

要证:对每个可测的

推导证明思路

取简单函数 对每个 上一页已经给出 左边在 下用 MCT 趋于 右边因为 在 下用 MCT 趋于 同一个数列只有一个极限,所以两者相等。

  1. 取逼近列。由二进逼近(第 34 页 定理 29),存在非负简单函数 对每个 都有
  2. 乘上密度以后仍然单调逼近。 是两个可测函数的乘积,所以可测,而且非负。固定一个 把 看成一个非负有限常数,由上面「非负常数乘上递增数列」,
    也就是 逐点成立(下面「推导」一节把四种情形逐一列出)。
  3. 在 下用 MCT:所以
  4. 在 下用 MCT:所以
  5. 用上一页的结论把两列数连起来:每个 都是非负简单函数,由 第 32 页 第 2 步, 对每个 成立。所以第 3 步和第 4 步里的两列数是同一列数。
  6. 结论:同一列数的极限是唯一的(在 里也是如此),所以

把第 3–5 步写成一行:

两边可以同时是 这时两列数都无界。命题 21 第 1 条证毕。

可积的有符号函数:拆成正部与负部(课件未印小标题)

要证:对可测的 并且此时

推导证明思路

都是非负可测函数,可以直接套用刚证完的第 3 步。先用 得到「可积 ⟺ 可积」,再用 各得一个等式,两式相减。

  1. 可积性的等价。 非负可测,由第 3 步 又因为 所以
    左边有限当且仅当右边有限,也就是
  2. 乘积的正部、负部。因为 乘上 不改变符号,所以
    逐点核对:若 则 左边分别是 和 右边也是(此时 若 则 左边分别是 和 右边也是(此时
  3. 相减。设 因为 和 都有限。于是

命题 21 全部证毕。标准四步到此走完:

步骤 对象 关键工具 在哪一页
1 示性函数 密度的定义 第 32 页
2 非负简单函数 两边都是线性的 第 32 页
3 非负可测函数 二进逼近 + 两次 MCT 本页
4 可积函数 判断可积,正部减负部 本页
只有一边有限时也成立(选读)

如果 中恰有一个是 (另一个有限),测度论里仍然把 定义为 结果是 或 第 3 步已经给出 所以 按同样方式定义,且两边相等。只有两项都是 时,两边都没有定义(见下面例 4)。

例子

例 1:一个无界的非负函数——两种算法对答案

(长度), 的密度 取 它取无穷多个值,在 0 附近无界,不是简单函数,只能用本页的第 3 步。

  • 用命题 21:
  • 直接在 下算,作为核对:先求 下的尾概率。 时 而 (所以 时 时 用尾积分公式 (第 21 页,对
    两种算法一致。
例 2:亲眼看 MCT 的逼近过程

二进逼近 记 它在第 格 上取值 (

  • 每一格的 -概率:
  • 所以 而 是同一个和(这就是上一页第 2 步)。
格数
1 2
2 4
3 8
4 16
10 1024

数列单调增加,趋于 表中的每一行两边相等,取极限后两边仍相等——这正是本页证明的三行等式。

例 3:有正有负的函数——灌铅骰子上的「点数减 3.5」

沿用 第 26 页 例 1: 均匀,取 它有正有负。

  • 正部 负部 (按 的顺序)。
  • 所以
  • 用命题 21:
  • 一致。也可以用 第 32 页 例 1 的结果核对:
例 4(反例):不可积时公式没有意义

(此时 令 (当 (当

  • 会变成「没有定义;右边 也一样。这就是第 4 步必须先假设可积的原因。

推导:一步一步来

推导证明思路

把第 3 步第 2 条「按 是否为 0、 是否有限分成四种情形,逐一核对,特别看清约定 在哪里起作用。

固定 记 已知

情形 的变化 极限
恒为 0 0
恒为 0 0 (约定)
递增
递增且无界

四种情形里,极限都等于 并且数列都不减( 乘以 不改变不等号方向)。所以 在每一点成立,MCT 的条件完全满足。

第二行说明了约定 的必要性:若 在 看不见的地方(取 这些点对 毫无贡献;对 也毫无贡献,因为 约定让两边的「看不见」保持一致。

常见疑问与易错点

易错点问:为什么不能像上一页那样直接用线性性?

答:线性性只能处理有限和。简单函数是有限个 之和,所以上一页可以一项一项地换算;一般的非负可测函数(例如例 1 的 取无穷多个值,写不成有限和。它的积分是用「下方简单函数积分的上确界」定义的(第 33 页),要从简单函数走到它,必须经过一个极限,MCT 正是保证「极限和积分可以交换」的工具。

易错点问:证明里用了两次 MCT,它们有什么不同?

答:测度不同、函数列也不同。第一次在 上,函数列是 第二次在 上,函数列是 MCT 对任何测度都成立,所以两次都合法。少了任何一次,等式的一边就停在「而到不了期望本身。

易错点问:第 4 步为什么要先算绝对值的期望?

答:第 4 步第 1 条先证 是因为有正有负的函数,期望只在可积时才有定义(否则可能是 例 4)。这一行说明两边的可积性是同一回事:只要 在 下可积, 在 下就自动可积,右边的期望一定有定义。反过来也一样。注意判断标准是 是否 -可积,不是 是否 -可积(第 32 页 例 3)。

易错点问:X 在 L = 0 的地方取什么值会影响结果吗?

答:不会。所以 是 的零概率事件, 在那里的值不影响 在右边,这些点上 也不影响 两边「看不见」的地方恰好一致。

小结与自测

小结本页小结
  • 第 3 步(非负可测函数):取简单函数 则 在 下和 下各用一次 MCT,中间用简单函数的结论 连起来。
  • 第 4 步(可积函数): 给出可积性的等价;正部减负部即得
  • 约定 保证 看不见的区域 在两边都没有贡献。
  • 「示性函数 → 简单函数 → 非负函数 → 可积函数」的标准四步到此走完,命题 21 对所有随机变量成立。
自测

1. 求 (提示:

点开看答案

且可测,由第 3 步 这个函数在 0 附近无界,不是简单函数,正是本页第 3 步处理的对象。

2. 同上,求 并说明用的是第几步。

点开看答案

有正有负,而且有界,所以在 下可积,用第 4 步:

3. 判断:本页证明中,只要在 下用一次 MCT 就够了。

点开看答案

错误。只在 下用 MCT,只能得到 还需要在 下用 MCT 得到 才能把两列数(上一页已证它们逐项相等)的极限分别认出来。两次缺一不可。

本页术语中英对照(按出现顺序)
中文English白话解释
简单函数simple function只取有限个值的可测函数,是若干示性函数的线性组合,图像像台阶。
可测函数measurable function对每个 a,集合 {f > a} 都可测;这样的函数才能积分。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
单调收敛定理monotone convergence theorem (MCT)非负可测函数单调递增地收敛时,积分也收敛:∫fₙ ↑ ∫f。
正部positive / negative partf⁺ = max(f, 0),f⁻ = max(−f, 0),f = f⁺ − f⁻,|f| = f⁺ + f⁻。
可积integrable (L¹)∫|f| dμ < ∞。全体可积函数记作 L¹(μ)。
示性函数indicator function𝟏_A(x) 在 x ∈ A 时取 1,否则取 0;它的积分就是 A 的测度。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
重要性抽样importance sampling从另一个更合适的分布抽样,再乘以权重纠正,从而减小估计的方差。
方差varianceVar X = E[(X − E X)²],衡量随机变量围绕均值的波动大小。
概率测度probability measure总质量 P(Ω) = 1 的测度。
测度空间measure space三元组 (S, 𝓜, μ):空间、σ-代数、测度。
测度measure给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。
集合set把一些对象放在一起当成一个整体,例如 {1,2,3}。
事件event样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。
换测度change of measure用 E_Q[X] = E_P[X · dQ/dP] 在两个概率之间换算期望。
期望expectation随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。
当且仅当if and only if (iff)「A 当且仅当 B」:A 成立就一定有 B,B 成立也一定有 A,两者同真同假,记作 A ⟺ B。
尾概率tail probability随机变量取到「很大的值」的概率,例如 P(X > t) 或 P(|X| ≥ t)。它随 t 增大而下降得越慢,分布的尾巴就越「厚」。
上确界supremum (sup)最小的上界。最大值不一定存在,但有上界的实数集一定有上确界。