高等概率论逐页精讲

第 4 讲 乘积测度与独立性›第 2 部分 Fubini–Tonelli 定理

PDF 第 15 / 21 页幻灯片 15/22例子

Fubini 的应用:两个累次积分不相等的函数,以及矩公式的一行证明

An application of Fubini's theorem

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

这一页有两件事。第一件是反面教材: 在单位正方形上,先对 积分得 先对 积分得 原因是 Fubini 定理的条件不满足,定理本身没有错。第二件是正面应用:用 Tonelli 定理一行证明矩公式

  • 位置:第 2 部分「Fubini–Tonelli 定理」(第 9 页–第 15 页)的最后一页。
  • 和前面的关系:
    • 第 10 页 的 Fubini 定理: 关于乘积测度可积时,可以交换积分次序;
    • 第 12 页 的 Tonelli 定理: 且可测时,总可以交换积分次序;
    • 第 13 页、第 14 页 是两个反例,分别说明「σ-有限」和「可积」这两个条件缺一不可。
  • 本页第一部分是 第 14 页 那个二重级数反例的连续版本:同样是「正负两部分都是无穷大」,同样导致两种次序算出不同的数。
  • 本页第二部分说明定理怎么用:把一个「一维」的量(写成一个积分,就凭空多出一个变量,于是可以交换次序。
  • 下一页(第 16 页)进入第 3 部分「独立性」。

先补基础

基础补课累次积分与二重积分(回顾)
  • 二重积分 把 当成正方形上的一个函数,对乘积测度 (也就是平面上的面积,第 7 页)积分。这里 是直线上的勒贝格测度(第 23 页)。
  • 累次积分(iterated integral):分两次做一元积分。例如

先固定 把 当成 的函数积分,得到一个只依赖 的数;再对 积分。括号里那一层叫内层积分。

  • 交换次序就是把 和 的先后对调。Fubini–Tonelli 定理回答的正是:什么时候两种累次积分都等于二重积分。
基础补课正部、负部与「可积」
  • 任何函数都可以拆成 其中 是正部, 是负部,两者都 并且
  • 例: 在 上, 在 处等于 其余为 0; 在 处等于 其余为 0。
  • 积分的定义是 (第 43 页)。只有两项不同时为 时它才有意义;如果都是 就成了「没有定义。
  • 可积(integrable)指 即两部分都有限。Fubini 定理要求的就是 关于乘积测度可积。
基础补课微积分工具:商的求导与反正切
  • 商的求导法则:
  • 反正切 在 上的反函数。它满足 (因为 所以
  • 还会用到恒等式 (几何上:直角三角形两条直角边为 和 两个锐角的正切分别是 和 两个锐角加起来是
基础补课极坐标换元(微积分结论,这里当作已知使用)

平面上的点可以用「到原点的距离 和「与 轴正向的夹角 表示:对非负可测函数

多出来的因子 是因为:半径在 角度在 的小扇环,面积约为 (弧长乘厚度)。例:单位圆盘的面积

基础补课乘积空间 Ω × [0, ∞)(本页第二部分要用)
  • 点是有序对 一个样本点 加一个非负实数
  • σ-代数是乘积 σ-代数 由所有「可测矩形」( 是 的博雷尔集)生成(第 6 页)。
  • 测度是乘积测度 满足 (第 7 页)。它存在且唯一,因为两个因子都是 σ-有限的:每一段长度有限。
  • 例:

课件原文逐句精读

课件原文An application of Fubini's theorem
  • Fubini's theorem fails in evaluating the function on .

(以下留白)

  • Lemma(Moment of random variable). In probability space , if the random variable and the constant then

(以下留白)

中文翻译

蓝条标题:Fubini 定理的一个应用。

  • 对单位正方形 上的函数 用 Fubini 定理求积分会失败。(课件留白,见下一节。)
  • 引理(随机变量的矩):在概率空间 中,若随机变量 常数 则

(证明留白,见下一节。)

Fubini's theorem fails in evaluating the function|Fubini 定理在这个函数上「失效」

  • fails in evaluating:「在求值时失败」。这里的意思是:如果不检查条件就套用 Fubini 定理,以为「两种次序都行」,就会得到互相矛盾的答案。
  • 措辞上温和地指出一点:严格地说,定理没有失效,是它的条件不满足,所以定理根本不适用(Fubini's theorem does not apply)。数学定理只在假设成立时作出保证;假设不成立时,结论可能对也可能错,这里恰好是错的。
  • 的分子 在对角线 上方为正、下方为负;分母 在原点处为 0,所以 在原点附近正负两边都冲向无穷。问题全出在原点这一个角上。
  • 在原点 没有定义。单个点的面积为 0,在那里随便补一个值(例如 0)不影响任何积分(第 43 页)。

Lemma (Moment of random variable)|引理(随机变量的矩)

  • Moment:矩。 叫 的 阶矩; 可以不是整数,例如 时是
  • 两个假设:(下面「常见疑问」会给出去掉它的反例);(保证 在 附近可积,并且 时公式两边不相等)。
  • 右边是 上对勒贝格测度的积分,被积函数是「权重 乘「尾概率
  • 这正是第 2 讲的矩–尾恒等式(第 21 页),课件这里把它叫作引理,并要用 Fubini–Tonelli 重新证明。
  • 记号小笔误:公式里 用的是普通字母 和前面的 是同一个概率测度,应写作 本站统一写作 「Lemma(Moment」中间少了一个空格,不影响意思。
  • 标题叫 application of Fubini's theorem,但下面的证明里被积函数非负,真正用到的是非负版本,即 第 12 页 的 Tonelli 定理。两者常被合称为 Fubini–Tonelli 定理。

补全课件留白

补充说明

课件此处留白(课堂板书),以下内容由本站根据标准教材补写,记号与本课件保持一致;如与老师课堂写法不同,以老师为准。

Fubini's theorem fails|第一部分:两个累次积分不相等

命题(两种次序给出不同答案)

在 上令 (则:

  1. 对每个 从而
  2. 对每个 从而
  3. 即 关于乘积测度不可积,第 10 页 的 Fubini 定理不适用。
推导证明思路

前两条:分别找到 关于 关于 的原函数,用微积分基本定理算内层积分,再算外层。第三条:用极坐标把 写成 积分里出现发散的 另给一个只用 Tonelli 的证明。

第 0 步(可测性): 在除原点外的每一点连续,所以是博雷尔可测函数(第 29 页), 也是。积分都有意义。

第 1 步(两个原函数):用商的求导法则,

( 读作「对 求偏导」:把 当常数,只对 求导。)注意第二行多了一个负号:两个原函数长得对称,但符号相反。

第 2 步(先对 积分):固定 这时 在 上连续(分母 由第 1 步和微积分基本定理,

只有 这一个值例外(那时 积分是 单点对外层积分没有影响。于是

第 3 步(先对 积分):固定 同样的理由,

两个累次积分都存在、都有限,却不相等:

第 4 步( 的积分是无穷大,极坐标证明):

  • 四分之一单位圆盘 整个落在正方形 里,所以 (被积函数非负,区域变小积分不会变大)。
  • 在 上用极坐标,分子 分母 所以
  • 代入极坐标公式(别忘了因子
  • 第一个因子: 在 上非负、在 上非正,两段积分的绝对值都是 (例如 合起来等于
  • 第二个因子:(由单调收敛定理(第 36 页),
  • 所以
不用极坐标的证明:只用 Tonelli 和第 1 步的原函数

可测,第 12 页 的 Tonelli 定理允许先对 积分。固定 在 这一段,所以

于是

同样的计算还说明:正部和负部的积分都是无穷大。正部 住在对角线上方 上式已经给出 负部 住在对角线下方 固定 时 所以 二重积分 是「根本没有定义。

为什么两种次序会算出不同的数

一句话:正、负两块各自是无穷大,积分次序决定了这两个无穷大以什么方式「相减」。

可以做一个实验:先挖掉原点附近的一小块,让 变得有界,在剩下的区域上 Fubini 完全适用(有界函数在有限测度的区域上一定可积),再让挖掉的部分缩小。挖法不同,极限也不同:

挖掉的部分 剩下的区域 积分值
底部横条
左侧竖条
两条都挖掉
  • 第一行的计算:区域里 所以 有界,Fubini 适用。先对 积分,由第 2 步,
  • 第二行:把第一行里 的角色对调,并利用 (交换分子里的 正好变号),值是第一行的相反数。
  • 第三行:先对 积分得 再对 从 积到

(第二个括号用了 最后用了「先补基础」里的恒等式。)

所以「 在整个正方形上的积分」没有一个合理的值:取决于你怎样逼近原点,可以是 甚至别的数。先对 积分相当于第一行(每条横线 固定时,正负抵消后剩下正的),先对 积分相当于第二行。

图解:对角线两侧的两座「无穷高的山」

课件这里没有画图,可以这样想象:

  • 画单位正方形,再画对角线
  • 对角线上方(左上三角形)越靠近原点越高,沿着 轴(高度是 是一座无穷高的「正山」。
  • 对角线下方(右下三角形)形状和上方完全对称(是一个无穷深的「负坑」。
  • 对角线上
  • 固定一条横线 从左往右走,先穿过山(再穿过坑(山的部分 比坑的部分 大一点,所以每条横线的积分是正的
  • 固定一条竖线 从下往上走,先穿过坑再穿过山,坑更深,所以每条竖线的积分是负的。

Lemma (Moment of random variable)|第二部分:矩公式

引理(随机变量的矩)

设 是概率空间, 是随机变量, 是常数。则

右边是 上对勒贝格测度 的积分。两边都在 里取值,同时有限或同时为 。

推导证明思路

把数 写成一个关于 的积分(「把 按高度切成薄片」),于是 变成乘积空间 上一个非负函数的累次积分:先对 再对 用 Tonelli 交换次序,变成先对 (得到 再对

第 1 步(固定一个 把 写成积分):记 若

  • 第一个等号:(因为
  • 第二个等号:微积分基本定理。当 时 在 附近无界,这时先在 上积分得 再令 由单调收敛定理(第 36 页)得到
  • 第三个等号: 在 时为 1、否则为 0,乘上它就等于只在 上积分。

若 左边 右边示性函数恒为 0,积分也是 0。所以对每个

第 2 步(搭好乘积空间):取「先补基础」里的

有限、 σ-有限,所以乘积测度存在唯一(第 7 页),第 12 页 的 Tonelli 定理可以用。在上面定义

( 处 可能无定义,约定 是 -零测集,不影响任何积分。)

第 3 步( 非负且可测,这是用 Tonelli 的前提):

  • 非负:示性函数
  • 可测:
    • 「若 在 和 之间取一个正有理数 (有理数在实数中稠密),则
    • 「若 且 则
    • 每个 是可测矩形:( 是随机变量), 是博雷尔集。正有理数只有可数个,可数个可测集的并仍可测,所以
  • 可测:它只依赖于 对博雷尔集 是可测矩形( 在 上连续,因而博雷尔可测)。
  • 两个非负可测函数的乘积可测(第 29 页),所以 可测。

第 4 步(先对 积分,再对 :由第 1 步,内层积分就是

第 5 步(先对 积分,再对 :固定 是常数,可以提出来;示性函数的积分是概率:

所以这个次序的累次积分是

第 6 步(Tonelli): 可测,两个测度 σ-有限,第 12 页 的 Tonelli 定理说两种次序的累次积分都等于二重积分 包括等于 的情形。比较第 4、5 步即得引理。

人话版和第 2 讲的证明对照
  • 第 2 讲(第 21 页)的证明:先有 (第 12 页),再把它用到 上,做换元 要用到 CDF、换元公式、黎曼积分与勒贝格积分的关系,步骤较多。
  • 本页的证明:一次 Tonelli 搞定。第 2 讲那一页的「另一种证明」卡片里提到过这个想法,当时说「第 1 讲没有讲 Tonelli 定理,所以正文没用」;现在有了 第 12 页,它成为完全严格的证明。
  • 和 第 8 页 的联系:用 第 7 页 的截口记号,集合 在 处的竖截口是 在 处的横截口是 取 引理就是 第 8 页 的公式 图像下方的面积,竖着切是 横着切是 。
图解:图像下方的区域,竖切与横切

课件没有图,可以这样画(为了能画出来,把 想成区间 是长度):

  • 横轴是 纵轴是 画出 的图像。图像和横轴之间的区域就是
  • 竖切:在横轴上某个 处画一条竖线,它穿过 的部分是 按权重 量这段的「长度」,得到 再把所有竖线按 加起来,得到
  • 横切:在高度 处画一条横线,它穿过 的部分是 用 量它的大小是 再按权重 把所有高度加起来,得到右边。
  • 两种切法量的是同一块区域,Tonelli 保证结果相同。

例子

例 1:指数分布的二阶矩(p = 2)

(由引理,

分部积分:所以 再由 (取 方差 与已知结果一致。

例 2:非整数阶 p = 1/2,权重在 0 处无界

在 上均匀分布,( 时为 0。直接算:用引理:

权重 在 时趋于无穷,但积分仍有限。这就是引理要求 的原因之一: 时 有限。

例 3:掷骰子,尾概率是台阶

是一颗公平骰子的点数。尾概率 在 上恒等于 ( 时为 0。

  • 在 上 所以

与直接计算 一致。

例 4(反例):两个累次积分都等于 0,函数仍不可积

在 上令

  • 固定 是奇函数(并且在 上连续,所以 外层再积分还是 0。另一种次序:固定 也是奇函数(同样得到 0。
  • 但极坐标下 在单位圆盘上

所以「两个累次积分相等」不能推出「可积」。判断能否用 Fubini,必须检查

常见疑问与易错点

易错点问:两个累次积分都存在而且有限,还不够吗?

答:不够。本页的 两个累次积分都存在、都有限,却一个是 一个是 例 4 的 两个累次积分甚至相等,但二重积分仍然没有定义。Fubini 定理要的是绝对值的积分有限。

易错点问:实际中怎么检查 ∬|f| < ∞?

答:对 用 Tonelli:它非负,所以随便选一种次序算 算出来有限, 就可积,于是 Fubini 适用,两种次序都对。本页「更多」卡片里正是这样证明 的。口诀:先用 Tonelli 验绝对值,再用 Fubini 换次序。

易错点问:引理里为什么要 Y ≥ 0?

答:反例:左边 右边 对所有 成立,积分是 0。原因是第 1 步的分层只描述了 为负时这段区间是空的。对一般的 可以把引理用在 上:

易错点问:p = 0 或 p < 0 会怎样?

答: 时左边 右边权重 积分是 0,不相等(第 1 步的 在 时不成立,因为 不是 0)。 时 在 处是无穷大, 在 处也发散,整个推导都不成立。

易错点问:P(Y > y) 换成 P(Y ≥ y) 可以吗?

答:可以。两者只在 的点不同,这样的点至多可数个,勒贝格测度为 0,不影响积分(第 21 页 的「更多」卡片有详细理由)。

小结与自测

小结本页小结
  • 在 上:先 得 先 得 不是 Fubini 定理错了,而是 条件不满足。
  • 本质:正部和负部的积分都是 「的结果取决于计算顺序。
  • 矩公式 (把 写成 在 上用 Tonelli 交换次序。
  • 用 Tonelli 前要检查两件事:被积函数非负、关于乘积 σ-代数可测;两个测度 σ-有限。
自测

1. 不做任何积分,说明为什么本页 的两个累次积分一定互为相反数(只要它们都存在)。

点开看答案

因为 在 里把积分变量的名字 对调,它变成 所以「先 的值等于「先 的值的相反数。若 Fubini 适用,两者又必须相等,只能都等于 0;实际算出 这本身就说明 Fubini 不适用。

2. 设 (即 用引理求

点开看答案

令 (分部积分两次)。

3. 判断:「只要 可测,并且 和 都存在且相等, 就关于乘积测度可积。」

点开看答案

错。例 4 的 在 上两个累次积分都等于 0,但 不可积。可积要看 不看累次积分是否相等。

本页术语中英对照(按出现顺序)
中文English白话解释
Fubini 定理Fubini's theoremf 关于乘积测度绝对可积(∬|f| < ∞)时,二重积分等于两种顺序的累次积分。
Tonelli 定理Tonelli's theoremf 非负可测、两个测度 σ-有限时,二重积分等于两种顺序的累次积分,三者可以同时为 ∞。
乘积测度product measure在每个可测矩形上取 μ₁(A₁)μ₂(A₂) 的唯一测度(σ-有限时)。平面面积就是长度 × 长度的乘积测度。
可积integrable (L¹)∫|f| dμ < ∞。全体可积函数记作 L¹(μ)。
σ-有限σ-finite整个空间能切成可数多块测度有限的部分。概率测度、长度都满足;不可数集上的计数测度不满足。
级数series无穷多项相加 a₁ + a₂ + …,它的值是前 n 项和在 n → ∞ 时的极限。
独立independence任意有限个事件同时发生的概率等于各自概率的乘积。
二重积分double integral对两个变量一起积分:∬ f(x, y) dx dy。Fubini–Tonelli 定理说明什么时候可以拆成先对一个变量、再对另一个变量的两次积分。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
测度measure给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。
勒贝格测度Lebesgue measure实数轴上「长度」的严格版本,定义在勒贝格可测集上,m([a,b]) = b − a。
累次积分iterated integral一层一层地积分:先固定一个变量、对另一个变量积分,再对剩下的变量积分。
正部positive / negative partf⁺ = max(f, 0),f⁻ = max(−f, 0),f = f⁺ − f⁻,|f| = f⁺ + f⁻。
反函数inverse functionf 把不同的输入送到不同的输出时,反函数 f⁻¹ 把输出送回原来的输入:f⁻¹(f(x)) = x。例:ln 是 eˣ 的反函数。注意:集合的原像 f⁻¹(D) 不需要反函数存在。
可测函数measurable function对每个 a,集合 {f > a} 都可测;这样的函数才能积分。
样本点sample point一个完整的结局 ω;每次试验恰好实现一个样本点。
乘积 σ-代数product σ-algebra由所有可测矩形生成的 σ-代数,记作 F₁ ⊗ F₂;它也是让两个坐标映射都可测的最小 σ-代数。
σ-代数sigma-algebra允许谈概率的「事件清单」:含 Ω,对补集和可数并封闭。
可测矩形measurable rectangle形如 A₁ × A₂ 的集合,A₁、A₂ 分别是两个空间里的可测集。
博雷尔 σ-代数Borel sigma-algebra由实数轴上所有开区间生成的 σ-代数 𝓑(ℝ),包含所有常见的集合。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
概率空间probability space三元组 (Ω, 𝓕, P):样本空间、事件的 σ-代数、概率测度。
阶矩momentE[|X|ᵖ] 叫 p 阶(绝对)矩;它有限与否反映尾部有多「重」。
尾概率tail probability随机变量取到「很大的值」的概率,例如 P(X > t) 或 P(|X| ≥ t)。它随 t 增大而下降得越慢,分布的尾巴就越「厚」。
概率测度probability measure总质量 P(Ω) = 1 的测度。
极坐标polar coordinates用到原点的距离 r 和角度 θ 表示平面上的点:x = r cos θ,y = r sin θ。在极坐标下做二重积分时 dx dy = r dr dθ。
单调收敛定理monotone convergence theorem (MCT)非负可测函数单调递增地收敛时,积分也收敛:∫fₙ ↑ ∫f。
乘积空间product space笛卡尔积 Ω₁ × Ω₂,配上乘积 σ-代数(以及乘积测度)。
示性函数indicator function𝟏_A(x) 在 x ∈ A 时取 1,否则取 0;它的积分就是 A 的测度。
零测集null set测度为 0 的集合,例如单点、有理数全体、康托尔集。
有理数rational number能写成分数 p/q 的数,全体有理数记作 ℚ;它们可数,却在数轴上处处稠密。
稠密dense任何一小段区间里都能找到它的点,例如有理数在实数轴上稠密。
可测集measurable setσ-代数里的集合,也就是可以谈「测度多大」的集合;在概率空间里,可测集就叫事件。
可数countable元素能排成第 1 个、第 2 个、第 3 个……的一列(有限也算),例如自然数、有理数。
勒贝格积分Lebesgue integral按函数值分块的积分:先定义简单函数的积分,再用下方的简单函数逼近取上确界。
黎曼积分Riemann integral大一学的定积分:按 x 轴切竖条求和取极限。
累积分布函数cumulative distribution function (CDF)F(x) = P(X ≤ x),单调不减、右连续,完全决定分布。
集合set把一些对象放在一起当成一个整体,例如 {1,2,3}。
截口slice (section)固定一个坐标、把二维集合或函数「切一刀」:A_ω₁ = {ω₂ : (ω₁, ω₂) ∈ A},f_ω₁(ω₂) = f(ω₁, ω₂)。
区间interval数轴上的一段,[a,b] 包含端点,(a,b) 不包含端点。
分部积分integration by parts∫ₐᵇ u v′ dx = [u v]ₐᵇ − ∫ₐᵇ u′ v dx:把求导从一个函数挪到另一个函数上。由乘积求导法则 (uv)′ = u′v + uv′ 两边积分得到。
方差varianceVar X = E[(X − E X)²],衡量随机变量围绕均值的波动大小。
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。