高等概率论逐页精讲

第 3 讲 Borel–Cantelli、收敛与 Radon–Nikodym›第 2 部分 随机变量的收敛:误差与子列

PDF 第 12 / 47 页幻灯片 12/49定理

尾积分给出可求和判别:阶梯面积夹住尾函数下的面积

Tail integrals give a summability criterion

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

对非负随机变量 尾函数 是一条递减曲线,曲线下的面积就是 用宽度为 的竖条去「量」这块面积:竖条高度取右端点的值,阶梯落在曲线下方;取左端点的值,阶梯盖住曲线。于是

特别地( 当且仅当

这是第 2 部分「随机变量的收敛」的第四页,是夹在两页应用之间的工具页。

  • 上一页 第 11 页 证明「一阶矩有限 ⇒ 时,需要知道偏差概率之和 是有限的。它用的是本页不等式的左半边:阶梯和 期望。
  • 下一页 第 13 页 证明反方向「独立同分布且一阶矩无穷 ⇒ 需要知道 它用的是本页不等式的右半边:期望 阶梯和。
  • 标题的意思:尾积分(tail integral) 给出一个可求和判别(summability criterion)——判断级数 是否有限,只要看期望是否有限,反之亦然。

先补基础

基础补课递减函数(decreasing function)
  • 函数 叫递减(课件的 decreasing,严格说是「不增」),是说:只要 就有 允许相等,也就是允许曲线有平台。
  • 例: 递减;分段常数函数「 时为 1, 时为 0.5」也递减(有平台、有跳跃都可以)。
  • 反例: 时升时降,不是递减的。
  • 本页要用的唯一性质:在区间 上,递减函数的最大值不超过左端点的值,最小值不低于右端点的值,即 对所有 成立。这直接来自定义: 给出 给出
基础补课尾函数与尾积分公式(第 2 讲)
  • 对非负随机变量 令 (叫 的尾函数(tail function):它告诉你「 超过 的概率。
  • 为什么递减:若 则 推出 所以 概率有单调性,于是
  • 尾积分公式:(第 2 讲 第 12 页 定理 11 的非负情形;也是 第 21 页 推论 21 取 两边可以同时为 人话:期望 = 尾函数曲线下方的面积。
  • 例:
  • 是可测函数:对每个 是一个从 0 开始的区间(若 在里面、则 也在里面),区间是博雷尔集,所以积分 有意义(第 29 页、第 33 页)。
基础补课级数:无穷多个非负数相加
  • (定义为部分和 在 时的极限。部分和只增不减,所以极限要么是一个有限数,要么是
  • 「级数可求和」(summable)就是这个极限有限。例:(调和级数,第 5 页)。
  • 两条常用规则:(1)比较: 则 (2)多一项少一项不影响有限与否: 是有限数时,两边同时有限或同时无穷。
  • 常数可以提出来:
基础补课用阶梯近似面积(黎曼和的想法)
  • 中学求曲边图形的面积时,把底边切成宽度为 的小段,每段上画一个矩形,矩形面积之和就近似曲线下的面积。
  • 矩形的高度取哪一点的函数值,决定阶梯在曲线上方还是下方。对递减函数:取每段左端点的值,矩形整个盖住曲线(上阶梯);取右端点的值,矩形整个在曲线下面(下阶梯)。
  • 本页就是把这个中学想法用在尾函数 上,而且是在无穷长的区间 上。

课件原文逐句精读

课件原文Tail integrals give a summability criterion

Tail-series comparison: intervals of width

For , write , a decreasing function.

中文翻译

(标题:尾积分给出可求和判别)

尾级数比较:宽度为 的小区间

对 记 它是一个递减函数。

逐句看:

  • Tail-series comparison:tail series(尾级数)指 即把尾函数在等间隔的点 上的值加起来;comparison(比较)指拿它和尾积分 比大小。
  • intervals of width :把 切成宽度为 的小区间 是任意固定的正数。上一页 第 11 页 的「另一种写法」就是把 直接取成斜率
  • For : 是非负随机变量。这个条件让尾积分公式 成立(负的部分不在 上)。用到 这类随机变量时,它们自动非负。
  • :给尾函数起个名字 (tail 的首字母)。
  • a decreasing function:递减函数。这是整个比较能成立的唯一原因:递减函数在每个小区间上被两个端点的值夹住(先补基础)。

蓝条标题里的 summability criterion 是这页的结论:用来判断「级数 是否有限」的判别法。下面把课件留白的比较不等式和判别法补全。

补全课件留白

补充说明

课件此处留白(课堂板书),以下内容由本站根据标准教材补写,记号与本课件保持一致;如与老师课堂写法不同,以老师为准。

Tail-series comparison: intervals of width h > 0|尾级数比较:宽度为 h 的小区间

引理(尾级数比较)

设 是非负随机变量,则

各项都可以是 由于 右端也可写成

逐个看:

  • 左边(下阶梯):从 开始,第 个矩形的底是 高是右端点的值
  • 右边(上阶梯):从 开始,第 个矩形的底是 高是左端点的值
  • 两边只差一项:右边比左边多了一项 所以只要阶梯和是有限数,「上阶梯 − 下阶梯」 越小,夹得越紧。
推导证明思路

在每个小区间 上,递减函数 被右端点值和左端点值夹住;积分这个夹逼,得到每一块面积的上下界;再把所有小区间加起来(非负函数的积分可以逐块相加)。

  1. 每块上夹住。固定 记 对 有 由 递减(先补基础),
  1. 每块的面积夹住。对上式在 上积分。常数在长度为 的区间上积分等于「常数 × 积分保持大小关系(单调性,第 33 页),所以
  1. 把所有块加起来。小区间 两两不交,并起来是 因此对每个 (右边只有 所在的那一项非零)。各项非负,部分和随项数递增,由单调收敛定理(第 36 页),积分与无穷和可以交换:
  1. 对第 2 步求和。对 把第 2 步的三项分别相加(非负数列的比较,可以是
  1. 改写下标。左边令 从 0 跑到 时 从 1 跑到 左边就是 中间用尾积分公式(第 12 页)换成 证毕。

补写:阶梯面积夹住曲线下的面积

课件这一页没有印图,老师课上多半会画下面这张图。请你在纸上跟着画一遍:

人话版图:一条递减曲线、两套阶梯
  1. 画坐标轴:横轴是 (从 0 往右),纵轴是概率(0 到 1)。画出尾函数 从 出发,一路往下(或持平),越往右越贴近横轴。曲线下方的面积就是
  2. 切竖条:在横轴上标出 把曲线下的区域切成一条条宽度为 的竖条。
  3. 上阶梯(盖住曲线):在每个小区间 上画一个矩形,高度取左端点的值 曲线在这一段里只会往下走,所以矩形顶边在曲线上方,矩形把这一条完全盖住。所有矩形面积之和是
  4. 下阶梯(藏在曲线下面):高度改取右端点的值 曲线在这一段里一直不低于这个值,矩形整个在曲线下方。所有矩形面积之和是
  5. 夹住:下阶梯面积 曲线下面积 上阶梯面积。
  6. 一个巧合:把下阶梯整体向左平移 它正好和上阶梯从第二个矩形开始的部分重合。所以两套阶梯只差最左边那一个矩形,面积

为什么这件事有用:曲线下面积(期望)是一个积分,不好直接和「级数」比较;而阶梯面积恰好是 乘以一个级数。夹住之后:

  • 若 下阶梯面积也有限,即
  • 若 上阶梯面积 所以

补写:可求和判别法(标题的结论)

推论(尾概率的可求和判别)

设 是随机变量。则

更精确地,

一般地,对任意固定的

推导证明

取 用引理:左半边是 右半边是

  • (⇒)则
  • (⇐)则

对一般的 引理给出 论证完全相同。

在前后两页怎么用(这正是课件把这页放在这里的原因):

页 已知 用引理的哪一半 得到
第 11 页 左半边,
第 13 页 右半边,

第二行再去掉 那一项(它不超过 1),得到 这就是 第 13 页 要喂给第二 Borel–Cantelli 引理的条件。

例子

例 1:指数分布——看阶梯怎样夹紧

下阶梯: 是首项 公比 的等比级数,和为 上阶梯比它多一项

下阶梯 上阶梯
1 0.5820 1 1.5820
0.5 0.7707 1 1.2707
0.1 0.9508 1 1.0508

读表:三行都满足「下 上」;两套阶梯的差恰好是 越小,两边都越贴近真值 1。

例 2:取整数值的随机变量——上阶梯恰好等于期望

在 上等可能取值,尾函数是分段常数:

取

  • 下阶梯:
  • 曲线下面积:
  • 上阶梯:

上阶梯恰好等于期望。原因: 只取整数时, 在每个 上是常数( 时 上阶梯和曲线完全重合。于是得到一个常用公式:取非负整数值的 满足

例 3:幂律尾巴——期望有限与否,看级数

设 ((其中

  • 级数:这是 -级数, 时有限, 时无穷。
  • 由推论:
  • 直接核对: 时 有限; 时
  • 就是 第 11 页 例 4 的 它的尾级数是调和级数,期望无穷。
例 4(反例):不递减的函数,比较会失败

令 ( 不是整数),( 是整数)。则 但 (整数点只是可数个点,勒贝格测度为 0,第 23 页)。级数和积分天差地别。

问题出在 不递减:在格点上取的值完全不能代表格点之间的值。尾函数总是递减的,所以这种事不会发生在尾函数身上——这就是课件特意写出「a decreasing function」的原因。

推导:一步一步来

另一种证明:逐点数格子,再取期望(不需要尾积分公式)。

  1. 固定 记 令 它数的是「满足 的正整数 有几个」。
  2. 若 没有这样的 若 满足条件的 是 最大的那个满足 而下一个 不满足,即 所以

( 时三项都是 0; 时最右边是 3. 取期望。非负项的无穷和与期望可交换(MCT,第 36 页;做法同 第 4 页 证明二第 2 步),且 于是

这就是引理,而且完全没用尾积分公式。两种证明是同一件事的两面:第一种在「 轴」上切竖条,第二种在每个 上数「 盖住了几个格子」。

让 阶梯逼近曲线。 设 由引理, 时右边趋于 0,所以

这就是「黎曼和逼近积分」在尾函数上的版本,例 1 的表格已经看到了这个趋势。

从级数的角度看推论 8 的界。 第 11 页 的第 3 步要的是 用引理:左半边给出 两边除以 即得。

常见疑问与易错点

易错点问:为什么既要左半边,也要右半边?

答:两半边各管一个方向。左半边「阶梯和 说:期望有限 ⇒ 级数有限,第 11 页 用它得到偏差概率可求和。右半边「 阶梯和」说:级数有限 ⇒ 期望有限,换句话说期望无穷 ⇒ 级数无穷,第 13 页 用它得到偏差概率之和发散。少了任何一半,「当且仅当」就不成立。

易错点问:P(Y > n) 和 P(Y ≥ n) 换着用,判别法还对吗?

答:对。因为 所以

三个级数同时有限或同时无穷。写 还是 只影响具体数值,不影响判别结论。

易错点问:引理需要 Y 有限吗?如果 Y 可以取 +∞ 呢?

答:不需要。若 那么每个 级数 而 不等式两边都是 仍然成立。只是在本讲的应用里, 是实值的,不会遇到这种情况。

易错点问:「期望有限 ⟺ 尾概率可求和」是不是说尾概率要像 1/n² 那样快?

答:不必那么快。可求和只要求 例如 就够了(例 3 中 但也不能太慢: 时级数发散,期望无穷。界线就在「比 快一点」。

小结与自测

小结本页小结
  • 非负随机变量的尾函数 递减,曲线下面积
  • 尾级数比较:下阶梯取右端点,藏在曲线下;上阶梯取左端点,盖住曲线;两者只差
  • 可求和判别:且
  • 左半边服务 第 11 页(矩有限 ⇒ 偏差概率可和),右半边服务 第 13 页(矩无穷 ⇒ 偏差概率之和发散)。
  • 递减性是关键:不递减的函数,格点上的值代表不了整条曲线(例 4)。
自测

1. 设 已知 (第 11 页 自测 1)。取 写出引理的两个阶梯和,验证它们夹住 1。(可用

点开看答案

下阶梯 上阶梯多一项 约为 确实

2. 设 有限吗?用判别法回答。

点开看答案

无穷。(指数 的 -级数发散)。由推论的「⇐」的逆否:级数无穷则

3. 取正整数值,(即第几次抛硬币第一次出现正面)。用例 2 的公式求

点开看答案

(由例 2,

本页术语中英对照(按出现顺序)
中文English白话解释
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
当且仅当if and only if (iff)「A 当且仅当 B」:A 成立就一定有 B,B 成立也一定有 A,两者同真同假,记作 A ⟺ B。
阶矩momentE[|X|ᵖ] 叫 p 阶(绝对)矩;它有限与否反映尾部有多「重」。
偏差概率deviation probabilityXₙ 和目标 X 相差超过 ε 的概率 P(|Xₙ − X| > ε)。它趋于 0 就是依概率收敛;对每个 ε 它都可求和时,由 Borel–Cantelli 引理可推出几乎必然收敛。
期望expectation随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。
独立同分布independent and identically distributed (i.i.d.)一列随机变量相互独立,并且分布都相同,例如反复独立地掷同一颗骰子。
可求和summable非负数列的级数和有限:Σ aₙ < ∞。例如 Σ 1/n² 可求和,Σ 1/n 不可求和(和是 +∞)。
级数series无穷多项相加 a₁ + a₂ + …,它的值是前 n 项和在 n → ∞ 时的极限。
区间interval数轴上的一段,[a,b] 包含端点,(a,b) 不包含端点。
可测函数measurable function对每个 a,集合 {f > a} 都可测;这样的函数才能积分。
博雷尔 σ-代数Borel sigma-algebra由实数轴上所有开区间生成的 σ-代数 𝓑(ℝ),包含所有常见的集合。
部分和partial sum级数 a₁ + a₂ + … 的前 n 项之和 Sₙ = a₁ + … + aₙ;级数的值就是 Sₙ 在 n → ∞ 时的极限。
下界lower bound数集 A 的下界是一个数 m,A 里每个数都 ≥ m。例如 0 和 −3 都是 (0,1] 的下界;所有下界中最大的那个叫下确界。
两两不交pairwise disjoint一列集合中任意两个都没有公共元素,对应「任意两件事不会同时发生」。
单调收敛定理monotone convergence theorem (MCT)非负可测函数单调递增地收敛时,积分也收敛:∫fₙ ↑ ∫f。
Borel–Cantelli 引理Borel–Cantelli lemma概率之和有限 ⇒ 只发生有限次;独立且概率之和无穷 ⇒ 发生无穷多次。
勒贝格测度Lebesgue measure实数轴上「长度」的严格版本,定义在勒贝格可测集上,m([a,b]) = b − a。
可数countable元素能排成第 1 个、第 2 个、第 3 个……的一列(有限也算),例如自然数、有理数。