高等概率论逐页精讲

作业 1 Borel–Cantelli 引理、概率不等式与收敛定理›积分的收敛定理与不等式

第 12 题 / 共 12 题解答原页 第 6 页证明题

|f| ≤ 1 时 ∫√(1−f²) ≤ √(1−(∫f)²):单位圆上的点,平均起来落在圆盘里

An integral inequality for |f| ≤ 1 and its equality case

解答原页第 6 页(本题所在部分)
解答原页第 6 页(本题部分)· 点击图片看整页

这道题在问什么

人话版一句话版

把每个 对应到单位圆上半部的一个点 两个积分 恰好是这些点的平均位置(重心)的两个坐标。圆上的点平均起来只会落在圆盘里,所以 也就是 这就是要证的不等式。重心恰好落在圆周上,只可能是(几乎)所有点重合在一处,即 几乎处处是常数。

  • 考点:总测度为 1 时的不等式 (Cauchy–Schwarz 的特例,第 2 讲 第 26 页)及其等号条件;也可以看成凹函数的 Jensen 不等式(第 24 页)。
  • 难点在第 (ii) 问:第 (i) 问只要几行计算;「等号何时成立」才需要想清楚。原解答这一问答错了(见「原解答逐行对照」)。
  • 和其他题的关系:第 7 题 同样是「用 Hölder / Cauchy–Schwarz 证不等式,再找等号条件」。两题的共同教训:用了哪个不等式,就去查那个不等式的等号条件。

先补基础

基础补课这里的 μ 和两个积分
  • 是 上的 Lebesgue 测度(区间的「长度」),所以 是一个概率空间, 可以理解成「 在 上的平均值」。下面简写成
  • 题目默认 可测。因为 所以 有定义,取值在 里。它也可测:其中 是由连续函数定义的开集(第 1 讲 第 29 页「连续函数都可测吗」)。
  • 有界的可测函数在总测度有限的空间上可积,所以 都是有限的数。
  • 例: 时,就是四分之一个单位圆的面积。
基础补课「平均的平方 ≤ 平方的平均」及其等号条件

设总测度为 1, 可测且 记 则

等号成立当且仅当 a.e.( 几乎处处等于一个常数)。

证明:把 展开再积分,并用

若等号成立,非负函数 的积分是 0,所以 a.e.(第 2 讲 第 5 页 自测第 2 题),即 a.e.。反过来, a.e. 时两边都等于

  • 用概率的语言,这就是 方差为 0 当且仅当随机变量几乎必然是常数。
  • 它也是 Cauchy–Schwarz 不等式 的特例(第 26 页)。
  • 例:差 正是 上均匀分布的方差。

题目与原解答

课件原文题目
  1. Let and .

(i) Show that

(ii) Describe the class of functions for which the equality takes place.

中文翻译
  1. 设 (即处处

(i) 证明

(ii) 描述使等号成立的函数类。

  • 「describe the class」的意思是:找出所有使等号成立的 给一个充分必要的刻画,而不只是举几个例子。
  • 原解答把两问标成 (a)、(b),分别对应题目的 (i)、(ii)。

原解答的思路(左栏):(a) 对 和 分别用 Cauchy–Schwarz,得到 这一问正确,只是少了最后开方的一句话。(b) 声称等号成立当且仅当 ( 为常数)。理由不对,答案也不完整;正确答案是「 几乎处处等于某个常数

思路:怎么想到的

  • 两边平方,再移项,要证的式子变成
  • 这个形式让人想到: 处处成立,积分以后 所以只要把「平均的平方 ≤ 平方的平均」分别用在两项上,再相加。
  • 等号条件:两个「≤」相加得到「=」,只可能每一个都是「=」。于是问题变成:两个等号同时成立需要什么。
图解:单位圆上的点云与它的重心

(描述)画一个单位圆,只看上半部分。对每个 在圆上标出点 横坐标是 纵坐标自动非负,而且 到原点的距离恰好是 1。

  • 把所有点按 平均,得到重心
  • 圆盘是凸的,圆上点的平均一定在圆盘里:所以重心的高度 不超过圆周在横坐标 处的高度 这就是 (i)。
  • 点越分散,重心越往圆心缩;只有(几乎)所有点重合在一处时,重心才在圆周上,这就是 (ii)。
  • 例: 时,点从 沿圆弧走到 重心是 圆周在横坐标 处的高度是 重心比圆周低约

完整解答

记 由「先补基础」,两个积分都是有限的数,且

(i) 第 1 步:对 用「平均的平方 ≤ 平方的平均」:

第 2 步:对 用同一个不等式:

第 3 步:两式相加, 抵消:

第 4 步(开方):由第 3 步, 在 上递增,所以 而 这就证明了 (i)。

(ii) 结论:等号成立当且仅当 几乎处处等于某个常数

充分性:若 a.e.,则 a.e.。左边 右边 相等。

必要性:设 则 第 1、2 步的两个不等式都是「≤」;如果其中有一个严格小于,相加以后也严格小于 1。所以两个都取等号。特别地 由「先补基础」里的等号条件, a.e.。

补充只有第 2 步取等号是不够的

第 2 步取等号只说明 几乎处处是常数,也就是 几乎处处是常数; 本身仍可以在 之间跳来跳去(例 3)。真正把 锁定成常数的是第 1 步的等号。

原解答逐行对照

  1. (a)「By Cauchy-Schwarz inequality, we have :正确。这里的 Cauchy–Schwarz 是 用了两次,并且用到
  2. 「:正确(积分的线性)。
  3. 缺的一句:原解答停在 没有写出要证的 (上面第 4 步)。
  4. (b)「Cauchy-Schwarz inequality is a special case of Hölder's inequality, hence, for strictly convex function, the equality holds if and only if , , is a constant.」:这一问有两个问题,见下。
易错点原解答的问题:等号条件找错了地方
  • 理由不对。「是把 Cauchy–Schwarz 用在 与 这一对函数上(时的等号条件,可是 (a) 根本没有用这个不等式。(a) 是把 与常数 配对,等号条件是「 与 成比例」,即 几乎处处是常数。「strictly convex function」一句也没有对应的论证(想用严格凹性,应该用 Jensen 不等式,见「拓展延伸」方法三)。
  • 答案不完整。 是固定的常数,而 所以 与 同号;再加上 得到 所以原解答给出的函数类其实是「取值在 里的常数函数」,漏掉了 和 。这三个常数也使等号成立: 时两边都是 1, 时两边都是 0。
  • 「处处」应为「几乎处处」:在一个零测集上改动 的值,不影响任何积分(例 4)。
  • 正确答案:等号成立 几乎处处等于某个常数

例子与数值验证

下表用中点法(把 等分成 20 万份)计算两边,记 (左边)、(右边):

等号?
( ( 否
( 否
左半 右半 否
常数 是
常数 是
常数 是
例 1:f(x) = x

是四分之一个单位圆的面积 右边是 不是常数,所以不等式严格成立。

例 2:f(x) = sin 2πx

右边是 1。左边是 注意 不是 点 在上半圆上来回扫,重心 离圆周很远。

例 3:|f| 是常数但 f 不是常数,等号不成立

在 上 在 上

  • 是常数,所以第 2 步取等号;
  • 但 而 第 1 步不取等号。

结果:左边 右边 1。几何上,两个点 各占一半质量,重心 在圆盘内部。

例 4:几乎处处为常数也算

令 只在有理点上改成 有理点组成零测集(第 1 讲 第 43 页),两个积分都不变:两边都是 等号成立。这个 不是处处为常数,所以 (ii) 的答案必须写「几乎处处」。

拓展延伸

方法二:几何证明(单位向量的平均)

记 长度 (逐个分量积分)。

若 则 不等式成立且不取等号。若 用平面上的点积 和

  • 第二个等号把常向量 移进积分(逐分量看就是积分的线性)。
  • 两边除以 得 即
  • 等号:这时 被积函数非负,所以 a.e.。两个长度分别为 和 1 的向量,点积等于 只可能方向相同,于是 a.e., 几乎处处是常数。

这个证明对 中任何取值为单位向量的函数都适用:单位向量平均以后长度不超过 1;等于 1 当且仅当它们(几乎)全都相同。

方法三:Jensen 不等式(凹函数)

的图形就是上半个单位圆,它在 上严格凹:在 内 总测度为 1 时,凹函数的 Jensen 不等式(第 2 讲 第 24 页)给出

这正是题目的不等式。严格凹又给出等号条件: 几乎处处是常数(第 24 页「等号什么时候成立」)。

  • 小细节:讲义的 Jensen 是对开区间上的函数陈述的,而这里 可以取到端点 若 在 处有切线 且 在整个 上成立,讲义的证明照样适用。若 则 且 所以 a.e.,两边都是 0;若 则 且 所以 a.e.,两边同样都是 0。
  • 本题因此是「Jensen 不等式 + 严格凹的等号条件」的一个实例。同一类结论还有: 给出 (几何平均 ≤ 算术平均), 给出
到底差多少:一个精确的恒等式

「先补基础」的证明其实给出了等式 其中 分别用于 和 再相加:

右边正是点云 到重心 的平均平方距离 点越分散,重心离圆周越远。

数值核对(合计约 左边

总测度不是 1 时

把 换成 (总测度 2),取 左边 右边 不等式不成立。原因是证明用了

一般地,总测度为 时,对概率测度 用本题的结论,再乘以 得到

用概率的语言,本题就是: 时,等号当且仅当 几乎必然是常数。

与特征函数的联系

单位圆上的点也可以写成复数 方法二的论证(把点积换成复数的乘法与取实部)说明:等号当且仅当 几乎处处是常数。在概率论里,这就是特征函数 的基本性质:而 当且仅当 几乎必然是常数,即 几乎必然落在某个 上。证明中心极限定理的标准方法就是用特征函数。

常见疑问与易错点

易错点问:|f| 是常数,就能取等号吗?

答:不能(例 3)。 是常数只保证第 2 步取等号;第 1 步要求 本身几乎处处是常数。

易错点问:为什么一定要写「几乎处处」?

答:积分看不见零测集(第 1 讲 第 43 页)。例 4 的 不是处处为常数,等号却成立。所以函数类要写成「 几乎处处等于常数」;只写「 是常数」就漏掉了这些函数。

易错点问:(∫g)² ≤ ∫g² 对任何测度都成立吗?

答:不。它依赖总测度为 1(证明里用了 例如 上 总测度为 时,正确的形式是

易错点问:题目只说 f : [0,1] → ℝ,没说可测,有关系吗?

答:有。不可测的函数没有 Lebesgue 积分,题目里的 就没有意义。这类题目都默认 可测;有了可测性, 保证两个积分都存在。

小结与自测

小结本题小结
  • 把 看成单位圆上的点:两个积分是重心的坐标,重心在圆盘里,所以
  • 证明:对 和 各用一次 (总测度为 1),相加,开方。
  • 等号 几乎处处等于某个常数 是常数不够; 也算。原解答的 (b) 用错了等号条件,漏掉了
  • 本质:严格凹函数 的 Jensen 不等式。两边的差距 = 两个方差之和。
自测

1. 对 计算两边。

点开看答案

右边是 1。左边令 (( 是半个单位圆的面积)。

2. 若 只取 两个值,什么时候取等号?

点开看答案

左边是 0(右边 它为 0 当且仅当 或 即 几乎处处等于 或 这和「几乎处处为常数」一致。

3. 已知 最大可能是多少?什么样的 能取到?

点开看答案

由 (i),不超过 由 (ii),取到 当且仅当 a.e.。

4. 第 2 步的不等式 什么时候取等号?举一个它取等号、而题目的不等式不取等号的例子。

点开看答案

当且仅当 a.e. 为常数,即 a.e. 为常数。例:例 3 的 (左半 右半

本页术语中英对照(按出现顺序)
中文English白话解释
几乎处处almost everywhere (a.e.)除了一个测度为 0 的集合之外都成立;零测集上的值不影响积分。
测度measure给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。
柯西–施瓦茨不等式Cauchy–Schwarz inequalityE|XY| ≤ √(E X²) · √(E Y²):Hölder 不等式取 p = q = 2 的特例。
Jensen 不等式Jensen's inequalityφ 凸时 φ(E X) ≤ E φ(X),例如 (E X)² ≤ E X²。
凹函数concave function−φ 是凸函数时,φ 叫凹函数:任意两点间的弦都在图像下方,例如 log x、√x。对凹函数,Jensen 不等式反向:E φ(X) ≤ φ(E X)。
区间interval数轴上的一段,[a,b] 包含端点,(a,b) 不包含端点。
概率空间probability space三元组 (Ω, 𝓕, P):样本空间、事件的 σ-代数、概率测度。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
可测函数measurable function对每个 a,集合 {f > a} 都可测;这样的函数才能积分。
可积integrable (L¹)∫|f| dμ < ∞。全体可积函数记作 L¹(μ)。
当且仅当if and only if (iff)「A 当且仅当 B」:A 成立就一定有 B,B 成立也一定有 A,两者同真同假,记作 A ⟺ B。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
几乎必然收敛almost sure convergence除了概率为 0 的结局以外,Xₙ(ω) 都收敛到 X(ω)。
方差varianceVar X = E[(X − E X)²],衡量随机变量围绕均值的波动大小。
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。
零测集null set测度为 0 的集合,例如单点、有理数全体、康托尔集。
概率测度probability measure总质量 P(Ω) = 1 的测度。
特征函数characteristic functionφ_X(t) = E e^{itX}(i 是虚数单位),把一个分布编码成一个函数:两个随机变量同分布 ⟺ 特征函数相同。本课没有讲它,作业里只当作已知工具提到。
中心极限定理central limit theorem (CLT)独立同分布、方差 σ² 有限时,(Sₙ − nμ)/(σ√n) 依分布收敛到标准正态分布:大量独立小误差之和近似正态。