高等概率论逐页精讲

作业 2 收敛方式、大数定律、中心极限定理与鞅›收敛方式

第 3 题 / 共 12 题解答原页 第 3–4 页证明题

乘积的收敛:依概率收敛总能相乘,L¹ 收敛要靠 Hölder 配对指数

Convergence of products

解答原页第 3 页(本题所在部分)
解答原页第 4 页(本题所在部分)
解答原页第 3–4 页(本题部分)· 点击图片看整页

这道题在问什么

人话版一句话版

两列随机变量各自收敛,乘积 会不会收敛到 答案取决于「收敛」指哪一种。依概率收敛总能相乘:误差可以拆成「很小的量 × 不太大的量」,而单个随机变量落到很远处的概率很小。 收敛(看期望)要求两个因子的可积程度「配得上」: in in 只要 Hölder 不等式就保证 就是 Cauchy–Schwarz。指数不够时(或 的 结论失败,反例是「尖峰的平方根」它自己的 范数趋于 0,平方以后却是期望恒为 1 的尖峰。

  • 考点:证明依概率收敛的「坏事件拆分」写法;单个随机变量的紧性 Hölder、Cauchy–Schwarz、Minkowski 不等式; 空间的单调性;构造反例。
  • 要用的讲义结论:依概率收敛(第 3 讲 第 14 页);从上连续(第 1 讲 第 14 页);子列判别法与连续映射定理(第 3 讲 第 16 页、第 17 页,后者已经用子列证明过乘积的依概率收敛); 空间(第 2 讲 第 22 页); 的单调性(第 2 讲 第 25 页);Hölder 不等式(第 2 讲 第 26 页);Minkowski 不等式(第 2 讲 第 27 页);Markov 不等式(第 2 讲 第 29 页);尖峰反例(第 3 讲 第 19 页);依概率收敛下的控制收敛定理(第 3 讲 第 20 页)。
  • 与其他题的关系:
    • 作业 1 第 6 题 在一般测度空间上问同样的问题:和总能保持,积需要有限测度。本题第 (i) 问正是「有限测度」那一半,读完你会知道总质量为 1 用在了哪一步。
    • 本作业 第 1 题 讨论单个序列的 收敛;小测 1 第 4 题 走的是「 收敛 ⇒ 子列几乎处处收敛 ⇒ Fatou」的路线,原解答最后一步想用的正是它(但用错了,见逐行对照)。
    • 小测 2 第 2 题、小测 2 第 3 题 的一致可积,给出乘积 收敛的充要条件(见「拓展延伸」)。
    • 第 4 题、第 7 题、第 9 题 要用的 Slutsky 定理,核心就是第 (i) 问里的「依概率趋于 0 × 依概率有界 = 依概率趋于 0」。

先补基础

基础补课依概率收敛与 Lᵖ 收敛(回顾)
  • 依概率收敛(第 3 讲 第 14 页): 指对每个 题目写作 它看的是「每个固定时刻,误差大的概率」。
  • 收敛(第 2 讲 第 22 页): 且 题目写作 它看的是「误差 次方的平均」。
  • 收敛 ⇒ 依概率收敛:由 Markov 不等式(第 2 讲 第 29 页),

所以本题后面几问的假设都蕴含第 (i) 问的假设,乘积总是依概率收敛到 后面几问真正的问题只是期望跟不跟得上。

  • 反方向不成立:尖峰 依概率收敛到 0,但 (第 3 讲 第 19 页)。
基础补课单个随机变量「几乎不会跑到无穷远」:P(|X| > λ) → 0
  • 陈述:若 是实值随机变量(每个样本点上取有限的实数值),则 这个性质叫紧性(tightness)。
  • 理由:令 ( 随 递减;交集 是「 比每个整数都大」,即 概率测度总质量有限,由从上连续(第 1 讲 第 14 页),对一般的 所以 时也趋于 0。
  • 例:标准 Cauchy 分布连均值都没有,但 时约 时约 照样趋于 0。紧性不需要任何矩。
  • 反例(无穷测度):在实数轴上用长度作测度,对每个 的长度都是 不趋于 0。从上连续需要 这里不满足。
  • 序列版本:若 称 依概率有界(bounded in probability)。依概率收敛的序列都依概率有界(理由就是下面证明第 4 步的
基础补课「坏事件」的包含关系:证明依概率收敛的标准写法

要证 常用的办法是:

  1. 找几个更简单的「坏事件」使得「它们都不发生 ⇒
  2. 取逆否命题:
  3. 用概率的单调性与次可加性:再逐个说明右边趋于 0(或很小)。

例(和的依概率收敛):若 且 则 所以

易错:包含关系的方向。我们要的是「大事件被小事件的并盖住」,即 这样左边的概率才被右边控制。

基础补课Hölder 不等式、共轭指数与 Cauchy–Schwarz(回顾第 2 讲 p26)
  • 共轭指数: 且 等价于 例:端点情形是
  • Hölder 不等式(第 2 讲 第 26 页 定理 25): 时右边是 是 的「几乎必然上界」中最小的那个。
  • Cauchy–Schwarz 不等式: 的特例,
  • 它做什么:把「乘积的期望」拆成「两个因子各自的大小」。期望对乘积不是乘法的( 一般不成立),Hölder 给出的是一个总成立的上界。
  • 小例子: 在 上均匀分布。Cauchy–Schwarz 给出 确实
  • 记忆方法:把 想成「因子的可积程度要花掉的预算」,两个因子的预算加起来不超过 1,乘积才保证可积( 的预算是
基础补课Minkowski 不等式与 Lᵖ 的单调性(回顾第 2 讲 p25、p27)
  • Minkowski(第 2 讲 第 27 页): 时 即 范数满足三角不等式。
  • 推论 1:收敛序列的范数有界。由 若 右边是收敛数列,收敛数列有界,所以 (更进一步,范数本身收敛到
  • 推论 2:极限在 里。若 且 则
  • 单调性(第 2 讲 第 25 页):在概率空间上, 时 所以 收敛推出 收敛: 收敛 ⇒ 收敛 ⇒ 收敛。例: 时 对所有 相同; 取 0、2 各一半时 大的指数更「看重」大的值。

题目与原解答

课件原文题目

3. * If and both in probability, prove that their products converges in probability.

** If and , prove that . Can we simply extend it to the conclusion: If and , then that when ? If not, provide any extra condition (if need) to achieve the statement above.

*** If and also , then for some , converges to in . Prove it and find such .

Can we achieve in when ? Either prove it or provide the counter example and provide extra condition (if need) to achieve the convergence of the product.

中文翻译

3. (一颗星)若 与 都是依概率收敛,证明乘积 依概率收敛。

(两颗星)若 都在 中收敛,证明 在 中收敛。能否直接推广成: 时,若 都在 中收敛,则 在 中收敛?若不能,给出(如有必要的)附加条件使上述结论成立。

(三颗星)若 在 中收敛, 在 中收敛,则对某些 在 中收敛到 证明它,并找出这样的

当 时,能否得到 在 中收敛?要么证明,要么给出反例,并给出(如有必要的)附加条件使乘积 收敛。

题面说明:星号是小问的标记,不是脚注。下面按 (i)–(v) 编号:(i) 一颗星;(ii) 两颗星的第一句((iii) 三颗星;(iv) 两颗星的第二句( 能否推广),它的回答要用到 (iii),所以放在 (iii) 后面;(v) 最后一问(几处措辞:(i) 没写极限是什么,应为 「converges」应为「converge」;「then that」多了 that;(iii) 的「for some 意思是「对适当的 要我们找出条件。

原解答的思路(左栏):

  1. (i):把 拆成两个「的事件;对含 的那一项,用「 不够小」三个坏事件盖住它,得到 再让
  2. (ii):一句话「是 (iii) 的特例」。两颗星的第二句(能否推广)没有回答。
  3. (iii):三角不等式 + Hölder,得到 最后用 Fatou 说明 (这一步写错了)。
  4. (v):反例 算出 附加条件没有给。

思路:怎么想到的

  1. 乘积的误差怎么拆:想比较 和 就在中间插一个「混合项」

每一项都是「一个趋于 0 的差」乘「一个因子」。这是处理乘积的通用手法,数列的乘积法则 也是这样证明的。2. 依概率:小 × 有界 = 小,但「有界」只能在概率意义下:数列的证明要用「收敛数列有界」。随机变量 却可以没有上界(正态、Cauchy),只能退一步: 的概率可以任意小。于是把 当成一个「坏事件」扔掉,在剩下的地方 真的有界。这就是原解答里 的来历。3. 期望:乘积的期望用 Hölder:要证 自然想把它拆成「 的大小」乘「 的大小」。Hölder 恰好做这件事,但两个因子必须用共轭的指数来量。4. 反例从哪里来:期望可能被「概率很小、取值很大」的部分撑住(尖峰)。把尖峰 开平方,得到 它小到在 (甚至 中趋于 0,两个它相乘又变回尖峰。

完整解答

下面所有随机变量都定义在同一个概率空间 上,取实数值。

(i) 依概率收敛:XₙYₙ →ᴾ XY

定理命题 1(依概率收敛对乘积封闭)

若 则

推导证明思路

插入混合项把误差拆成两项,每一项是「趋于 0 的差 × 因子」。因子可能很大,就把「因子大于 当作坏事件扔掉,它的概率在 时趋于 0(紧性)。先让 再让

第 1 步(插入混合项):

由三角不等式 对每个

第 2 步(把 分成两半):固定 令

若 都不发生,第 1 步右边两项都 所以 取逆否并用次可加性:

下面证明 和

第 3 步(因子 不随 变):任取 若 且 则 取逆否:

是一个固定的正数,由 最后一项随 趋于 0。所以

左边是一个不依赖 的数,右边在 时趋于 0(「先补基础」的紧性)。所以左边 概率非负,于是

第 4 步(因子 随 变):不能直接对 用紧性,因为 要对所有 同时管用。办法是用固定的 控制 任取 若同时有

  • (a)
  • (b)
  • (c)

则由 (a)(b),再由 (c),取逆否:

取概率。第一项、第三项分别是容忍度 和 下的偏差概率,随 趋于 0。所以 对每个 成立,与第 3 步一样令 得 ((a) 里的 1 可以换成任何固定的正数。)

第 5 步(合起来):由第 2 步, 是任取的,所以

另一种证法(子列):第 3 讲 第 17 页 用子列判别法证过同一结论:任取子列,先挑出 几乎必然收敛的子子列,再从中挑出 也几乎必然收敛的子子子列;在它上面两个实数列同时收敛,乘积也收敛;最后由子列判别法(第 3 讲 第 16 页)回到整个序列。上面的直接证法的好处是看得见「概率总质量为 1」用在哪里:第 3、4 步的紧性。

(ii) L² × L² → L¹

定理命题 2(Cauchy–Schwarz 版本)

若 都在 中收敛,则 都可积,并且 即 in

第 1 步(乘积可积):由 Cauchy–Schwarz,所以 是有限数,「 收敛」有意义。

第 2 步(拆分后取期望):对 (i) 第 1 步的逐点不等式取期望(期望保持不等号,且对和是线性的):

第 3 步(每一项用 Cauchy–Schwarz):

第 4 步( 有界):由 Minkowski 的推论 1, 是有限数。

第 5 步(取极限):

(iii) Lᵖ × Lᵠ → L¹:Hölder 配对

定理命题 3(Hölder 版本)

设 (即 若 in in 则 in

更一般地,只要 满足 结论都成立。

共轭情形的证明:把命题 2 的证明里每一处 Cauchy–Schwarz 换成 Hölder。

  1. 可积:
  2. 拆分 + Hölder:

注意配对: 和 用 -范数量, 和 用 -范数量,这正是两个假设给出的信息。3. 有界:(Minkowski 推论 1),( 4. 取极限:右边

一般情形 :设 令 则 即 由 的单调性,且 于是 in 化归为共轭情形 时取 同样化归; 时条件迫使 用 Hölder 的端点形式 证明照抄。

题目「find such 的答案:所有满足 的 都可以,例如 放宽到 也可以,例如 反过来, 时一般不行:例 5 构造了 而 取常数序列 乘积连可积都做不到。所以 正是「对所有满足假设的序列都成立」的条件。

(iv) 能否推广到 Lᵖ × Lᵖ(p > 1)?

命题 4(Lᵖ × Lᵖ → L¹ 何时成立)

设 都在 中收敛(

  1. 若 则 in
  2. 若 结论一般不成立。
  3. 若 再加上「 且 其中 则结论成立。

第 1 条: 时 命题 3 的一般形式直接适用。也可以这样看:由单调性, 收敛推出 收敛,再用命题 2。

第 2 条(反例:尖峰的平方根):取 概率为长度(均匀分布),

  • 收敛(:指数 所以 即 in 相同。
  • 乘积不 收敛: 是尖峰,
  • 乘积依概率收敛(与 (i) 一致): 时

所以 时不能推广。 时 本身就不 收敛到 0,与命题 2 不矛盾。

第 3 条: 是一对共轭指数。由 Hölder,

另一个(也是最本质的)附加条件是乘积序列一致可积,见「拓展延伸」。

(v) p = q = 1

命题 5(L¹ × L¹)
  1. 结论不成立:存在 in 使 不在 中收敛到
  2. 附加条件:若还存在常数 使 对所有 几乎必然成立,则 in (只要求 in 就够了。)

第 1 条(反例):(iv) 的尖峰平方根取 而 这个反例里每个 和 都可积,失败的是收敛本身。原解答给的是另一种反例(乘积根本不可积),见例 6。

第 2 条(证明):

  1. 几乎必然:由子列判别法(第 3 讲 第 16 页),有子列 几乎必然;落在闭区间 里的实数列,极限仍在 里。
  2. 换一种拆法,让有界的因子 和差 配对:
  1. 第一项:
  2. 第二项:令 它满足 而 又由命题 1(把 看成常数序列),由依概率收敛下的控制收敛定理(第 3 讲 第 20 页 定理 15),
  3. 两项相加,

这其实是 Hölder「 配对」的一个变体:一个因子只要求 另一个因子就得「一致地有界」。

原解答逐行对照

(i) 依概率收敛

第 1 行:包含关系正确:两项都 时和

第 2 行:对任意 理由是「三个条件都不成立时,正确,就是完整解答第 4 步。

第 3 行:「最后一句「In the same way(用同样的方法), goes to 0」。

易错点原解答的问题:(i) 的几处跳步
  1. 起点没有交代:第 1 行从 开始,但没有写出它和目标的关系:以及由三角不等式得到的 题目也没写极限,应补上「收敛到
  2. 「应写成 :按通常的运算顺序, 会被读成 那样包含关系就错了。下一行的计算表明作者的意思是
  3. 「是 不是 ,而且要写出理由: 取有限值,由从上连续,还要说明两个极限的次序:先对固定的 让 得到一个不依赖 的上极限,再让 把它压到 0。
  4. 「用同样的方法」处理第二项:第二项的因子是固定的 包含关系更简单,(完整解答第 3 步),应写出来。
  5. 最后一步没写:

结论与方法都对,补上这些就是完整的证明。

(ii) 两颗星

原文:「This is the special case of the following problem.」

易错点原解答的问题:两颗星的第二句没有回答

「是 (iii) 的特例」只回答了第一句( 是共轭指数)。题目接着问「(能否推广」以及「若不能,需要什么附加条件」,原解答没有回答。正确答案见命题 4: 能; 不能,反例是 附加条件可以是 且 或乘积一致可积。

(iii) 三颗星

第 1–2 行:( 范数的三角不等式),再用 Hölder(全部正确,与完整解答一致。

第 3 行:「Hence we can immediately get … We also note that are bounded.」结论正确,但「有界」是得出结论的前提,应写在前面并给出理由:(Minkowski),收敛数列有界; 只是一个数,应说「有限」,理由是

第 4 行:「Finally, by using Fatou's lemma, , it implies .」

易错点原解答的问题:最后的 Fatou 一行有三处错误
  1. 「是错的:由 Minkowski 推论,所以 一般不是 0。若真的 就会推出 即 几乎必然;取 就能看出这不对,那时 正确的写法是
  2. Fatou 的前提没有满足: 需要 几乎必然,题目只给了 收敛,而 收敛推不出几乎必然收敛(小测 2 第 1 题)。要用 Fatou,必须先取子列:先取一个使 趋于 的子列,再从中取几乎必然收敛的子子列(第 3 讲 第 16 页),在子子列上用 Fatou。这样不等式本身仍然成立,这正是 小测 1 第 4 题 的路线;原解答的问题是没有走这一步就直接引用 Fatou。
  3. 这一步根本不需要:对 直接用 Hölder,一行得到 而且它应该放在最前面:先知道 可积,再谈 收敛。
易错点原解答的问题:「find such p, q」只隐含在推导里

原解答在 Hölder 那一行写了「for 这就是答案,但应明确写出:所有共轭指数对都可以;还可以放宽为 (由 单调性化归); 时一般不行(例 5)。

(v) p = q = 1

原文:「No, there is a counter example: for . As as , we must use an improper integral . Thus, the integral diverges to infinity.」

这个反例是可以用的,但原解答只算了一个积分,没有验证反例满足题设。逐项核对(均匀分布):

  • 极限是什么:所以 逐点成立,
  • 可积吗:(( 的指数 时 时 都不可积; 时 可积。所以序列应从 开始。
  • 收敛: 时 所以
  • 乘积:(指数 都不可积。原解答算的 是 进一步, 在 上大于 所以 对每个 成立,结论彻底失败。
易错点原解答的问题:(v) 的反例验证不完整,附加条件没有给
  1. 没有写出极限 也没有验证 in (应为
  2. 时 序列应从 开始。
  3. 算出的 说明的是 应点明这一点,并说明
  4. 记号: 应为 ( 从正的一侧趋于 0); 应为 处函数没有定义(单点概率为 0,不影响积分)。
  5. 题目还要求「provide extra condition」,原解答没有给。可以给:(命题 5 第 2 条);或把指数提高到 (命题 3);或乘积一致可积(拓展延伸)。
  6. 这个反例的失败方式是「乘积连可积都不是」。更有说服力的反例是尖峰平方根:一切都可积, 距离却恒为 1。

例子与数值验证

例 1:没有任何矩也能相乘——Cauchy 变量乘以 1/n

设 服从标准 Cauchy 分布(由命题 1,直接验证:

取 (用 Python 计算):

10 100 1000 10000
0.5 0.0635 0.00637 0.000637

大约按 的速度趋于 0,很慢,但确实趋于 0。这正是第 3 步用到的紧性: 本身很「重尾」,可落到 以外的概率仍然越来越小。

例 2:无穷测度上乘积不再收敛——总质量 1 用在哪里

在实数轴上用长度 作测度(总质量 令 (常数序列,当然依测度收敛到 (一致收敛到 0,当然依测度收敛到 0)。但

乘积 不依测度收敛到 证明坏在第 3 步:不趋于 0,紧性失败。作业 1 第 6 题 说「积需要有限测度」,原因就在这里。与例 1 对比:同样是「 乘 概率空间上成立,无穷测度上失败。

例 3:截断的 w^{−1/4}——精确算出 L¹ 误差和 Cauchy–Schwarz 上界

均匀分布。(在 处把 截在

  • 误差:所以
  • 乘积的 误差:(在 上),
  • 命题 2 的上界:其中

用 Python 计算(并用数值积分核对了两个积分公式):

2 5 10 100
0.289 0.115 0.0577 0.00577
(实际) 0.25 0.04 0.01 0.0001
Cauchy–Schwarz 上界 0.790 0.325 0.163 0.0163

上界始终在实际值之上,按 衰减,实际值按 衰减。Hölder 型的估计不一定精确,但足以证明趋于 0。

例 4:尖峰的平方根——各个指数下的表现

(Python 计算):

10 100
0.316 0.1 0.01 0.001
0.681 0.464 0.215 0.1
1 1 1 1
1 1 1 1

时 in ( 越接近 2 越慢),乘积的期望却恒为 1; 恰好是分界: 不再 收敛,命题 2 的假设不满足。这张表把命题 4 的「 能、 不能」完整地展示了出来。

例 5:幂函数——为什么分界线是 1/p + 1/q = 1

均匀分布,(由

  • 若 推出 乘积一定可积,与 Hölder 一致。
  • 若 可以取 而 例如 取 但 常数序列 满足 收敛,乘积却不可积。
例 6:原解答的反例,数值核对

(Python 数值积分核对):

3 4 10 100
4 2 0.5 0.0408

确实 收敛(也对每个 在 中收敛),而 对每个 成立。所以它同时是 (iv)(和 (v) 的反例,只是属于「乘积不可积」那一类。

拓展延伸

正确的推广:Lᵖ × Lᵠ → Lʳ,1/r = 1/p + 1/q

两颗星问题里「不是自然的推广,自然的是

  • 广义 Hölder: 时 时的证明:对 用 Cauchy–Schwarz(
  • 结论: 都在 中收敛,则 ( 时用 代替 Minkowski)。
  • 时 就是命题 2; 时 比 收敛更强; 时 比 收敛弱,所以推不出 收敛。尖峰平方根中 (与此一致。
一致可积:乘积 L¹ 收敛的充要条件(这里作为已知结论使用)

一致可积(小测 2 第 2 题):

Vitali 收敛定理(Durrett《Probability: Theory and Examples》第 5 版第 4.6 节):设每个 若 则「 一致可积」⇔「 且 in

用在 上:本题所有假设都推出 (命题 1 加上「 收敛 ⇒ 依概率收敛」),所以在每个 都可积时

Hölder 条件、 都只是保证一致可积的充分条件。尖峰 不一致可积: 时 小测 2 第 3 题 给出一致可积的另一种刻画( 有界 + 一致绝对连续)。

依概率有界 × 依概率趋于 0 = 依概率趋于 0(Slutsky 定理的核心)

完整解答第 3、4 步其实证明了一条更一般的规则:若 依概率有界、则 统计里写成

  • 证明:对任意 所以 再令
  • 本作业 第 4 题 用它从中心极限定理推出弱大数定律:前一个因子趋于 0,后一个因子依分布收敛,因而依概率有界。第 7 题、第 9 题 的 Slutsky 定理也建立在这条规则上。
二元连续映射定理

第 3 讲 第 17 页 的子列证法给出更一般的结论:若 连续,则 取 就是命题 1;取 是和;取 它只在 处有定义且连续,但子列证法只需要 在 几乎必然落到的点上连续,所以在 时同样得到 ( 的概率趋于 0,可以随意补定义)。几乎必然收敛也有同样的结论,证明只需逐点用连续性。

常见疑问与易错点

易错点问:(i) 里为什么不能直接说「Xₙ 有界」?

答:随机变量通常没有确定的上界:正态、指数、Cauchy 都能取任意大的值,我们只能说「 的概率很小」。所以证明里把 作为一个坏事件单独扔掉,代价是 最后让 把代价压到 0。

易错点问:为什么要先让 n → ∞,再让 λ → ∞?能不能让 λ 随 n 变?

答:固定 时,第三个坏事件 的容忍度是固定的正数,依概率收敛的定义才能保证它的概率趋于 0。若 随 增大,容忍度随 缩小,依概率收敛的定义不再直接适用(偏差概率可能不趋于 0)。先 后 的写法得到 左边与 无关,这才允许令

易错点问:L¹ 收敛 ⇒ 依概率收敛,(v) 中乘积依概率收敛到 XY,为什么 L¹ 收敛不行?

答:依概率收敛只关心「误差大的概率」,不关心误差有多大。尖峰平方根里, 只发生在概率 的小区间上,所以依概率收敛到 0;但在那里乘积的值是 「概率 × 取值」 恒定,期望被这一小块撑住。 收敛要求期望也跟着收敛,就必须排除这种「小概率、大取值」的情况,这正是一致可积的意思。

易错点问:Hölder 要求 1/p + 1/q = 1,那 p = q = 3 怎么办?

答: 也可以。概率空间上 收敛推出 收敛(单调性),于是用共轭对 真正的条件是 等号是「刚好够」,小于是「有富余」。注意单调性只在有限测度(概率空间)上成立;在实数轴上 收敛推不出 收敛。

小结与自测

小结本题小结
  • (i) 依概率收敛对乘积封闭:用 等坏事件盖住误差,先 再 关键是紧性 它依赖概率总质量为 1。
  • (ii)(iii) 当 同样的拆分,每项用 Hölder, 由 Minkowski 有界; 是 Cauchy–Schwarz。
  • (iv)(v) 指数不够时失败:尖峰平方根 在 (中趋于 0,乘积是期望恒为 1 的尖峰。附加条件:共轭指数下有界、或乘积一致可积(充要)。
  • 原解答:(i) 多处跳步(起点、 的写法、 的理由);两颗星的推广问题没有回答;三颗星的 Fatou 一行「是错的,应为 且直接用 Hölder 即可; 的反例没有验证 收敛、 时不可积、没有给附加条件。
自测

1. 判断:若 则

点开看答案

正确。在命题 1 中取 也可以用连续映射定理(第 3 讲 第 17 页), 处处连续。

2. 填空: in 为了用 Hölder 保证 in 至少要在 中收敛,最小的 ____。

点开看答案

条件是 即 共轭指数 是最小的。

3. 举例:给出 上的 in 使 对所有 成立。这说明了两颗星问题的什么结论?

点开看答案

取 则 都在 中收敛,但 所以 时「不成立,推广需要 或其他附加条件。

本页术语中英对照(按出现顺序)
中文English白话解释
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
依概率收敛convergence in probability对每个 ε > 0,P(|Xₙ − X| > ε) → 0;比几乎必然收敛弱。
可积integrable (L¹)∫|f| dμ < ∞。全体可积函数记作 L¹(μ)。
期望expectation随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。
Hölder 不等式Hölder's inequalityE|XY| ≤ ‖X‖_p ‖Y‖_q(1/p + 1/q = 1);p = q = 2 就是柯西–施瓦茨不等式。
柯西–施瓦茨不等式Cauchy–Schwarz inequalityE|XY| ≤ √(E X²) · √(E Y²):Hölder 不等式取 p = q = 2 的特例。
事件event样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。
从上连续continuity from above集合一层层变小(Eₙ ↓ E)且 μ(E₁) < ∞ 时,μ(Eₙ) → μ(E)。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
子列subsequence从一个数列里按顺序挑出无穷多项组成的新数列。
Markov 不等式Markov's inequalityX ≥ 0 时 P(X ≥ t) ≤ E X / t:期望小,取大值的概率就小。
控制收敛定理dominated convergence theorem (DCT)fₙ → f 几乎处处且 |fₙ| ≤ g、g 可积时,∫fₙ → ∫f。
测度空间measure space三元组 (S, 𝓜, μ):空间、σ-代数、测度。
测度measure给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。
几乎处处almost everywhere (a.e.)除了一个测度为 0 的集合之外都成立;零测集上的值不影响积分。
一致可积uniformly integrable (UI)一族随机变量的尾部期望一致地变小:supₜ E[|Xₜ|; |Xₜ| > λ] → 0(λ → ∞)。它是「依概率收敛 ⇒ 期望收敛」的关键条件。
Slutsky 定理Slutsky's theoremXₙ 依分布收敛到 X,Yₙ 依概率收敛到常数 c,则 Xₙ + Yₙ 依分布收敛到 X + c,XₙYₙ 依分布收敛到 cX。
依概率有界bounded in probability (tight)一列随机变量不会以不可忽略的概率跑到无穷远:sup_n P(|Xₙ| > λ) → 0(λ → ∞)。依概率收敛的序列一定依概率有界。
样本点sample point一个完整的结局 ω;每次试验恰好实现一个样本点。
交集intersection同时属于两个集合的元素全体,A ∩ B 对应「A 且 B」。
概率测度probability measure总质量 P(Ω) = 1 的测度。
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。
次可加性subadditivity并集的测度不超过各部分测度之和:μ(A ∪ B) ≤ μ(A) + μ(B)。
几乎必然收敛almost sure convergence除了概率为 0 的结局以外,Xₙ(ω) 都收敛到 X(ω)。
上界upper bound数集 A 的上界是一个数 M,A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界;所有上界中最小的那个叫上确界。
三角不等式triangle inequality|a + b| ≤ |a| + |b|:分两段走的总路程不会比直接走更短。推广有 |∫f| ≤ ∫|f|、E|X + Y| ≤ E|X| + E|Y|,以及 Lᵖ 范数的 Minkowski 不等式。
概率空间probability space三元组 (Ω, 𝓕, P):样本空间、事件的 σ-代数、概率测度。
偏差概率deviation probabilityXₙ 和目标 X 相差超过 ε 的概率 P(|Xₙ − X| > ε)。它趋于 0 就是依概率收敛;对每个 ε 它都可求和时,由 Borel–Cantelli 引理可推出几乎必然收敛。
区间interval数轴上的一段,[a,b] 包含端点,(a,b) 不包含端点。
上极限limit superior (lim sup)数列「尾部的最大可能值」的极限;对集合则表示「发生无穷多次」。
依测度收敛convergence in measure对每个 ε > 0,μ(|fₙ − f| > ε) → 0:偏差超过 ε 的区域,测度越来越小。在概率空间上就是依概率收敛。
一致收敛uniform convergence所有点上的最大差距 supₓ |fₙ(x) − f(x)| → 0。比逐点收敛强:不允许某些点收敛得特别慢。
绝对连续absolute continuity函数版:小区间总长很小时增量总和也很小;测度版:Q ≪ P,P 为零的事件 Q 也为零。
中心极限定理central limit theorem (CLT)独立同分布、方差 σ² 有限时,(Sₙ − nμ)/(σ√n) 依分布收敛到标准正态分布:大量独立小误差之和近似正态。
弱大数定律weak law of large numbers (WLLN)样本均值依概率收敛到真实均值:对每个 ε > 0,P(|Sₙ/n − μ| > ε) → 0。方差有限时可由 Chebyshev 不等式直接推出。
依分布收敛convergence in distribution在极限分布函数 F 的每个连续点 x 上,P(Xₙ ≤ x) → F(x)。它只比较分布,不要求 Xₙ 本身靠近 X。