这道题在问什么
两列随机变量各自收敛,乘积 会不会收敛到 答案取决于「收敛」指哪一种。依概率收敛总能相乘:误差可以拆成「很小的量 × 不太大的量」,而单个随机变量落到很远处的概率很小。 收敛(看期望)要求两个因子的可积程度「配得上」: in in 只要 Hölder 不等式就保证 就是 Cauchy–Schwarz。指数不够时(或 的 结论失败,反例是「尖峰的平方根」它自己的 范数趋于 0,平方以后却是期望恒为 1 的尖峰。
- 考点:证明依概率收敛的「坏事件拆分」写法;单个随机变量的紧性 Hölder、Cauchy–Schwarz、Minkowski 不等式; 空间的单调性;构造反例。
- 要用的讲义结论:依概率收敛(第 3 讲 第 14 页);从上连续(第 1 讲 第 14 页);子列判别法与连续映射定理(第 3 讲 第 16 页、第 17 页,后者已经用子列证明过乘积的依概率收敛); 空间(第 2 讲 第 22 页); 的单调性(第 2 讲 第 25 页);Hölder 不等式(第 2 讲 第 26 页);Minkowski 不等式(第 2 讲 第 27 页);Markov 不等式(第 2 讲 第 29 页);尖峰反例(第 3 讲 第 19 页);依概率收敛下的控制收敛定理(第 3 讲 第 20 页)。
- 与其他题的关系:
- 作业 1 第 6 题 在一般测度空间上问同样的问题:和总能保持,积需要有限测度。本题第 (i) 问正是「有限测度」那一半,读完你会知道总质量为 1 用在了哪一步。
- 本作业 第 1 题 讨论单个序列的 收敛;小测 1 第 4 题 走的是「 收敛 ⇒ 子列几乎处处收敛 ⇒ Fatou」的路线,原解答最后一步想用的正是它(但用错了,见逐行对照)。
- 小测 2 第 2 题、小测 2 第 3 题 的一致可积,给出乘积 收敛的充要条件(见「拓展延伸」)。
- 第 4 题、第 7 题、第 9 题 要用的 Slutsky 定理,核心就是第 (i) 问里的「依概率趋于 0 × 依概率有界 = 依概率趋于 0」。
先补基础
- 陈述:若 是实值随机变量(每个样本点上取有限的实数值),则 这个性质叫紧性(tightness)。
- 理由:令 ( 随 递减;交集 是「 比每个整数都大」,即 概率测度总质量有限,由从上连续(第 1 讲 第 14 页),对一般的 所以 时也趋于 0。
- 例:标准 Cauchy 分布连均值都没有,但 时约 时约 照样趋于 0。紧性不需要任何矩。
- 反例(无穷测度):在实数轴上用长度作测度,对每个 的长度都是 不趋于 0。从上连续需要 这里不满足。
- 序列版本:若 称 依概率有界(bounded in probability)。依概率收敛的序列都依概率有界(理由就是下面证明第 4 步的
要证 常用的办法是:
- 找几个更简单的「坏事件」使得「它们都不发生 ⇒
- 取逆否命题:
- 用概率的单调性与次可加性:再逐个说明右边趋于 0(或很小)。
例(和的依概率收敛):若 且 则 所以
易错:包含关系的方向。我们要的是「大事件被小事件的并盖住」,即 这样左边的概率才被右边控制。
- 共轭指数: 且 等价于 例:端点情形是
- Hölder 不等式(第 2 讲 第 26 页 定理 25): 时右边是 是 的「几乎必然上界」中最小的那个。
- Cauchy–Schwarz 不等式: 的特例,
- 它做什么:把「乘积的期望」拆成「两个因子各自的大小」。期望对乘积不是乘法的( 一般不成立),Hölder 给出的是一个总成立的上界。
- 小例子: 在 上均匀分布。Cauchy–Schwarz 给出 确实
- 记忆方法:把 想成「因子的可积程度要花掉的预算」,两个因子的预算加起来不超过 1,乘积才保证可积( 的预算是
题目与原解答
3. * If and both in probability, prove that their products converges in probability.
** If and , prove that . Can we simply extend it to the conclusion: If and , then that when ? If not, provide any extra condition (if need) to achieve the statement above.
*** If and also , then for some , converges to in . Prove it and find such .
Can we achieve in when ? Either prove it or provide the counter example and provide extra condition (if need) to achieve the convergence of the product.
3. (一颗星)若 与 都是依概率收敛,证明乘积 依概率收敛。
(两颗星)若 都在 中收敛,证明 在 中收敛。能否直接推广成: 时,若 都在 中收敛,则 在 中收敛?若不能,给出(如有必要的)附加条件使上述结论成立。
(三颗星)若 在 中收敛, 在 中收敛,则对某些 在 中收敛到 证明它,并找出这样的
当 时,能否得到 在 中收敛?要么证明,要么给出反例,并给出(如有必要的)附加条件使乘积 收敛。
题面说明:星号是小问的标记,不是脚注。下面按 (i)–(v) 编号:(i) 一颗星;(ii) 两颗星的第一句((iii) 三颗星;(iv) 两颗星的第二句( 能否推广),它的回答要用到 (iii),所以放在 (iii) 后面;(v) 最后一问(几处措辞:(i) 没写极限是什么,应为 「converges」应为「converge」;「then that」多了 that;(iii) 的「for some 意思是「对适当的 要我们找出条件。
原解答的思路(左栏):
- (i):把 拆成两个「的事件;对含 的那一项,用「 不够小」三个坏事件盖住它,得到 再让
- (ii):一句话「是 (iii) 的特例」。两颗星的第二句(能否推广)没有回答。
- (iii):三角不等式 + Hölder,得到 最后用 Fatou 说明 (这一步写错了)。
- (v):反例 算出 附加条件没有给。
思路:怎么想到的
- 乘积的误差怎么拆:想比较 和 就在中间插一个「混合项」
每一项都是「一个趋于 0 的差」乘「一个因子」。这是处理乘积的通用手法,数列的乘积法则 也是这样证明的。2. 依概率:小 × 有界 = 小,但「有界」只能在概率意义下:数列的证明要用「收敛数列有界」。随机变量 却可以没有上界(正态、Cauchy),只能退一步: 的概率可以任意小。于是把 当成一个「坏事件」扔掉,在剩下的地方 真的有界。这就是原解答里 的来历。3. 期望:乘积的期望用 Hölder:要证 自然想把它拆成「 的大小」乘「 的大小」。Hölder 恰好做这件事,但两个因子必须用共轭的指数来量。4. 反例从哪里来:期望可能被「概率很小、取值很大」的部分撑住(尖峰)。把尖峰 开平方,得到 它小到在 (甚至 中趋于 0,两个它相乘又变回尖峰。
完整解答
下面所有随机变量都定义在同一个概率空间 上,取实数值。
(i) 依概率收敛:XₙYₙ →ᴾ XY
若 则
插入混合项把误差拆成两项,每一项是「趋于 0 的差 × 因子」。因子可能很大,就把「因子大于 当作坏事件扔掉,它的概率在 时趋于 0(紧性)。先让 再让
第 1 步(插入混合项):
由三角不等式 对每个
第 2 步(把 分成两半):固定 令
若 都不发生,第 1 步右边两项都 所以 取逆否并用次可加性:
下面证明 和
第 3 步(因子 不随 变):任取 若 且 则 取逆否:
是一个固定的正数,由 最后一项随 趋于 0。所以
左边是一个不依赖 的数,右边在 时趋于 0(「先补基础」的紧性)。所以左边 概率非负,于是
第 4 步(因子 随 变):不能直接对 用紧性,因为 要对所有 同时管用。办法是用固定的 控制 任取 若同时有
- (a)
- (b)
- (c)
则由 (a)(b),再由 (c),取逆否:
取概率。第一项、第三项分别是容忍度 和 下的偏差概率,随 趋于 0。所以 对每个 成立,与第 3 步一样令 得 ((a) 里的 1 可以换成任何固定的正数。)
第 5 步(合起来):由第 2 步, 是任取的,所以
另一种证法(子列):第 3 讲 第 17 页 用子列判别法证过同一结论:任取子列,先挑出 几乎必然收敛的子子列,再从中挑出 也几乎必然收敛的子子子列;在它上面两个实数列同时收敛,乘积也收敛;最后由子列判别法(第 3 讲 第 16 页)回到整个序列。上面的直接证法的好处是看得见「概率总质量为 1」用在哪里:第 3、4 步的紧性。
(ii) L² × L² → L¹
若 都在 中收敛,则 都可积,并且 即 in
第 1 步(乘积可积):由 Cauchy–Schwarz,所以 是有限数,「 收敛」有意义。
第 2 步(拆分后取期望):对 (i) 第 1 步的逐点不等式取期望(期望保持不等号,且对和是线性的):
第 3 步(每一项用 Cauchy–Schwarz):
第 4 步( 有界):由 Minkowski 的推论 1, 是有限数。
第 5 步(取极限):
(iii) Lᵖ × Lᵠ → L¹:Hölder 配对
设 (即 若 in in 则 in
更一般地,只要 满足 结论都成立。
共轭情形的证明:把命题 2 的证明里每一处 Cauchy–Schwarz 换成 Hölder。
- 可积:
- 拆分 + Hölder:
注意配对: 和 用 -范数量, 和 用 -范数量,这正是两个假设给出的信息。3. 有界:(Minkowski 推论 1),( 4. 取极限:右边
一般情形 :设 令 则 即 由 的单调性,且 于是 in 化归为共轭情形 时取 同样化归; 时条件迫使 用 Hölder 的端点形式 证明照抄。
题目「find such 的答案:所有满足 的 都可以,例如 放宽到 也可以,例如 反过来, 时一般不行:例 5 构造了 而 取常数序列 乘积连可积都做不到。所以 正是「对所有满足假设的序列都成立」的条件。
(iv) 能否推广到 Lᵖ × Lᵖ(p > 1)?
设 都在 中收敛(
- 若 则 in
- 若 结论一般不成立。
- 若 再加上「 且 其中 则结论成立。
第 1 条: 时 命题 3 的一般形式直接适用。也可以这样看:由单调性, 收敛推出 收敛,再用命题 2。
第 2 条(反例:尖峰的平方根):取 概率为长度(均匀分布),
- 收敛(:指数 所以 即 in 相同。
- 乘积不 收敛: 是尖峰,
- 乘积依概率收敛(与 (i) 一致): 时
所以 时不能推广。 时 本身就不 收敛到 0,与命题 2 不矛盾。
第 3 条: 是一对共轭指数。由 Hölder,
另一个(也是最本质的)附加条件是乘积序列一致可积,见「拓展延伸」。
(v) p = q = 1
- 结论不成立:存在 in 使 不在 中收敛到
- 附加条件:若还存在常数 使 对所有 几乎必然成立,则 in (只要求 in 就够了。)
第 1 条(反例):(iv) 的尖峰平方根取 而 这个反例里每个 和 都可积,失败的是收敛本身。原解答给的是另一种反例(乘积根本不可积),见例 6。
第 2 条(证明):
- 几乎必然:由子列判别法(第 3 讲 第 16 页),有子列 几乎必然;落在闭区间 里的实数列,极限仍在 里。
- 换一种拆法,让有界的因子 和差 配对:
- 第一项:
- 第二项:令 它满足 而 又由命题 1(把 看成常数序列),由依概率收敛下的控制收敛定理(第 3 讲 第 20 页 定理 15),
- 两项相加,
这其实是 Hölder「 配对」的一个变体:一个因子只要求 另一个因子就得「一致地有界」。
原解答逐行对照
(i) 依概率收敛
第 1 行:包含关系正确:两项都 时和
第 2 行:对任意 理由是「三个条件都不成立时,正确,就是完整解答第 4 步。
第 3 行:「最后一句「In the same way(用同样的方法), goes to 0」。
- 起点没有交代:第 1 行从 开始,但没有写出它和目标的关系:以及由三角不等式得到的 题目也没写极限,应补上「收敛到
- 「应写成 :按通常的运算顺序, 会被读成 那样包含关系就错了。下一行的计算表明作者的意思是
- 「是 不是 ,而且要写出理由: 取有限值,由从上连续,还要说明两个极限的次序:先对固定的 让 得到一个不依赖 的上极限,再让 把它压到 0。
- 「用同样的方法」处理第二项:第二项的因子是固定的 包含关系更简单,(完整解答第 3 步),应写出来。
- 最后一步没写:
结论与方法都对,补上这些就是完整的证明。
(ii) 两颗星
原文:「This is the special case of the following problem.」
「是 (iii) 的特例」只回答了第一句( 是共轭指数)。题目接着问「(能否推广」以及「若不能,需要什么附加条件」,原解答没有回答。正确答案见命题 4: 能; 不能,反例是 附加条件可以是 且 或乘积一致可积。
(iii) 三颗星
第 1–2 行:( 范数的三角不等式),再用 Hölder(全部正确,与完整解答一致。
第 3 行:「Hence we can immediately get … We also note that are bounded.」结论正确,但「有界」是得出结论的前提,应写在前面并给出理由:(Minkowski),收敛数列有界; 只是一个数,应说「有限」,理由是
第 4 行:「Finally, by using Fatou's lemma, , it implies .」
- 「是错的:由 Minkowski 推论,所以 一般不是 0。若真的 就会推出 即 几乎必然;取 就能看出这不对,那时 正确的写法是
- Fatou 的前提没有满足: 需要 几乎必然,题目只给了 收敛,而 收敛推不出几乎必然收敛(小测 2 第 1 题)。要用 Fatou,必须先取子列:先取一个使 趋于 的子列,再从中取几乎必然收敛的子子列(第 3 讲 第 16 页),在子子列上用 Fatou。这样不等式本身仍然成立,这正是 小测 1 第 4 题 的路线;原解答的问题是没有走这一步就直接引用 Fatou。
- 这一步根本不需要:对 直接用 Hölder,一行得到 而且它应该放在最前面:先知道 可积,再谈 收敛。
原解答在 Hölder 那一行写了「for 这就是答案,但应明确写出:所有共轭指数对都可以;还可以放宽为 (由 单调性化归); 时一般不行(例 5)。
(v) p = q = 1
原文:「No, there is a counter example: for . As as , we must use an improper integral . Thus, the integral diverges to infinity.」
这个反例是可以用的,但原解答只算了一个积分,没有验证反例满足题设。逐项核对(均匀分布):
- 极限是什么:所以 逐点成立,
- 可积吗:(( 的指数 时 时 都不可积; 时 可积。所以序列应从 开始。
- 收敛: 时 所以
- 乘积:(指数 都不可积。原解答算的 是 进一步, 在 上大于 所以 对每个 成立,结论彻底失败。
- 没有写出极限 也没有验证 in (应为
- 时 序列应从 开始。
- 算出的 说明的是 应点明这一点,并说明
- 记号: 应为 ( 从正的一侧趋于 0); 应为 处函数没有定义(单点概率为 0,不影响积分)。
- 题目还要求「provide extra condition」,原解答没有给。可以给:(命题 5 第 2 条);或把指数提高到 (命题 3);或乘积一致可积(拓展延伸)。
- 这个反例的失败方式是「乘积连可积都不是」。更有说服力的反例是尖峰平方根:一切都可积, 距离却恒为 1。
例子与数值验证
设 服从标准 Cauchy 分布(由命题 1,直接验证:
取 (用 Python 计算):
| 10 | 100 | 1000 | 10000 | |
|---|---|---|---|---|
| 0.5 | 0.0635 | 0.00637 | 0.000637 |
大约按 的速度趋于 0,很慢,但确实趋于 0。这正是第 3 步用到的紧性: 本身很「重尾」,可落到 以外的概率仍然越来越小。
在实数轴上用长度 作测度(总质量 令 (常数序列,当然依测度收敛到 (一致收敛到 0,当然依测度收敛到 0)。但
乘积 不依测度收敛到 证明坏在第 3 步:不趋于 0,紧性失败。作业 1 第 6 题 说「积需要有限测度」,原因就在这里。与例 1 对比:同样是「 乘 概率空间上成立,无穷测度上失败。
均匀分布。(在 处把 截在
- 误差:所以
- 乘积的 误差:(在 上),
- 命题 2 的上界:其中
用 Python 计算(并用数值积分核对了两个积分公式):
| 2 | 5 | 10 | 100 | |
|---|---|---|---|---|
| 0.289 | 0.115 | 0.0577 | 0.00577 | |
| (实际) | 0.25 | 0.04 | 0.01 | 0.0001 |
| Cauchy–Schwarz 上界 | 0.790 | 0.325 | 0.163 | 0.0163 |
上界始终在实际值之上,按 衰减,实际值按 衰减。Hölder 型的估计不一定精确,但足以证明趋于 0。
(Python 计算):
| 10 | 100 | |||
|---|---|---|---|---|
| 0.316 | 0.1 | 0.01 | 0.001 | |
| 0.681 | 0.464 | 0.215 | 0.1 | |
| 1 | 1 | 1 | 1 | |
| 1 | 1 | 1 | 1 |
时 in ( 越接近 2 越慢),乘积的期望却恒为 1; 恰好是分界: 不再 收敛,命题 2 的假设不满足。这张表把命题 4 的「 能、 不能」完整地展示了出来。
均匀分布,(由
- 若 推出 乘积一定可积,与 Hölder 一致。
- 若 可以取 而 例如 取 但 常数序列 满足 收敛,乘积却不可积。
(Python 数值积分核对):
| 3 | 4 | 10 | 100 | |
|---|---|---|---|---|
| 4 | 2 | 0.5 | 0.0408 |
确实 收敛(也对每个 在 中收敛),而 对每个 成立。所以它同时是 (iv)(和 (v) 的反例,只是属于「乘积不可积」那一类。
拓展延伸
正确的推广:Lᵖ × Lᵠ → Lʳ,1/r = 1/p + 1/q
两颗星问题里「不是自然的推广,自然的是
- 广义 Hölder: 时 时的证明:对 用 Cauchy–Schwarz(
- 结论: 都在 中收敛,则 ( 时用 代替 Minkowski)。
- 时 就是命题 2; 时 比 收敛更强; 时 比 收敛弱,所以推不出 收敛。尖峰平方根中 (与此一致。
一致可积:乘积 L¹ 收敛的充要条件(这里作为已知结论使用)
一致可积(小测 2 第 2 题):
Vitali 收敛定理(Durrett《Probability: Theory and Examples》第 5 版第 4.6 节):设每个 若 则「 一致可积」⇔「 且 in
用在 上:本题所有假设都推出 (命题 1 加上「 收敛 ⇒ 依概率收敛」),所以在每个 都可积时
Hölder 条件、 都只是保证一致可积的充分条件。尖峰 不一致可积: 时 小测 2 第 3 题 给出一致可积的另一种刻画( 有界 + 一致绝对连续)。
依概率有界 × 依概率趋于 0 = 依概率趋于 0(Slutsky 定理的核心)
二元连续映射定理
第 3 讲 第 17 页 的子列证法给出更一般的结论:若 连续,则 取 就是命题 1;取 是和;取 它只在 处有定义且连续,但子列证法只需要 在 几乎必然落到的点上连续,所以在 时同样得到 ( 的概率趋于 0,可以随意补定义)。几乎必然收敛也有同样的结论,证明只需逐点用连续性。
常见疑问与易错点
答:随机变量通常没有确定的上界:正态、指数、Cauchy 都能取任意大的值,我们只能说「 的概率很小」。所以证明里把 作为一个坏事件单独扔掉,代价是 最后让 把代价压到 0。
答:固定 时,第三个坏事件 的容忍度是固定的正数,依概率收敛的定义才能保证它的概率趋于 0。若 随 增大,容忍度随 缩小,依概率收敛的定义不再直接适用(偏差概率可能不趋于 0)。先 后 的写法得到 左边与 无关,这才允许令
答:依概率收敛只关心「误差大的概率」,不关心误差有多大。尖峰平方根里, 只发生在概率 的小区间上,所以依概率收敛到 0;但在那里乘积的值是 「概率 × 取值」 恒定,期望被这一小块撑住。 收敛要求期望也跟着收敛,就必须排除这种「小概率、大取值」的情况,这正是一致可积的意思。
答: 也可以。概率空间上 收敛推出 收敛(单调性),于是用共轭对 真正的条件是 等号是「刚好够」,小于是「有富余」。注意单调性只在有限测度(概率空间)上成立;在实数轴上 收敛推不出 收敛。
小结与自测
- (i) 依概率收敛对乘积封闭:用 等坏事件盖住误差,先 再 关键是紧性 它依赖概率总质量为 1。
- (ii)(iii) 当 同样的拆分,每项用 Hölder, 由 Minkowski 有界; 是 Cauchy–Schwarz。
- (iv)(v) 指数不够时失败:尖峰平方根 在 (中趋于 0,乘积是期望恒为 1 的尖峰。附加条件:共轭指数下有界、或乘积一致可积(充要)。
- 原解答:(i) 多处跳步(起点、 的写法、 的理由);两颗星的推广问题没有回答;三颗星的 Fatou 一行「是错的,应为 且直接用 Hölder 即可; 的反例没有验证 收敛、 时不可积、没有给附加条件。
1. 判断:若 则
点开看答案
正确。在命题 1 中取 也可以用连续映射定理(第 3 讲 第 17 页), 处处连续。
2. 填空: in 为了用 Hölder 保证 in 至少要在 中收敛,最小的 ____。
点开看答案
条件是 即 共轭指数 是最小的。
3. 举例:给出 上的 in 使 对所有 成立。这说明了两颗星问题的什么结论?
点开看答案
取 则 都在 中收敛,但 所以 时「不成立,推广需要 或其他附加条件。
| 中文 | English | 白话解释 |
|---|---|---|
| 随机变量 | random variable | 从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。 |
| 依概率收敛 | convergence in probability | 对每个 ε > 0,P(|Xₙ − X| > ε) → 0;比几乎必然收敛弱。 |
| 可积 | integrable (L¹) | ∫|f| dμ < ∞。全体可积函数记作 L¹(μ)。 |
| 期望 | expectation | 随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。 |
| Hölder 不等式 | Hölder's inequality | E|XY| ≤ ‖X‖_p ‖Y‖_q(1/p + 1/q = 1);p = q = 2 就是柯西–施瓦茨不等式。 |
| 柯西–施瓦茨不等式 | Cauchy–Schwarz inequality | E|XY| ≤ √(E X²) · √(E Y²):Hölder 不等式取 p = q = 2 的特例。 |
| 事件 | event | 样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。 |
| 从上连续 | continuity from above | 集合一层层变小(Eₙ ↓ E)且 μ(E₁) < ∞ 时,μ(Eₙ) → μ(E)。 |
| 函数 | function / map | f: A → B 给 A 中每个元素指定 B 中唯一一个元素。 |
| 子列 | subsequence | 从一个数列里按顺序挑出无穷多项组成的新数列。 |
| Markov 不等式 | Markov's inequality | X ≥ 0 时 P(X ≥ t) ≤ E X / t:期望小,取大值的概率就小。 |
| 控制收敛定理 | dominated convergence theorem (DCT) | fₙ → f 几乎处处且 |fₙ| ≤ g、g 可积时,∫fₙ → ∫f。 |
| 测度空间 | measure space | 三元组 (S, 𝓜, μ):空间、σ-代数、测度。 |
| 测度 | measure | 给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。 |
| 几乎处处 | almost everywhere (a.e.) | 除了一个测度为 0 的集合之外都成立;零测集上的值不影响积分。 |
| 一致可积 | uniformly integrable (UI) | 一族随机变量的尾部期望一致地变小:supₜ E[|Xₜ|; |Xₜ| > λ] → 0(λ → ∞)。它是「依概率收敛 ⇒ 期望收敛」的关键条件。 |
| Slutsky 定理 | Slutsky's theorem | Xₙ 依分布收敛到 X,Yₙ 依概率收敛到常数 c,则 Xₙ + Yₙ 依分布收敛到 X + c,XₙYₙ 依分布收敛到 cX。 |
| 依概率有界 | bounded in probability (tight) | 一列随机变量不会以不可忽略的概率跑到无穷远:sup_n P(|Xₙ| > λ) → 0(λ → ∞)。依概率收敛的序列一定依概率有界。 |
| 样本点 | sample point | 一个完整的结局 ω;每次试验恰好实现一个样本点。 |
| 交集 | intersection | 同时属于两个集合的元素全体,A ∩ B 对应「A 且 B」。 |
| 概率测度 | probability measure | 总质量 P(Ω) = 1 的测度。 |
| 分布 | law / distribution | X 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。 |
| 次可加性 | subadditivity | 并集的测度不超过各部分测度之和:μ(A ∪ B) ≤ μ(A) + μ(B)。 |
| 几乎必然收敛 | almost sure convergence | 除了概率为 0 的结局以外,Xₙ(ω) 都收敛到 X(ω)。 |
| 上界 | upper bound | 数集 A 的上界是一个数 M,A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界;所有上界中最小的那个叫上确界。 |
| 三角不等式 | triangle inequality | |a + b| ≤ |a| + |b|:分两段走的总路程不会比直接走更短。推广有 |∫f| ≤ ∫|f|、E|X + Y| ≤ E|X| + E|Y|,以及 Lᵖ 范数的 Minkowski 不等式。 |
| 概率空间 | probability space | 三元组 (Ω, 𝓕, P):样本空间、事件的 σ-代数、概率测度。 |
| 偏差概率 | deviation probability | Xₙ 和目标 X 相差超过 ε 的概率 P(|Xₙ − X| > ε)。它趋于 0 就是依概率收敛;对每个 ε 它都可求和时,由 Borel–Cantelli 引理可推出几乎必然收敛。 |
| 区间 | interval | 数轴上的一段,[a,b] 包含端点,(a,b) 不包含端点。 |
| 上极限 | limit superior (lim sup) | 数列「尾部的最大可能值」的极限;对集合则表示「发生无穷多次」。 |
| 依测度收敛 | convergence in measure | 对每个 ε > 0,μ(|fₙ − f| > ε) → 0:偏差超过 ε 的区域,测度越来越小。在概率空间上就是依概率收敛。 |
| 一致收敛 | uniform convergence | 所有点上的最大差距 supₓ |fₙ(x) − f(x)| → 0。比逐点收敛强:不允许某些点收敛得特别慢。 |
| 绝对连续 | absolute continuity | 函数版:小区间总长很小时增量总和也很小;测度版:Q ≪ P,P 为零的事件 Q 也为零。 |
| 中心极限定理 | central limit theorem (CLT) | 独立同分布、方差 σ² 有限时,(Sₙ − nμ)/(σ√n) 依分布收敛到标准正态分布:大量独立小误差之和近似正态。 |
| 弱大数定律 | weak law of large numbers (WLLN) | 样本均值依概率收敛到真实均值:对每个 ε > 0,P(|Sₙ/n − μ| > ε) → 0。方差有限时可由 Chebyshev 不等式直接推出。 |
| 依分布收敛 | convergence in distribution | 在极限分布函数 F 的每个连续点 x 上,P(Xₙ ≤ x) → F(x)。它只比较分布,不要求 Xₙ 本身靠近 X。 |

