高等概率论逐页精讲

第 4 讲 乘积测度与独立性›开篇

PDF 第 3 / 21 页幻灯片 3/22学习目标

本讲目标:学完要会什么

Through this topic, you should...

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

四个目标:会乘积测度的定义,会用 Fubini–Tonelli 定理交换积分顺序,会用概率的语言说清楚独立性,熟悉多元正态分布。可以把它当作复习时的验收清单。

先补基础

基础补课「用概率的语言」是什么意思

同一件事可以用两种语言说:

  • 测度论的语言:乘积空间 乘积测度 截口、累次积分;
  • 概率的语言:随机变量 联合分布、边缘分布、期望、独立。

第 4 讲先用测度论的语言把工具造好,再翻译成概率的语言。例如「 在矩形上取乘积」翻译过来就是「即 独立。

基础补课多元正态分布(先有个印象)

一元正态 是钟形曲线(第 3 讲 第 41 页)。多元正态描述一个随机向量 它由均值向量 和协方差矩阵 决定。二元情形的密度图像是一座「山」,等高线是椭圆。正式定义在 第 19 页。

课件原文逐句精读

课件原文Through this topic, you should...

After finishing this topic, you should know:

  • Definitions produce measure.
  • Funini-Tonellis's theorem.
  • Independence in the language of probability.
  • Be farmilar to multivariate normal random variables.
中文翻译

学完这一讲,你应该掌握:

  • 乘积测度的定义。
  • Fubini–Tonelli 定理。
  • 用概率的语言描述独立性。
  • 熟悉多元正态随机变量。

课件有几处笔误,按正确写法读:Definitions produce measure → Definition of product measure;Funini-Tonellis's → Fubini–Tonelli's;Be farmilar to → Be familiar with(熟悉)。

① Definition of product measure|乘积测度的定义

要会说清三件事:乘积 σ-代数是由所有「可测矩形」 生成的(第 6 页);乘积测度是在矩形上取 的唯一测度(第 7 页);一个二维集合的测度可以用它的截口一条一条算出来(第 8 页)。

② Fubini–Tonelli's theorem|Fubini–Tonelli 定理

要会检查条件再交换积分顺序:

  • 可测 → Tonelli,直接交换(第 12 页);
  • → Fubini,可以交换(第 10 页);
  • 都不满足 → 不能随便交换,要记住反例(第 13 页–第 15 页)。

③ Independence in the language of probability|用概率的语言描述独立性

要会三个层次的独立:事件、随机变量、σ-代数(第 16 页);有限个与无穷多个(第 17 页、第 18 页);并分清两两独立和相互独立(第 18 页)。核心结论是:独立 ⇔ 联合分布是边缘分布的乘积测度。

④ Be familiar with multivariate normal random variables|熟悉多元正态随机变量

要会读多元正态的密度公式(第 19 页),并知道一个重要结论:对联合正态的随机变量,协方差为 0 等价于独立(第 20 页、第 21 页)。

四个目标与三个部分的对照

目标 主要在哪几页 核心结论
① 乘积测度 第 1 部分(4–8 页) 由矩形生成; 在矩形上取乘积且唯一
② Fubini–Tonelli 第 2 部分(9–15 页) 非负可测或绝对可积时,二重积分 = 两种顺序的累次积分
③ 独立性 第 3 部分(16–18 页) 独立 ⇔ 联合分布 = 乘积测度;两两独立 ≠ 相互独立
④ 多元正态 第 3 部分(19–21 页) 联合正态时,不相关 ⇔ 独立

小结

小结本页小结
  • 目标 ①:会定义乘积 σ-代数与乘积测度,会用截口计算二维集合的测度。
  • 目标 ②:交换积分顺序前先检查「非负可测」或「绝对可积」。
  • 目标 ③:独立 = 联合分布等于乘积测度;区分两两独立与相互独立。
  • 目标 ④:读懂多元正态密度;联合正态时不相关就是独立。
  • 课件笔误:produce → product,Funini → Fubini,farmilar to → familiar with。
本页术语中英对照(按出现顺序)
中文English白话解释
乘积测度product measure在每个可测矩形上取 μ₁(A₁)μ₂(A₂) 的唯一测度(σ-有限时)。平面面积就是长度 × 长度的乘积测度。
Tonelli 定理Tonelli's theoremf 非负可测、两个测度 σ-有限时,二重积分等于两种顺序的累次积分,三者可以同时为 ∞。
独立independence任意有限个事件同时发生的概率等于各自概率的乘积。
多元正态分布multivariate normal distribution由均值向量 μ 和正定协方差矩阵 Σ 决定的高维钟形分布。对它而言,不相关等价于独立。
测度measure给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。
乘积空间product space笛卡尔积 Ω₁ × Ω₂,配上乘积 σ-代数(以及乘积测度)。
累次积分iterated integral一层一层地积分:先固定一个变量、对另一个变量积分,再对剩下的变量积分。
截口slice (section)固定一个坐标、把二维集合或函数「切一刀」:A_ω₁ = {ω₂ : (ω₁, ω₂) ∈ A},f_ω₁(ω₂) = f(ω₁, ω₂)。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
联合分布joint law (joint distribution)随机向量 (X, Y) 在平面上的分布:对每个平面博雷尔集 B 给出 P((X, Y) ∈ B)。只知道边缘分布不能确定它。
边缘分布marginal law随机向量中单个坐标的分布,例如 P(X ∈ A) = P((X, Y) ∈ A × ℝ)。
期望expectation随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。
协方差矩阵covariance matrix第 (i, j) 个元素是 Cov(Xᵢ, Xⱼ) 的矩阵,对角线上是各分量的方差。
乘积 σ-代数product σ-algebra由所有可测矩形生成的 σ-代数,记作 F₁ ⊗ F₂;它也是让两个坐标映射都可测的最小 σ-代数。
可测矩形measurable rectangle形如 A₁ × A₂ 的集合,A₁、A₂ 分别是两个空间里的可测集。
集合set把一些对象放在一起当成一个整体,例如 {1,2,3}。
σ-代数sigma-algebra允许谈概率的「事件清单」:含 Ω,对补集和可数并封闭。
事件event样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。
两两独立pairwise independence任意两个都独立。比相互独立弱:三个事件可以两两独立却不相互独立。
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。
协方差covarianceCov(X, Y) = E[(X − EX)(Y − EY)],衡量两个变量一起变大或变小的倾向。独立 ⇒ 协方差为 0,反之一般不成立。
二重积分double integral对两个变量一起积分:∬ f(x, y) dx dy。Fubini–Tonelli 定理说明什么时候可以拆成先对一个变量、再对另一个变量的两次积分。
可积integrable (L¹)∫|f| dμ < ∞。全体可积函数记作 L¹(μ)。