高等概率论逐页精讲

第 4 讲 乘积测度与独立性›开篇

PDF 第 1 / 21 页幻灯片 1/22封面

封面:乘积测度与独立性

Product measure and independence

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

前三讲大多只看一个随机变量。第 4 讲开始研究两个或多个随机变量放在一起:它们共同的概率空间怎么搭(乘积测度),二重积分怎么拆成两次单重积分(Fubini–Tonelli 定理),以及「独立」在数学上到底是什么意思。

这是第 4 讲的封面。先回头看看前三讲留下的一个空缺:

  • 第 2 讲讲了一个随机变量 的分布: 把概率「推」到实数轴 上(第 6 页)。可是两个随机变量 合在一起的分布,是 (平面)上的概率,前面没有讲过怎么构造。
  • 第 3 讲反复用到「独立」:第二 Borel–Cantelli 引理要求事件独立(第 7 页),抽样部分要求样本 独立同分布(第 37 页)。可是「存在一列独立同分布的随机变量」这件事本身,需要先搭好一个足够大的概率空间,前面一直默认它存在。

第 4 讲就来补上这块地基。

先补基础

基础补课有序对与笛卡尔积
  • 有序对 把两个对象按顺序配成一对, 和 是不同的有序对。
  • 笛卡尔积 所有有序对 组成的集合,其中 (第 5 页 前后的集合基础)。
  • 例:掷两颗骰子, 有 个元素, 表示「第一颗 3 点、第二颗 5 点」。
  • 例: 就是平面, 是单位正方形。
基础补课二重积分的直观意思

一元积分 是曲线下的面积。二元函数 在一块平面区域上的二重积分,是曲面下方那块立体的体积。微积分里算体积常用「先对 积分、再对 积分」(切片求和)。第 2 部分要讲清楚:这种拆法什么时候是对的,什么时候会出错。

课件原文逐句精读

课件原文封面

Product measure and independence

Topic 4

中文翻译

乘积测度与独立性

第 4 讲

① Product measure|乘积测度

  • Product 是「乘积」,measure 是「测度」(第 12 页)。
  • 已有两个测度空间(比如两个概率空间),怎样在它们的笛卡尔积上定义一个测度,使得「矩形」的测度等于两条边测度的乘积?最熟悉的例子是平面上的面积:长 宽 的矩形面积是 乘积测度就是把这件事推广到一般的测度。

② Independence|独立性

  • 中学的定义是 这一讲把它推广到随机变量、σ-代数和无穷多个对象,并说明:独立 ⇔ 联合分布等于乘积测度。乘积测度和独立性因此是同一枚硬币的两面,这就是标题把两者放在一起的原因。

③ Topic 4|第 4 讲

右下角的 1 / 22 是幻灯片编号;本站收录的 PDF 共 21 页。

这一讲的三个部分

部分 页码 一句话
1. 乘积测度 第 4 页–第 8 页 两个概率空间怎样拼成一个联合空间:乘积 σ-代数、乘积测度、截口
2. Fubini–Tonelli 定理 第 9 页–第 15 页 二重积分什么时候能拆成两次单重积分,以及拆错的反例
3. 独立性 第 16 页–第 21 页 事件、随机变量、σ-代数的独立;独立 = 乘积测度;多元正态分布

下一页(第 2 页)是课件的目录,第 3 页 列出学完这一讲应该掌握的内容。

例子

例 1:本讲会回答的五个具体问题
  1. 在 上均匀分布。 和 两个随机点,每个坐标单独看都是均匀分布,它们的分布一样吗?(第 4 页:完全不同。)
  2. 平面上的「面积」能不能看成两条直线上「长度」的乘积测度?(第 7 页:能,二维勒贝格测度就是这样来的。)
  3. 二重积分先对 积分还是先对 积分,结果总是一样吗?(第 13 页–第 15 页:不一定,函数不可积时两种顺序可以算出不同的数。)
  4. 三个事件两两独立,它们一定相互独立吗?(第 18 页:不一定。)
  5. 两个随机变量协方差为 0,它们一定独立吗?(一般不一定;但如果它们联合服从正态分布,就一定独立,见 第 20 页、第 21 页。)

小结与自测

小结本页小结
  • 第 4 讲研究多个随机变量放在一起时的数学:联合概率空间怎么搭、二重积分怎么算、独立是什么意思。
  • 两个关键词:Product measure(乘积测度)和 Independence(独立性),后者正是用前者来定义的。
  • 它补上了第 3 讲默认使用的前提:独立同分布的随机变量序列确实存在。
自测

1. 掷一颗骰子再抛一枚硬币,样本空间 有多少个元素?写出其中两个。

点开看答案

个。例如

2. 长 3、宽 2 的矩形面积是 6。用「乘积测度」的语言说,这句话是什么意思?

点开看答案

矩形是两条线段 和 的笛卡尔积,它的面积(二维测度)等于两条线段长度(一维测度)的乘积

本页术语中英对照(按出现顺序)
中文English白话解释
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
Tonelli 定理Tonelli's theoremf 非负可测、两个测度 σ-有限时,二重积分等于两种顺序的累次积分,三者可以同时为 ∞。
概率空间probability space三元组 (Ω, 𝓕, P):样本空间、事件的 σ-代数、概率测度。
二重积分double integral对两个变量一起积分:∬ f(x, y) dx dy。Fubini–Tonelli 定理说明什么时候可以拆成先对一个变量、再对另一个变量的两次积分。
乘积测度product measure在每个可测矩形上取 μ₁(A₁)μ₂(A₂) 的唯一测度(σ-有限时)。平面面积就是长度 × 长度的乘积测度。
独立independence任意有限个事件同时发生的概率等于各自概率的乘积。
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。
Borel–Cantelli 引理Borel–Cantelli lemma概率之和有限 ⇒ 只发生有限次;独立且概率之和无穷 ⇒ 发生无穷多次。
事件event样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。
独立同分布independent and identically distributed (i.i.d.)一列随机变量相互独立,并且分布都相同,例如反复独立地掷同一颗骰子。
笛卡尔积Cartesian productA × B 是所有有序对 (a, b) 组成的集合;Aⁿ 是所有长度为 n 的数组。
集合set把一些对象放在一起当成一个整体,例如 {1,2,3}。
元素element集合里的对象。ω ∈ Ω 读作「ω 属于 Ω」。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
测度measure给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。
测度空间measure space三元组 (S, 𝓜, μ):空间、σ-代数、测度。
σ-代数sigma-algebra允许谈概率的「事件清单」:含 Ω,对补集和可数并封闭。
联合分布joint law (joint distribution)随机向量 (X, Y) 在平面上的分布:对每个平面博雷尔集 B 给出 P((X, Y) ∈ B)。只知道边缘分布不能确定它。
乘积 σ-代数product σ-algebra由所有可测矩形生成的 σ-代数,记作 F₁ ⊗ F₂;它也是让两个坐标映射都可测的最小 σ-代数。
截口slice (section)固定一个坐标、把二维集合或函数「切一刀」:A_ω₁ = {ω₂ : (ω₁, ω₂) ∈ A},f_ω₁(ω₂) = f(ω₁, ω₂)。
多元正态分布multivariate normal distribution由均值向量 μ 和正定协方差矩阵 Σ 决定的高维钟形分布。对它而言,不相关等价于独立。
勒贝格测度Lebesgue measure实数轴上「长度」的严格版本,定义在勒贝格可测集上,m([a,b]) = b − a。
可积integrable (L¹)∫|f| dμ < ∞。全体可积函数记作 L¹(μ)。
两两独立pairwise independence任意两个都独立。比相互独立弱:三个事件可以两两独立却不相互独立。
协方差covarianceCov(X, Y) = E[(X − EX)(Y − EY)],衡量两个变量一起变大或变小的倾向。独立 ⇒ 协方差为 0,反之一般不成立。
样本空间sample space一次试验所有可能的完整结局组成的集合,记作 Ω。