高等概率论逐页精讲

第 2 讲 随机变量、期望与不等式›第 1 部分 随机变量、分布与期望

PDF 第 6 / 32 页幻灯片 6/33定义

分布是推前概率测度

A law is a pushforward probability measure

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

随机变量 把 上的概率「搬运」到取值空间 上: 里的集合 分到的概率,就是「 落进 的概率 搬过去以后得到的这个 上的概率测度,叫 的分布(law / distribution),记作

  • 位置:第 1 部分第 3 页。第 4 页定义了随机变量,第 5 页定义了期望(在 上积分);本页把视角从 换到取值空间
  • 为什么需要: 往往很复杂(一整条价格路径、无穷次抛硬币……),而且我们通常根本不知道它具体长什么样。统计学家能观察到的只是「 取各种值的概率」,也就是分布。下一页 第 7 页 会证明:算 只需要分布,不需要 。
  • 标题里的 pushforward(推前)就是「沿着 把 往前推」的意思。

先补基础

基础补课复合记号 ∘
  • 读作「 圈 意思是「先做 再做
  • 在这里, 把 的子集 变成 的子集 再把它变成一个数。所以 就是「先取原像,再算概率」:
基础补课概率测度要满足什么(回顾)

可测空间 上的概率测度 是一个函数 满足(测度空间):

  1. 可数可加性:若 两两不交(任意两个没有公共元素),则

要证明一个东西是概率测度,就逐条检查这两条。

基础补课点质量 δₓ

对 中的一点 定义 (若 (若 它是一个概率测度:把全部质量 1 都放在点 上,叫点质量或狄拉克测度(Dirac measure)。例:有限个点质量的加权和,例如 表示「以概率 取 0、以概率 取 1」。

课件原文逐句精读

课件原文Definition 4 (Law or distribution)

Let be an -valued random variable.

中文翻译

定义 4(分布) 设 是一个取值于 的随机变量。(其余内容课件留白,见下一节。)

  • Law 和 distribution 是同义词,中文都叫「分布」。英文文献里 law 更常见于测度论写法,distribution 更常见于应用写法。
  • -valued random variable:取值于可测空间 的随机元(第 4 页的定义 1)。这里沿用了第 4 页的舞台:概率空间 和可测空间

补全课件留白

补充说明

课件此处留白(课堂板书),以下内容由本站根据标准教材补写,记号与本课件保持一致;如与老师课堂写法不同,以老师为准。

定义 4(分布)

设 是随机元。 的分布(law, distribution)是 上的集合函数

它是 上的一个概率测度,也称为 在 下的推前测度(pushforward measure)。常用记号还有 若 写作 (读作「 服从 若两个随机元 的分布相同,称它们同分布,写作

逐条解释:

  • 定义域是 :分布只对取值空间里「允许问的集合」给出概率。 有意义,正是因为 可测保证了 ——这是第 4 页要求可测的第二个回报。
  • 它活在 上,不在 上: 是 上的测度, 是 上的测度。对实值随机变量, 是 上的测度。
  • 它丢掉了关于 的信息:只记录「取值落在哪里的概率」,不记录「是哪个 造成的」。所以不同的随机变量可以有相同的分布(例 2)。
命题(分布是概率测度)

在定义 4 的设定下, 是 上的概率测度。

推导证明思路

逐条检查概率测度的定义。关键观察只有一个:原像保持「不交」和「并」,所以 的可数可加性原封不动地搬到 上。

  1. 有定义且取值在 :对 ( 可测),所以 有意义,且在 里。
  2. 空集和全空间:(没有 能让 落进空集),所以 (每个 都在 里),所以
  3. 原像保持两两不交:设 两两不交。若某个 同时属于 和 (则 不可能。所以 也两两不交。
  4. 原像保持并:(第 4 页基础补课)。
  5. 可数可加性:

所以 是概率测度。证毕。

分布是「一整个测度」——实际中怎么把它写出来

要对每一个博雷尔集 给出概率,而博雷尔集多得无法一一列举。实际中有三种常见的「压缩描述」方式,本讲会逐一讲到:

描述方式 适用情形 怎么还原 在哪一页
列出点质量 离散(只取可数个值) 把 里的点的 加起来 本页例 1、例 3
密度 有密度(绝对连续) 第 17 页
分布函数 所有实值随机变量 由 唯一确定 第 8 页

最后一行最重要:一个普通的单变量函数 就足以确定整个测度 。这就是第 2 部分「用 CDF 计算期望」的出发点。

补充更一般的推前测度

定义 4 的做法不限于概率:对任何可测映射 和 上的任何测度 都可以定义 上的测度 记作 (读作「 推前 证明和上面完全一样,只是总质量不一定是 1。分布只是 时的特例。

图解

图解:沿着 X 搬运概率

课件这里没有图,可以这样画:

  1. 左边画一个椭圆代表 里面的点是结局 右边画一条数轴(或一个椭圆)代表
  2. 从左边每个 画一根箭头指向右边的 可以有很多根箭头指向同一个点( 不必一一对应)。
  3. 在右边圈出一个集合 把所有箭头落进 的那些 在左边涂上颜色——涂色区域就是
  4. 涂色区域的概率 就是右边 分到的概率

形象地说: 上每一小块概率都沿着箭头「流」到 上,堆在箭头指向的地方。 上某块地方最后堆了多少概率,就是分布在那里的质量。

例子

例 1:掷骰子的分布是 6 个点质量

均匀概率,对任意博雷尔集

例如 这里 表示「元素个数」。

例 2:不同的随机变量,相同的分布

抛一枚公平硬币,各占 令 (正面记 1),(反面记 1)。

  • 对每个 两个随机变量处处不相等。
  • 但 所以 同分布。

连续版本:对区间 二者都是 上的均匀分布(它们在所有博雷尔集上也相等,理由见第 8 页「CDF 决定分布」)。

例 3:非一一对应的映射把质量「合并」

掷两颗骰子,36 个结局各占 令 多个结局被 送到同一个值,它们的概率在那里合并:

上均匀的概率,推到 上就不再均匀了。

例 4:常数随机变量的分布是点质量

若 对所有 成立,则 (若 或 (若 所以

例 5:用一个均匀随机数「造出」伯努利分布

取 固定 令 即 时 否则

  • 概率(长度)为 概率为
  • 所以 这就是参数为 的伯努利分布。

上「连续摊开」的概率,被 压缩到两个点上。第 14 页的逆变换法会把这个想法推广到任意实值分布:只要一个均匀随机数,加上一个合适的函数,就能造出任何你想要的分布。

例 6:推前可以把质量「摊薄」

仍取 令 取值于 对

总质量仍是 1,但被拉伸到长度为 2 的区间上,每单位长度只分到 这是 上的均匀分布,密度为 推前保持总质量,但可以改变质量的疏密。

常见疑问与易错点

易错点问:分布相同,随机变量就相同吗?

答:不是。例 2 的 和 处处不相等,却同分布。分布只描述「取值的统计规律」,不描述「在哪个结局上取什么值」。所以「远弱于「反过来, 几乎必然时,二者一定同分布(它们的原像只在零概率集上不同)。

易错点问:𝓛(X) 和 ℙ 是同一个测度吗?

答:不是,它们住在不同的空间上。 的输入是 的子集(事件), 的输入是 的子集(取值的集合)。二者靠 联系。写 时,括号里其实是 的子集

易错点问:「分布」「分布函数」「密度」是一回事吗?

答:不是,要分清三个层次。

  • 分布 一个测度,输入是集合 输出是概率 每个随机变量都有。
  • 分布函数 一个普通函数,输入是数 输出是概率。只有实值随机变量才有(第 8 页)。它是分布的「压缩记录」,但不丢信息。
  • 密度 另一个普通函数,满足 不是每个随机变量都有:掷骰子没有密度,第 19 页的康托尔分布连续却也没有密度。

中学里常把三者混着叫「分布」,本讲要严格区分。

易错点问:为什么说分布「推前」而不是「拉回」?

答:测度沿着映射的方向走: 从 指向 也从 被送到 所以叫「推前」(push forward)。而集合是逆着映射的方向走的: 里的 被「拉回」成 里的 一句话:集合往回拉,测度往前推。

小结与自测

小结本页小结
  • 分布 上的集合 得到概率
  • 它是 上的概率测度,因为原像保持不交与并, 的可数可加性被原样搬过去。
  • 分布只保留取值的统计规律,丢掉了 的细节:不同随机变量可以同分布。
  • 常用例子:常数 的分布是 离散随机变量的分布是点质量的加权和。
自测

1. 掷一颗骰子,(除以 3 的余数)。写出

点开看答案

每个值恰有 2 个结局,概率 所以

2. 判断:「若 则

点开看答案

错。例 2 中 与 同分布,但 ( 只取 0 或 1,永远不等于

3. 在分布是概率测度的证明里,哪一步用到了「 可测」?如果 不可测会怎样?

点开看答案

第 1 步:需要 才有定义。若 不可测,存在某个 使 那么 根本无法定义, 就不是 上的测度。

本页术语中英对照(按出现顺序)
中文English白话解释
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
集合set把一些对象放在一起当成一个整体,例如 {1,2,3}。
概率测度probability measure总质量 P(Ω) = 1 的测度。
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。
期望expectation随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。
子集subsetA 的每个元素都在 B 里,就说 A 是 B 的子集,记作 A ⊆ B。
原像preimagef⁻¹(B) 是「所有被 f 送进 B 的输入」组成的集合,可测性就是用原像定义的。
可测空间measurable space一个集合加上它上面的一个 σ-代数,例如 (Ω, 𝓕);还没有给出测度。
测度measure给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
可数可加性countable additivity两两不交的可数个集合,并集的测度等于各自测度之和。
两两不交pairwise disjoint一列集合中任意两个都没有公共元素,对应「任意两件事不会同时发生」。
元素element集合里的对象。ω ∈ Ω 读作「ω 属于 Ω」。
点质量point mass (Dirac measure)把全部质量 1 放在一个点上:δ₀(E) = 1 当且仅当 0 ∈ E。
概率空间probability space三元组 (Ω, 𝓕, P):样本空间、事件的 σ-代数、概率测度。
可数countable元素能排成第 1 个、第 2 个、第 3 个……的一列(有限也算),例如自然数、有理数。
空集empty set一个元素也没有的集合,记作 ∅。作为事件,它永远不会发生。
博雷尔 σ-代数Borel sigma-algebra由实数轴上所有开区间生成的 σ-代数 𝓑(ℝ),包含所有常见的集合。
绝对连续absolute continuity函数版:小区间总长很小时增量总和也很小;测度版:Q ≪ P,P 为零的事件 Q 也为零。
累积分布函数cumulative distribution function (CDF)F(x) = P(X ≤ x),单调不减、右连续,完全决定分布。
区间interval数轴上的一段,[a,b] 包含端点,(a,b) 不包含端点。
逆变换法inverse transform methodU 服从 (0,1) 上的均匀分布时,Q(U) 的分布函数恰好是 F,用来生成任意分布。
几乎必然收敛almost sure convergence除了概率为 0 的结局以外,Xₙ(ω) 都收敛到 X(ω)。
事件event样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。