这一页在讲什么
随机变量 把 上的概率「搬运」到取值空间 上: 里的集合 分到的概率,就是「 落进 的概率 搬过去以后得到的这个 上的概率测度,叫 的分布(law / distribution),记作
- 位置:第 1 部分第 3 页。第 4 页定义了随机变量,第 5 页定义了期望(在 上积分);本页把视角从 换到取值空间
- 为什么需要: 往往很复杂(一整条价格路径、无穷次抛硬币……),而且我们通常根本不知道它具体长什么样。统计学家能观察到的只是「 取各种值的概率」,也就是分布。下一页 第 7 页 会证明:算 只需要分布,不需要 。
- 标题里的 pushforward(推前)就是「沿着 把 往前推」的意思。
先补基础
- 读作「 圈 意思是「先做 再做
- 在这里, 把 的子集 变成 的子集 再把它变成一个数。所以 就是「先取原像,再算概率」:
对 中的一点 定义 (若 (若 它是一个概率测度:把全部质量 1 都放在点 上,叫点质量或狄拉克测度(Dirac measure)。例:有限个点质量的加权和,例如 表示「以概率 取 0、以概率 取 1」。
课件原文逐句精读
Let be an -valued random variable.
定义 4(分布) 设 是一个取值于 的随机变量。(其余内容课件留白,见下一节。)
- Law 和 distribution 是同义词,中文都叫「分布」。英文文献里 law 更常见于测度论写法,distribution 更常见于应用写法。
- -valued random variable:取值于可测空间 的随机元(第 4 页的定义 1)。这里沿用了第 4 页的舞台:概率空间 和可测空间
补全课件留白
课件此处留白(课堂板书),以下内容由本站根据标准教材补写,记号与本课件保持一致;如与老师课堂写法不同,以老师为准。
设 是随机元。 的分布(law, distribution)是 上的集合函数
它是 上的一个概率测度,也称为 在 下的推前测度(pushforward measure)。常用记号还有 若 写作 (读作「 服从 若两个随机元 的分布相同,称它们同分布,写作
逐条解释:
- 定义域是 :分布只对取值空间里「允许问的集合」给出概率。 有意义,正是因为 可测保证了 ——这是第 4 页要求可测的第二个回报。
- 它活在 上,不在 上: 是 上的测度, 是 上的测度。对实值随机变量, 是 上的测度。
- 它丢掉了关于 的信息:只记录「取值落在哪里的概率」,不记录「是哪个 造成的」。所以不同的随机变量可以有相同的分布(例 2)。
在定义 4 的设定下, 是 上的概率测度。
逐条检查概率测度的定义。关键观察只有一个:原像保持「不交」和「并」,所以 的可数可加性原封不动地搬到 上。
- 有定义且取值在 :对 ( 可测),所以 有意义,且在 里。
- 空集和全空间:(没有 能让 落进空集),所以 (每个 都在 里),所以
- 原像保持两两不交:设 两两不交。若某个 同时属于 和 (则 不可能。所以 也两两不交。
- 原像保持并:(第 4 页基础补课)。
- 可数可加性:
所以 是概率测度。证毕。
分布是「一整个测度」——实际中怎么把它写出来
要对每一个博雷尔集 给出概率,而博雷尔集多得无法一一列举。实际中有三种常见的「压缩描述」方式,本讲会逐一讲到:
| 描述方式 | 适用情形 | 怎么还原 | 在哪一页 |
|---|---|---|---|
| 列出点质量 | 离散(只取可数个值) | 把 里的点的 加起来 | 本页例 1、例 3 |
| 密度 | 有密度(绝对连续) | 第 17 页 | |
| 分布函数 | 所有实值随机变量 | 由 唯一确定 | 第 8 页 |
最后一行最重要:一个普通的单变量函数 就足以确定整个测度 。这就是第 2 部分「用 CDF 计算期望」的出发点。
定义 4 的做法不限于概率:对任何可测映射 和 上的任何测度 都可以定义 上的测度 记作 (读作「 推前 证明和上面完全一样,只是总质量不一定是 1。分布只是 时的特例。
图解
课件这里没有图,可以这样画:
- 左边画一个椭圆代表 里面的点是结局 右边画一条数轴(或一个椭圆)代表
- 从左边每个 画一根箭头指向右边的 可以有很多根箭头指向同一个点( 不必一一对应)。
- 在右边圈出一个集合 把所有箭头落进 的那些 在左边涂上颜色——涂色区域就是
- 涂色区域的概率 就是右边 分到的概率
形象地说: 上每一小块概率都沿着箭头「流」到 上,堆在箭头指向的地方。 上某块地方最后堆了多少概率,就是分布在那里的质量。
例子
均匀概率,对任意博雷尔集
例如 这里 表示「元素个数」。
抛一枚公平硬币,各占 令 (正面记 1),(反面记 1)。
- 对每个 两个随机变量处处不相等。
- 但 所以 同分布。
连续版本:对区间 二者都是 上的均匀分布(它们在所有博雷尔集上也相等,理由见第 8 页「CDF 决定分布」)。
掷两颗骰子,36 个结局各占 令 多个结局被 送到同一个值,它们的概率在那里合并:
上均匀的概率,推到 上就不再均匀了。
若 对所有 成立,则 (若 或 (若 所以
取 固定 令 即 时 否则
- 概率(长度)为 概率为
- 所以 这就是参数为 的伯努利分布。
上「连续摊开」的概率,被 压缩到两个点上。第 14 页的逆变换法会把这个想法推广到任意实值分布:只要一个均匀随机数,加上一个合适的函数,就能造出任何你想要的分布。
仍取 令 取值于 对
总质量仍是 1,但被拉伸到长度为 2 的区间上,每单位长度只分到 这是 上的均匀分布,密度为 推前保持总质量,但可以改变质量的疏密。
常见疑问与易错点
答:不是。例 2 的 和 处处不相等,却同分布。分布只描述「取值的统计规律」,不描述「在哪个结局上取什么值」。所以「远弱于「反过来, 几乎必然时,二者一定同分布(它们的原像只在零概率集上不同)。
答:不是,它们住在不同的空间上。 的输入是 的子集(事件), 的输入是 的子集(取值的集合)。二者靠 联系。写 时,括号里其实是 的子集
答:测度沿着映射的方向走: 从 指向 也从 被送到 所以叫「推前」(push forward)。而集合是逆着映射的方向走的: 里的 被「拉回」成 里的 一句话:集合往回拉,测度往前推。
小结与自测
- 分布 上的集合 得到概率
- 它是 上的概率测度,因为原像保持不交与并, 的可数可加性被原样搬过去。
- 分布只保留取值的统计规律,丢掉了 的细节:不同随机变量可以同分布。
- 常用例子:常数 的分布是 离散随机变量的分布是点质量的加权和。
1. 掷一颗骰子,(除以 3 的余数)。写出
点开看答案
每个值恰有 2 个结局,概率 所以
2. 判断:「若 则
点开看答案
错。例 2 中 与 同分布,但 ( 只取 0 或 1,永远不等于
3. 在分布是概率测度的证明里,哪一步用到了「 可测」?如果 不可测会怎样?
点开看答案
第 1 步:需要 才有定义。若 不可测,存在某个 使 那么 根本无法定义, 就不是 上的测度。
| 中文 | English | 白话解释 |
|---|---|---|
| 随机变量 | random variable | 从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。 |
| 集合 | set | 把一些对象放在一起当成一个整体,例如 {1,2,3}。 |
| 概率测度 | probability measure | 总质量 P(Ω) = 1 的测度。 |
| 分布 | law / distribution | X 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。 |
| 期望 | expectation | 随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。 |
| 子集 | subset | A 的每个元素都在 B 里,就说 A 是 B 的子集,记作 A ⊆ B。 |
| 原像 | preimage | f⁻¹(B) 是「所有被 f 送进 B 的输入」组成的集合,可测性就是用原像定义的。 |
| 可测空间 | measurable space | 一个集合加上它上面的一个 σ-代数,例如 (Ω, 𝓕);还没有给出测度。 |
| 测度 | measure | 给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」,空集为 0,并且可数可加。 |
| 函数 | function / map | f: A → B 给 A 中每个元素指定 B 中唯一一个元素。 |
| 可数可加性 | countable additivity | 两两不交的可数个集合,并集的测度等于各自测度之和。 |
| 两两不交 | pairwise disjoint | 一列集合中任意两个都没有公共元素,对应「任意两件事不会同时发生」。 |
| 元素 | element | 集合里的对象。ω ∈ Ω 读作「ω 属于 Ω」。 |
| 点质量 | point mass (Dirac measure) | 把全部质量 1 放在一个点上:δ₀(E) = 1 当且仅当 0 ∈ E。 |
| 概率空间 | probability space | 三元组 (Ω, 𝓕, P):样本空间、事件的 σ-代数、概率测度。 |
| 可数 | countable | 元素能排成第 1 个、第 2 个、第 3 个……的一列(有限也算),例如自然数、有理数。 |
| 空集 | empty set | 一个元素也没有的集合,记作 ∅。作为事件,它永远不会发生。 |
| 博雷尔 σ-代数 | Borel sigma-algebra | 由实数轴上所有开区间生成的 σ-代数 𝓑(ℝ),包含所有常见的集合。 |
| 绝对连续 | absolute continuity | 函数版:小区间总长很小时增量总和也很小;测度版:Q ≪ P,P 为零的事件 Q 也为零。 |
| 累积分布函数 | cumulative distribution function (CDF) | F(x) = P(X ≤ x),单调不减、右连续,完全决定分布。 |
| 区间 | interval | 数轴上的一段,[a,b] 包含端点,(a,b) 不包含端点。 |
| 逆变换法 | inverse transform method | U 服从 (0,1) 上的均匀分布时,Q(U) 的分布函数恰好是 F,用来生成任意分布。 |
| 几乎必然收敛 | almost sure convergence | 除了概率为 0 的结局以外,Xₙ(ω) 都收敛到 X(ω)。 |
| 事件 | event | 样本空间的(允许谈概率的)子集;实现的 ω 落在里面,就说事件发生。 |