04 边缘分布相同，联合分布可以完全不同：(U,U) 与 (U,1−U) · 第4讲

这一页在讲什么

人话版一句话版

$U$ 在 $(0, 1)$ 上均匀分布。 $(U, U)$ 和 $(U, 1 - U)$ 是平面上的两个随机点：每个坐标单独看，都是 $(0, 1)$ 上的均匀分布（边缘分布相同）；可是前者永远落在对角线 $y = x$ 上，后者几乎永远不落在那里（联合分布完全不同）。结论：只知道每个坐标各自的分布，不能确定它们放在一起的分布。要描述「放在一起」，必须在平面（乘积空间）上给出一个概率，这就是第 4 讲要构造的东西。

位置：第 1 部分「乘积测度」的第一页，用一个具体例子说明为什么需要乘积空间上的测度。
和第 3 讲的联系：第 3 讲的抽样部分（第 37 页）一直在用「独立的样本 $X_{1}, X_{2}, \dots 」，$ 但从没说过这些样本共同生活在哪个概率空间里。课件第一句话就点明了这个缺口。
后面怎么用：第 5 页说明为什么要构造乘积空间；第 6 页–第 8 页构造它；第 3 部分（第 17 页）说明：独立的一对随机变量，联合分布正好是乘积测度。

先补基础

基础补课(0,1) 上的均匀分布

$U \sim Unif (0, 1)$ 指：对 $0 \leq a \leq b \leq 1 ，$ $P (a \leq U \leq b) = b - a ，$ 即落在一段区间里的概率等于区间长度。特别地， $U$ 取某一个固定值的概率是 0： $P (U = c) = 0 。$ 它的 CDF 是 $F (t) = t$ （ $0 \leq t \leq 1 ）。$

基础补课随机向量、联合分布与边缘分布

随机向量 $(X, Y) ：$ 两个随机变量配成一对，它把每个结果 $ω$ 送到平面上的一个点 $(X (ω), Y (ω)) 。$
联合分布（joint law）：对平面上的每个博雷尔集 $B ，$ 给出 $P ((X, Y) \in B) 。$ 它是平面 $R^{2}$ 上的一个概率测度，也就是第 2 讲「推前测度」（第 6 页）在二维的版本。
边缘分布（marginal law）：只看一个坐标的分布，例如 $X$ 的分布 $P (X \in A) = P ((X, Y) \in A \times R) 。$ 名字来自表格：把二维概率表按行求和，结果写在表格边上。
由联合分布可以算出边缘分布（取 $B = A \times R ）；$ 这一页说明反过来不行。

基础补课协方差（回顾）

$Cov (X, Y) = E [(X - E X) (Y - E Y)] = E [X Y] - E X E Y 。$ 它衡量 $X 、$ $Y$ 「一起变大或变小」的倾向：同向为正，反向为负。注意它依赖 $E [X Y] ，$ 而 $E [X Y]$ 由联合分布决定，单靠边缘分布算不出来。

课件原文逐句精读

课件原文Joint information and marginal laws

Topic 3 used independent samples. We now ask how to construct their joint probability space.

Let $U \sim Unif (0, 1)$ . Compare the joint laws of $(U, U)$ and $(U, 1 - U)$ .

Example. Compare the marginal laws and the probabilities of $D = {(x, y) : x = y}$ .

中文翻译

蓝条标题：联合信息与边缘分布。

第 3 讲用到了独立的样本。现在我们要问：怎样构造它们共同的（联合的）概率空间？

设 $U \sim Unif (0, 1) 。$ 比较 $(U, U)$ 与 $(U, 1 - U)$ 的联合分布。

例. 比较它们的边缘分布，以及它们落在 $D = {(x, y) : x = y}$ 里的概率。（答案课件留白，见下一节。）

joint information：「联合的信息」，指两个坐标之间的关系，这是边缘分布里没有的信息。
marginal laws：边缘分布，见「先补基础」。
$D = {(x, y) : x = y}$ ：平面上的对角线，即直线 $y = x 。$

补全课件留白

补充说明

课件此处留白（课堂板书），以下内容由本站根据标准教材补写，记号与本课件保持一致；如与老师课堂写法不同，以老师为准。

例（完整解答）：(U,U) 与 (U,1−U)

边缘分布相同：两个随机点的第一个坐标都是 $U ；$ 第二个坐标分别是 $U$ 和 $1 - U ，$ 都服从 $Unif (0, 1) 。$ 所以四个坐标的分布全是 $Unif (0, 1) 。$
落在对角线上的概率不同： $P ((U, U) \in D) = 1 ，$ $P ((U, 1 - U) \in D) = 0 。$
因此两个随机点的联合分布不同，尽管它们的边缘分布完全一样。

第 1 步： $1 - U$ 也是均匀分布。 对 $0 \leq t \leq 1 ，$

P (1 - U \leq t) = P (U \geq 1 - t) = 1 - (1 - t) = t .

这正是 $Unif (0, 1)$ 的 CDF。分布函数决定分布（第 8 页），所以 $1 - U \sim Unif (0, 1) 。$ 直观上：把 $(0, 1)$ 左右翻转，长度不变，均匀还是均匀。

第 2 步： $(U, U)$ 永远在对角线上。 对每个 $ω ，$ 点 $(U (ω), U (ω))$ 的两个坐标相等，所以它属于 $D 。$ 于是事件 ${(U, U) \in D}$ 就是整个 $Ω ，$ 概率为 1。

第 3 步： $(U, 1 - U)$ 几乎永远不在对角线上。 点 $(U, 1 - U)$ 在 $D$ 上，当且仅当 $U = 1 - U ，$ 即 $U = \frac{1}{2} 。$ 所以

P ((U, 1 - U) \in D) = P (U = \frac{1}{2}) = 0.

（ $U$ 取单独一个值的概率是 0。）

第 4 步：结论。 如果两个随机向量的联合分布相同，那么它们落在同一个集合 $D$ 里的概率必须相同。这里一个是 1、一个是 0，所以联合分布不同。 $D$ 是平面上的闭集，因而是博雷尔集，可以谈概率。

图解：三种「随机点云」

想象把每个随机点画 1000 次，看点在单位正方形里怎么分布：

$(U, U)$ ：所有点都落在从 $(0, 0)$ 到 $(1, 1)$ 的对角线上，像一串珠子。
$(U, 1 - U)$ ：所有点都落在从 $(0, 1)$ 到 $(1, 0)$ 的反对角线 $x + y = 1$ 上。
对照： $(U, V) ，$ 其中 $V$ 是另一个与 $U$ 独立的均匀随机数：点均匀地铺满整个正方形。这时落在对角线上的概率是对角线的「面积」，也就是 0。

三张图的横坐标投影都是均匀铺开的，纵坐标投影也都是均匀铺开的，所以边缘分布全一样。区别只在点与点之间的「排列方式」，这就是课件所说的 joint information。第三种情况的联合分布是平面上的面积（二维勒贝格测度），它正是两个一维均匀分布的乘积测度（第 7 页）。

例子

例 1：同一个矩形，三种不同的概率

取正方形左下角的四分之一 $R = [0, \frac{1}{2}] \times [0, \frac{1}{2}] ：$

随机点	$P (点 \in R)$	理由
$(U, U)$	$\frac{1}{2}$	等于 $P (U \leq \frac{1}{2})$
$(U, 1 - U)$	$0$	要 $U \leq \frac{1}{2}$ 且 $1 - U \leq \frac{1}{2} ，$ 即 $U = \frac{1}{2}$
$(U, V)$ 独立	$\frac{1}{4}$	$P (U \leq \frac{1}{2}) P (V \leq \frac{1}{2}) = \frac{1}{2} \times \frac{1}{2}$

只有第三行等于两条边概率的乘积，这正是「乘积测度」的含义。

例 2：

E [X Y]

与协方差

$E U = \frac{1}{2} ，$ $E U^{2} = \int_{0}^{1} u^{2} d u = \frac{1}{3} 。$

随机点 $(X, Y)$	$E [X Y]$	$Cov (X, Y) = E [X Y] - \frac{1}{4}$
$(U, U)$	$E U^{2} = \frac{1}{3}$	$\frac{1}{12}$ （完全同向）
$(U, 1 - U)$	$E U - E U^{2} = \frac{1}{6}$	$- \frac{1}{12}$ （完全反向）
$(U, V)$ 独立	$E U E V = \frac{1}{4}$	$0$

三者的边缘分布相同， $E [X Y]$ 却各不相同，再一次说明 $E [X Y]$ 需要联合分布才能算。第三行用到「独立 ⇒ $E [X Y] = E X E Y 」，$ 它的严格证明要用到 Fubini 定理（第 2 部分）。

例 3：离散版本——两颗「骰子」

$X$ 是一颗公平骰子的点数。比较 $(X, X) 、$ $(X, 7 - X)$ 和 $(X, X^{'})$ （ $X^{'}$ 是另一颗独立的骰子）：

三种情形下，每个坐标都在 ${1, \dots, 6}$ 上均匀分布（ $7 - X$ 把 $1 \leftrightarrow 6 、$ $2 \leftrightarrow 5 、$ $3 \leftrightarrow 4$ 对调，仍然均匀）。
「两个坐标相等」的概率分别是 $1 、$ $0 、$ $\frac{1}{6} 。$ （ $7 - X = X$ 要求 $X = 3.5 ，$ 不可能。）
用 $6 \times 6$ 的概率表来看：第一种只有对角线 6 格各 $\frac{1}{6} ；$ 第二种只有反对角线 6 格各 $\frac{1}{6} ；$ 第三种 36 格各 $\frac{1}{36} 。$ 三张表的行和、列和完全一样（都是 $\frac{1}{6} ），$ 表里面的数却完全不同。

常见疑问与易错点

易错点问：对角线是一条线，面积为 0，为什么 (U,U) 落在上面的概率可以是 1？

答：「面积为 0」是用平面上的勒贝格测度量的； $(U, U)$ 的联合分布不是面积，而是把全部概率都压在对角线上的另一个测度。它在平面上没有密度：任何密度函数在一条线上的积分都是 0，不可能给出概率 1。这和第 2 讲的康托尔分布（第 19 页）一样，是一个集中在零测集上的分布。

易错点问：既然边缘分布相同，(U,U) 和 (U,1−U) 有没有什么共同点？

答：有。两者的第二个坐标都完全由第一个坐标决定（ $Y = U$ 或 $Y = 1 - U ），$ 所以都不独立；独立的那一对 $(U, V)$ 才铺满正方形。第 3 部分会把「独立」精确地定义为「联合分布等于边缘分布的乘积测度」。

易错点问：知道联合分布，能算出边缘分布吗？

答：能。 $P (X \in A) = P ((X, Y) \in A \times R) ，$ 即把联合分布限制在「竖条」 $A \times R$ 上。信息只会在「联合 → 边缘」的方向丢失，不会在反方向凭空产生。

小结与自测

小结本页小结

$(U, U)$ 与 $(U, 1 - U) ：$ 边缘分布都是 $Unif (0, 1) ，$ 但落在对角线 $D$ 上的概率分别是 1 和 0，联合分布不同。
边缘分布不能决定联合分布；坐标之间的关系（joint information）必须由乘积空间上的一个测度来描述。
独立的 $(U, V)$ 铺满正方形，它的联合分布是面积，也就是两个均匀分布的乘积测度（第 7 页）。

自测

1. 对 $(U, 1 - U) ，$ 求 $P (X + Y = 1)$ 和 $P (X \leq \frac{1}{4}, Y \leq \frac{1}{4}) 。$

点开看答案

$X + Y = U + (1 - U) = 1$ 总成立，所以 $P (X + Y = 1) = 1 。$ $X \leq \frac{1}{4}$ 且 $Y = 1 - U \leq \frac{1}{4}$ 要求 $U \leq \frac{1}{4}$ 且 $U \geq \frac{3}{4} ，$ 不可能，概率为 0。

2. 写出 $(U, U)$ 的联合 CDF $F (x, y) = P (X \leq x, Y \leq y)$ （ $0 \leq x, y \leq 1 ）。$

点开看答案

$P (U \leq x, U \leq y) = P (U \leq min (x, y)) = min (x, y) 。$ 对照：独立的 $(U, V)$ 是 $x y ，$ $(U, 1 - U)$ 是 $max (x + y - 1, 0) 。$

3. 判断：若 $X$ 与 $Y$ 的分布相同，则 $P (X = Y) = 1 。$

点开看答案

错误。 $X = U 、$ $Y = 1 - U$ 分布相同，但 $P (X = Y) = P (U = \frac{1}{2}) = 0 。$ 「分布相同」只说两者各自的统计规律一样，不说它们在每个 $ω$ 上取相同的值。

本页术语中英对照（按出现顺序）

中文	English	白话解释
分布	law / distribution	X 把概率「推」到取值空间上得到的测度：L(X)(B) = P(X ∈ B)。
边缘分布	marginal law	随机向量中单个坐标的分布，例如 P(X ∈ A) = P((X, Y) ∈ A × ℝ)。
联合分布	joint law (joint distribution)	随机向量 (X, Y) 在平面上的分布：对每个平面博雷尔集 B 给出 P((X, Y) ∈ B)。只知道边缘分布不能确定它。
乘积空间	product space	笛卡尔积 Ω₁ × Ω₂，配上乘积 σ-代数（以及乘积测度）。
乘积测度	product measure	在每个可测矩形上取 μ₁(A₁)μ₂(A₂) 的唯一测度（σ-有限时）。平面面积就是长度 × 长度的乘积测度。
测度	measure	给 σ-代数里的每个集合一个 [0, ∞] 中的「大小」，空集为 0，并且可数可加。
独立	independence	任意有限个事件同时发生的概率等于各自概率的乘积。
概率空间	probability space	三元组 (Ω, 𝓕, P)：样本空间、事件的 σ-代数、概率测度。
随机变量	random variable	从样本空间到实数的（可测）函数，把结局翻译成数字；随机性来自「实现了哪个 ω」。
区间	interval	数轴上的一段，[a,b] 包含端点，(a,b) 不包含端点。
累积分布函数	cumulative distribution function (CDF)	F(x) = P(X ≤ x)，单调不减、右连续，完全决定分布。
博雷尔 σ-代数	Borel sigma-algebra	由实数轴上所有开区间生成的 σ-代数 𝓑(ℝ)，包含所有常见的集合。
概率测度	probability measure	总质量 P(Ω) = 1 的测度。
函数	function / map	f: A → B 给 A 中每个元素指定 B 中唯一一个元素。
事件	event	样本空间的（允许谈概率的）子集；实现的 ω 落在里面，就说事件发生。
当且仅当	if and only if (iff)	「A 当且仅当 B」：A 成立就一定有 B，B 成立也一定有 A，两者同真同假，记作 A ⟺ B。
集合	set	把一些对象放在一起当成一个整体，例如 {1,2,3}。
勒贝格测度	Lebesgue measure	实数轴上「长度」的严格版本，定义在勒贝格可测集上，m([a,b]) = b − a。
Fubini 定理	Fubini's theorem	f 关于乘积测度绝对可积（∬\|f\| < ∞）时，二重积分等于两种顺序的累次积分。
概率密度	density	满足 P(X ∈ B) = ∫_B f(x) dx 的函数 f；有密度等价于 CDF 绝对连续。
零测集	null set	测度为 0 的集合，例如单点、有理数全体、康托尔集。