06 相互独立：任意有限个事件的「交」的概率都等于概率的乘积 · 第3讲

这一页在讲什么

人话版一句话版

一族事件相互独立，是说从中任意挑出有限个不同的事件，它们同时发生的概率都等于各自概率的乘积。只检查「两两」是不够的。

上一页（第 5 页）的事件一个套一个，结果虽然 $\sum_{n} P (A_{n}) = \infty ，$ 却只发生有限次。下一页（第 7 页）的第二 Borel–Cantelli 引理要证明：如果事件相互独立， $\sum_{n} P (A_{n}) = \infty$ 就保证发生无穷多次。所以在进入第二引理之前，必须先把「独立」精确地定义出来。

这一页做三件事：

给出事件的相互独立的定义（定义 3），并说明为什么要检查「任意有限个」；
用反例说明「两两独立」不等于「相互独立」；
补充两个后面马上要用的事实：把独立事件换成补集仍然独立（第 7 页的证明要用），以及随机变量的独立性（第 8 页、第 13 页要用）。

先补基础

基础补课连乘号 ∏

$\prod_{j = 1}^{k} a_{j} = a_{1} \cdot a_{2} \dots a_{k} ，$ 读作「 $a_{j}$ 从 $j = 1$ 到 $k$ 连乘」。它和求和号 $\sum$ 的用法一样，只是把加法换成乘法。
例： $\prod_{j = 1}^{3} \frac{1}{2} = \frac{1}{8} ；$ $\prod_{n = 2}^{4} (1 - \frac{1}{n}) = \frac{1}{2} \cdot \frac{2}{3} \cdot \frac{3}{4} = \frac{1}{4} 。$
下标也可以跑遍一个集合： $\prod_{i \in F} P (A_{i})$ 表示对集合 $F$ 里的每个下标 $i ，$ 把 $P (A_{i})$ 乘起来。

基础补课下标集与「不同的下标」

一族事件可以写成 $(A_{i})_{i \in I} ，$ $I$ 叫下标集。最常见的是 $I = N ，$ 这时就是一列事件 $A_{1}, A_{2}, \dots 。$
「有限个不同的下标 $i_{1}, \dots, i_{k} 」：$ 从 $I$ 里挑 $k$ 个互不相等的下标。例如从 $N$ 里挑 ${2, 5, 9} 。$
为什么强调「不同」：同一个事件和自己「独立」要求 $P (A \cap A) = P (A)^{2} ，$ 即 $P (A) = P (A)^{2} ，$ 只有概率为 0 或 1 时才成立。定义只要求不同的事件之间满足乘法规则。

基础补课独立的直觉：知道一个，不改变另一个

对 $P (B) > 0 ，$ 条件概率 $P (A ∣ B) = P (A \cap B) / P (B)$ 是「已知 $B$ 发生时 $A$ 的概率」。

P (A \cap B) = P (A) P (B) ⟺ P (A ∣ B) = P (A) .

也就是说：知道 $B$ 发生了，对 $A$ 的概率毫无影响。例如先后两次抛公平硬币，知道第一次是正面，第二次是正面的概率仍是 $\frac{1}{2} 。$

课件原文逐句精读

课件原文Independence

Definition 3 (Mutual independence)

中文翻译

定义 3（相互独立）

Independence（蓝条标题）：独立性。
Mutual independence：mutual 是「相互的、彼此之间的」。「相互独立」强调一整族事件作为一个整体是独立的，要和较弱的「两两独立」（pairwise independence）区分开。
编号是定义 3：本讲的定义、定理统一编号，定义 1 在第 3 页，定理 2 在第 4 页。
课件在标题之下留白，定义正文由下面补全。

补全课件留白

补充说明

课件此处留白（课堂板书），以下内容由本站根据标准教材补写，记号与本课件保持一致；如与老师课堂写法不同，以老师为准。

Definition 3 (Mutual independence)｜定义 3（相互独立）

定义 3（相互独立）

设 $(A_{i})_{i \in I}$ 是一族事件， $A_{i} \in F 。$ 称它们相互独立（mutually independent），如果对任意有限个不同的下标 $i_{1}, \dots, i_{k} \in I$ （ $k \geq 2 ），$ 都有

P (j = 1 ⋂ k A_{i_{j}}) = j = 1 \prod k P (A_{i_{j}}) .

对一列事件 $A_{1}, A_{2}, \dots ，$ 这等价于：对 $N$ 的每个有限子集 $F$ （至少含两个元素）， $P (⋂_{i \in F} A_{i}) = \prod_{i \in F} P (A_{i}) 。$

若只要求 $k = 2$ 的情形成立，即 $P (A_{i} \cap A_{j}) = P (A_{i}) P (A_{j})$ 对所有 $i \neq = j$ 成立，则称两两独立（pairwise independent）。

逐句理解：

「任意有限个」：不只看两个，也要看三个、四个……任意有限个同时发生的情形。三个事件 $A, B, C$ 相互独立要检查 4 个等式：

P (A \cap B) = P (A) P (B), P (A \cap C) = P (A) P (C), P (B \cap C) = P (B) P (C), P (A \cap B \cap C) = P (A) P (B) P (C) .

一般地， $n$ 个事件要检查 $2^{n} - n - 1$ 个等式（所有至少含两个元素的子集）。

「有限个」：无穷多个事件的交，其概率由有限交的概率取极限得到（从上连续，第 14 页），不需要单独写进定义。
只检查最大的那个交不够，只检查两两也不够。下面的例 2、例 3 分别给出反例。

两个马上要用的补充

命题 A（换成补集仍然独立）

若 $A_{1}, A_{2}, \dots$ 相互独立，则把其中任意一些 $A_{i}$ 换成补集 $A_{i}^{c}$ 后，得到的一列事件仍相互独立。特别地， $A_{1}^{c}, A_{2}^{c}, \dots$ 相互独立，因而对任意 $m \leq M ，$

P (n = m ⋂ M A_{n}^{c}) = n = m \prod M (1 - P (A_{n})) .

第 7 页证明第二引理时，正是要计算「从第 $m$ 个到第 $M$ 个全都不发生」的概率，就用这个公式。证明放在下面「推导」一节。

定义补充定义（随机变量的独立；独立同分布）

随机变量 $X_{1}, X_{2}, \dots$ 称为相互独立，如果对任意博雷尔集 $B_{1}, B_{2}, \dots \subseteq R ，$ 事件 ${X_{1} \in B_{1}}, {X_{2} \in B_{2}}, \dots$ 相互独立。

若它们还同分布（每个 $X_{n}$ 的分布都和 $X_{1}$ 相同： $P (X_{n} \in B) = P (X_{1} \in B)$ 对所有博雷尔集 $B ，$ 见第 6 页），就称为独立同分布（independent and identically distributed，缩写 i.i.d.）。

这个定义的好处是：只要随机变量独立，由它们分别决定的事件就自动独立。例如第 13 页里的事件 ${∣ X_{n} ∣ > C n} = {X_{n} \in B_{n}}$ （取 $B_{n} = {x : ∣ x ∣ > C n} ）$ 就是一列独立事件。

例子

例 1：两次抛硬币，「第一次正面」与「第二次正面」独立

$Ω = {HH, HT, TH, TT} ，$ 每个结局概率 $\frac{1}{4} 。$ 令 $A = {第一次正面} = {HH, HT} ，$ $B = {第二次正面} = {HH, TH} 。$

P (A \cap B) = P ({HH}) = \frac{1}{4} = \frac{1}{2} \cdot \frac{1}{2} = P (A) P (B) .

两个事件只需检查这一个等式，所以 $A, B$ 相互独立。

例 2（反例）：两两独立，但不相互独立

沿用例 1，再令 $C = {两次结果相同} = {HH, TT} ，$ $P (C) = \frac{1}{2} 。$

两两检查： $A \cap B = {HH} ，$ $A \cap C = {HH} ，$ $B \cap C = {HH} ，$ 概率都是 $\frac{1}{4} = \frac{1}{2} \cdot \frac{1}{2} 。$ 所以两两独立。
三个一起： $A \cap B \cap C = {HH} ，$ 概率 $\frac{1}{4} ；$ 而 $P (A) P (B) P (C) = \frac{1}{8} 。$ 不相互独立。

直觉：单看任意两个，彼此没有信息；但 $A$ 和 $B$ 一起发生时（两次都是正面）， $C$ （两次相同）就一定发生了。三个事件合在一起有依赖关系。

例 3（反例）：三个一起的乘法成立，两两却不成立

掷一颗公平骰子，令 $A = {1, 2, 3} ，$ $B = {2, 4, 6} ，$ $C = {1, 2, 4, 5} ，$ 则 $P (A) = P (B) = \frac{1}{2} ，$ $P (C) = \frac{2}{3} 。$

三个一起： $A \cap B \cap C = {2} ，$ $P = \frac{1}{6} = \frac{1}{2} \cdot \frac{1}{2} \cdot \frac{2}{3} ，$ 成立。
但 $A \cap B = {2} ，$ $P (A \cap B) = \frac{1}{6} \neq = \frac{1}{4} = P (A) P (B) ，$ 不成立。

所以只检查「全部一起」的那个等式也不够，定义要求每个有限子族都满足乘法规则。

例 4：(0,1) 上的二进制位是一列独立事件

在 $((0, 1), B, λ)$ 上，把 $ω$ 写成二进制小数 $ω = 0. d_{1} d_{2} d_{3} \dots ，$ 其中第 $n$ 位 $d_{n} (ω) = ⌊ 2^{n} ω ⌋$ 除以 2 的余数。令 $A_{n} = {d_{n} = 1} 。$

$A_{1} = {d_{1} = 1} = [\frac{1}{2}, 1) ，$ $A_{2} = {d_{2} = 1} = [\frac{1}{4}, \frac{1}{2}) \cup [\frac{3}{4}, 1) ，$ 每个的长度都是 $\frac{1}{2} 。$
$A_{1} \cap A_{2} = [\frac{3}{4}, 1) ，$ 长度 $\frac{1}{4} = \frac{1}{2} \cdot \frac{1}{2} 。$
一般地，固定有限个位置 $F$ （设最大的位置是 $M ），$ 要求这些位置上的数字取定值。把 $(0, 1)$ 等分成 $2^{M}$ 个长为 $2^{- M}$ 的小区间 $[\frac{k}{2 ^{M}}, \frac{k + 1}{2 ^{M}}) ，$ 每个小区间对应前 $M$ 位的一种取法；满足要求的取法是： $F$ 里的 $∣ F ∣$ 位固定、其余 $M - ∣ F ∣$ 位任意，共 $2^{M - ∣ F ∣}$ 种。所以这个事件的长度是 $2^{M - ∣ F ∣} \cdot 2^{- M} = 2^{- ∣ F ∣} = \prod_{i \in F} P (A_{i}) 。$

所以 $A_{1}, A_{2}, \dots$ 相互独立，每个概率 $\frac{1}{2} ：$ 在 $(0, 1)$ 上均匀取一个点，它的二进制各位就是无穷次独立的公平抛硬币。 这也说明独立的无穷事件列确实存在。

例 5（对照）：一个套一个的事件不独立

第 5 页的 $A_{n} = (0, \frac{1}{n}] ：$ $P (A_{2} \cap A_{3}) = P (A_{3}) = \frac{1}{3} ，$ 而 $P (A_{2}) P (A_{3}) = \frac{1}{6} 。$ 连两两独立都不满足。

推导：一步一步来

推导证明思路（命题 A）

先证「只把一个事件换成补集」保持独立：用 $D = (D \cap A) \cup (D \cap A^{c})$ 拆成两块，做减法。再一个一个地换，就能换掉任意有限多个；而独立性只涉及有限子族，所以换掉全部也保持独立。

第 1 步：只换一个。 设 $A_{1}, A_{2}, \dots$ 相互独立，固定一个下标 $i_{0} ，$ 把 $A_{i_{0}}$ 换成 $A_{i_{0}}^{c} ，$ 其余不变。任取有限个不同下标组成的集合 $F ，$ 要验证乘法规则：

若 $i_{0} \in / F ：$ 涉及的事件都没变，乘法规则就是原来的。
若 $i_{0} \in F ：$ 令 $G = F ∖ {i_{0}} ，$ $D = ⋂_{i \in G} A_{i}$ （若 $G$ 是空集，令 $D = Ω ）。$ $D$ 被 $A_{i_{0}}$ 和 $A_{i_{0}}^{c}$ 分成两块不相交的部分： $D = (D \cap A_{i_{0}}) \cup (D \cap A_{i_{0}}^{c}) 。$ 由有限可加性，

P (D \cap A_{i_{0}}^{c}) = P (D) - P (D \cap A_{i_{0}}) = i \in G \prod P (A_{i}) - P (A_{i_{0}}) i \in G \prod P (A_{i}) = (1 - P (A_{i_{0}})) i \in G \prod P (A_{i}) = P (A_{i_{0}}^{c}) i \in G \prod P (A_{i}) . （原来的独立性，用在 G 和 F 上）

这正是新事件族在 $F$ 上的乘法规则。

第 2 步：换任意有限多个。 第 1 步的结论是「换一个之后，整族仍相互独立」。对新的一族再用一次第 1 步，就又换掉一个。换 $k$ 个就重复 $k$ 次。

第 3 步：换掉全部。 要验证 $A_{1}^{c}, A_{2}^{c}, \dots$ 相互独立，只需对每个有限集 $F$ 验证乘法规则。对这个 $F ，$ 把 $F$ 里的下标逐个换成补集（有限次，第 2 步），得到的一族相互独立，特别地在 $F$ 上满足乘法规则： $P (⋂_{i \in F} A_{i}^{c}) = \prod_{i \in F} P (A_{i}^{c}) 。$ $F$ 任意，所以成立。

第 4 步：命题 A 的公式。 取 $F = {m, m + 1, \dots, M} ，$ 由第 3 步，

P (n = m ⋂ M A_{n}^{c}) = n = m \prod M P (A_{n}^{c}) = n = m \prod M (1 - P (A_{n})) .

常见疑问与易错点

易错点问：「互斥」和「独立」是一回事吗？

答：不是，而且几乎相反。互斥（ $A \cap B = \emptyset ）$ 意味着一个发生，另一个一定不发生，这是很强的依赖。若 $P (A) > 0 、$ $P (B) > 0$ 且互斥，则 $P (A \cap B) = 0 \neq = P (A) P (B) ，$ 一定不独立。例：掷骰子， ${1}$ 与 ${2}$ 互斥，但知道掷出 1，就知道没掷出 2。

易错点问：为什么两两独立还不够？第二 Borel–Cantelli 引理需要哪一种？

答：例 2 说明两两独立时，三个事件放在一起仍可能有依赖。第 7 页的证明要计算「很多个事件同时不发生」的概率 $P (⋂_{n = m}^{M} A_{n}^{c}) ，$ 需要把它拆成乘积，这用到的是相互独立（命题 A）。（数学上已知第二引理在两两独立下也成立，但证明要难得多，本讲采用相互独立的版本。）

易错点问：独立是事件本身的性质吗？

答：不是，它是事件和概率测度 $P$ 一起的性质。同样的集合，换一个 $P$ 可能就不独立了。例如例 1 中若两次抛掷的结果会互相影响，比如第二次总是和第一次一样： $P (HH) = P (TT) = \frac{1}{2} ，$ $P (HT) = P (TH) = 0 。$ 这时每次单独看仍是一半正面（ $P (A) = P (B) = \frac{1}{2} ），$ 但 $P (A \cap B) = \frac{1}{2} \neq = \frac{1}{4} ，$ $A$ 与 $B$ 不独立。

易错点问：概率为 0 或 1 的事件和别的事件独立吗？

答：独立。若 $P (A) = 0 ，$ 则 $P (A \cap B) \leq P (A) = 0 = P (A) P (B) ；$ 若 $P (A) = 1 ，$ 则 $P (A^{c} \cap B) = 0 ，$ 所以 $P (A \cap B) = P (B) = P (A) P (B) 。$ 这类事件「几乎确定」，知道它不带来任何新信息。

小结与自测

小结本页小结

相互独立：任意有限个不同事件的交的概率 = 各自概率的乘积；三个事件要查 4 个等式， $n$ 个要查 $2^{n} - n - 1$ 个。
两两独立 ⇏ 相互独立（例 2）；只查「全部一起」也不够（例 3）。
相互独立的事件换成补集仍然相互独立，所以 $P (⋂_{n = m}^{M} A_{n}^{c}) = \prod_{n = m}^{M} (1 - P (A_{n})) ，$ 这是第二引理证明的关键。
随机变量独立：由它们分别决定的事件 ${X_{n} \in B_{n}}$ 相互独立；再加同分布就是 i.i.d.。

自测

1. 四个事件相互独立，一共要检查多少个乘法等式？

点开看答案

所有至少含两个元素的子集： $(2 4) + (3 4) + (4 4) = 6 + 4 + 1 = 11$ 个，也等于 $2^{4} - 4 - 1 = 11 。$

2. 设 $A, B$ 独立， $P (A) = 0.3 ，$ $P (B) = 0.5 。$ 求 $P (A^{c} \cap B^{c}) ，$ 也就是「两个都不发生」的概率。

点开看答案

由命题 A， $A^{c}, B^{c}$ 独立，所以 $P (A^{c} \cap B^{c}) = (1 - 0.3) (1 - 0.5) = 0.35 。$ 也可以直接算： $1 - P (A \cup B) = 1 - (0.3 + 0.5 - 0.15) = 0.35 。$

3. 判断：若 $P (A) = \frac{1}{2} 、$ $P (B) = \frac{1}{3}$ 且 $A \cap B = \emptyset ，$ 则 $A, B$ 独立。

点开看答案

错。 $P (A \cap B) = 0 ，$ 而 $P (A) P (B) = \frac{1}{6} \neq = 0 。$ 概率为正的互斥事件一定不独立。

本页术语中英对照（按出现顺序）

中文	English	白话解释
事件	event	样本空间的（允许谈概率的）子集；实现的 ω 落在里面，就说事件发生。
独立	independence	任意有限个事件同时发生的概率等于各自概率的乘积。
Borel–Cantelli 引理	Borel–Cantelli lemma	概率之和有限 ⇒ 只发生有限次；独立且概率之和无穷 ⇒ 发生无穷多次。
无穷多次	infinitely often (i.o.)	「Aₙ 发生无穷多次」就是集合 lim sup Aₙ。
两两独立	pairwise independence	任意两个都独立。比相互独立弱：三个事件可以两两独立却不相互独立。
补集	complement	样本空间里不属于 A 的元素全体，记作 Aᶜ，对应「A 不发生」。
随机变量	random variable	从样本空间到实数的（可测）函数，把结局翻译成数字；随机性来自「实现了哪个 ω」。
集合	set	把一些对象放在一起当成一个整体，例如 {1,2,3}。
子集	subset	A 的每个元素都在 B 里，就说 A 是 B 的子集，记作 A ⊆ B。
元素	element	集合里的对象。ω ∈ Ω 读作「ω 属于 Ω」。
从上连续	continuity from above	集合一层层变小（Eₙ ↓ E）且 μ(E₁) < ∞ 时，μ(Eₙ) → μ(E)。
博雷尔 σ-代数	Borel sigma-algebra	由实数轴上所有开区间生成的 σ-代数 𝓑(ℝ)，包含所有常见的集合。
分布	law / distribution	X 把概率「推」到取值空间上得到的测度：L(X)(B) = P(X ∈ B)。
独立同分布	independent and identically distributed (i.i.d.)	一列随机变量相互独立，并且分布都相同，例如反复独立地掷同一颗骰子。
区间	interval	数轴上的一段，[a,b] 包含端点，(a,b) 不包含端点。
空集	empty set	一个元素也没有的集合，记作 ∅。作为事件，它永远不会发生。
有限可加性	finite additivity	两两不交的有限个集合，并集的测度等于各自测度之和。可数可加性是它的加强版：可数无穷多个集合也成立。
概率测度	probability measure	总质量 P(Ω) = 1 的测度。