高等概率论逐页精讲

第 2 讲 随机变量、期望与不等式›开篇

PDF 第 2 / 32 页幻灯片 2/33学习目标

本讲目标:学完要会什么

Through this topic, you should...

课件原页 · 点击放大 · ← → 键翻页

这一页在讲什么

人话版一句话版

三个目标:懂定义(期望和 CDF 到底是什么)、会估计(用不等式给概率和期望画上限)、会判断矩(一个随机变量的 有没有限,以及有限时能推出什么)。

这一页列出第 2 讲结束时你应该掌握的三件事。它们分别对应本讲五个部分中的不同部分(见下面的对照表),可以当作复习时的「验收清单」。

先补基础

基础补课两个新词:CDF 与「矩」
  • CDF(cumulative distribution function,累积分布函数):对实值随机变量 即「 不超过 的概率」,随 从左往右累积。例:公平硬币 则 时 时 时 正式定义在第 8 页。
  • 矩(moment): 叫 的 阶矩, 叫 阶绝对矩。一阶矩就是均值,二阶矩和方差有关(「有限矩条件」(finite moment condition)指的是像 这样的假设。
  • 界(bound):对一个算不准的量给出「最多是多少 / 至少是多少」。例如「就是一个概率上界。

课件原文逐句精读

课件原文Through this topic, you should...
  • Understand The definition of expectation and cumulative density function (CDF).
  • Manage probabilistic inequalities and probability bounds.
  • Manage finite moment conditions and bounds.
中文翻译

通过这一讲,你应该:

  • 理解期望和累积分布函数(CDF)的定义。
  • 掌握概率不等式与概率界。
  • 掌握有限矩条件及相应的界。

① Understand the definition of expectation and CDF|理解期望与 CDF 的定义

  • 这里的关键词是 definition(定义)。中学的期望公式「和「是两个计算公式,不是定义;本讲的定义是「(第 5 页),两个中学公式都是它的特例。
  • 名称提醒:课件这里写的是 cumulative density function,标准叫法是 cumulative distribution function(第 8 页的定义标题用的就是标准叫法)。CDF 不是「密度」:很多随机变量根本没有密度(第 19 页的康托尔分布),但每个实值随机变量都有 CDF。

② Manage probabilistic inequalities and probability bounds|掌握概率不等式与概率界

  • Manage 的意思是「会用、会选」:看到一个问题,知道该用哪个不等式,并能检查它的假设(非负?方差有限?凸函数?)。
  • 本讲的不等式分两类:估计期望的(Jensen、Hölder、Minkowski,第 23–27 页)和估计概率的(Markov 及其推广、Cantelli,第 28–32 页)。

③ Manage finite moment conditions and bounds|掌握有限矩条件与相应的界

  • 典型问题:已知 能不能推出 (能,第 25 页。)已知 尾概率 衰减得多快?(比 还快,第 30 页。)反过来呢?(不一定,第 31 页的反例。)
  • 工具是第 21 页的「矩–尾恒等式」:矩可以写成尾概率的积分,于是「矩有限」和「尾巴够细」可以互相翻译。

三个目标与五个部分的对照

目标 主要在哪几页 核心结论
① 期望与 CDF 的定义 第 1 部分(4–7 页)、第 2 部分(8–20 页) 期望是积分;CDF 决定整个分布;用 CDF 直接算期望
② 概率不等式与概率界 第 4 部分(23–27 页)、第 5 部分(28–32 页) Jensen、Hölder、Minkowski;Markov、Chebyshev、Cantelli
③ 有限矩条件与界 第 3 部分(21–22 页)、第 5 部分(30–31 页) 矩–尾恒等式; 空间;有限矩推出尾部衰减,反之不成立

小结

小结本页小结
  • 目标 ①:会用「期望 = 对 的积分」和「CDF 这两个定义做推理。
  • 目标 ②:会选用并检查 Jensen、Hölder、Minkowski、Markov、Chebyshev、Cantelli 的假设。
  • 目标 ③:会在「矩有限」和「尾概率衰减」之间来回翻译,并知道哪个方向不成立。
  • 课件写的 cumulative density function 应读作 cumulative distribution function。
本页术语中英对照(按出现顺序)
中文English白话解释
累积分布函数cumulative distribution function (CDF)F(x) = P(X ≤ x),单调不减、右连续,完全决定分布。
期望expectation随机变量对概率测度的积分 E[X] = ∫ X dP,也就是「加权平均」。
随机变量random variable从样本空间到实数的(可测)函数,把结局翻译成数字;随机性来自「实现了哪个 ω」。
函数function / mapf: A → B 给 A 中每个元素指定 B 中唯一一个元素。
分布law / distributionX 把概率「推」到取值空间上得到的测度:L(X)(B) = P(X ∈ B)。
阶矩momentE[|X|ᵖ] 叫 p 阶(绝对)矩;它有限与否反映尾部有多「重」。
方差varianceVar X = E[(X − E X)²],衡量随机变量围绕均值的波动大小。
上界upper bound数集 A 的上界是一个数 M,A 里每个数都 ≤ M。例如 2 和 5 都是 [0,1] 的上界;所有上界中最小的那个叫上确界。
凸函数convex function图像上任意两点连线都在图像上方的函数,例如 x²、eˣ。
尾概率tail probability随机变量取到「很大的值」的概率,例如 P(X > t) 或 P(|X| ≥ t)。它随 t 增大而下降得越慢,分布的尾巴就越「厚」。