Ω公理与机遇ZHANG HAO / PROBABILITY
清华大学《概率论》/第 4 讲 · P20–P24
返回 16 讲全景图
LECTURE 04 · P20–P24 原课总长 1:41:28 · 1.5× 回看约 1:07:39

第 4 讲 · 独立性结构与示性函数代数:两两独立 vs 相互独立、Bernstein 反例与容斥原理

Lecture 4 · Structure of Independence, Bernstein's Counterexample & Indicator Function Algebra

从事件独立性 P(AB)=P(A)P(B) 的“微妙相交”与互斥的对立出发,完整推演两两独立 vs 相互独立(2ⁿ−n−1 个约束)的 Bernstein 反例,并用示性函数 1A(ω) 代数法一步秒杀容斥原理、对称差结合律与 Borel–Cantelli 引理。

原课分片 (点击默认 1.5× 无字幕播放):

本讲主线与问题意识 · LECTURE NARRATIVE ARC

本讲对应原课视频 P20–P24(总长约 101 分钟)。张颢老师在开篇便一针见血地指出:集合、函数、积分都借自微积分与基础数学,唯有“独立性(Independence)”与“条件概率(Conditioning)”才是概率论真正专属的灵魂概念。全讲沿两条主线展开:第一条主线深入剖析独立性 P(AB)=P(A)P(B)\mathbb{P}(AB)=\mathbb{P}(A)\mathbb{P}(B) 的深层结构——澄清为什么“互斥 AB=∅AB=\varnothing”恰恰是极端不独立,揭示多事件下两两独立与相互独立(2n−n−12^n-n-1 个方程约束)的鸿沟,并在黑板上完整推演了双骰子反例、Bernstein 四点/四面体反例与 nn 次抛硬币成环反例;第二条主线亮出了张颢老师极力推崇的示性函数(Indicator Function)1A(ω)\mathbf{1}_A(\omega) 代数法,将烧脑的集合布尔运算同构映射为初等实数多项式,一举秒杀 De Morgan 律、对称差模 2 结合律、容斥原理、事件序列上下极限 lim sup⁡An/lim inf⁡An\limsup A_n / \liminf A_n 以及震撼的 Borel–Cantelli 引理。

本讲核心攻克目标:
  • 深刻理解独立性 P(AB)=P(A)P(B)\mathbb{P}(AB)=\mathbb{P}(A)\mathbb{P}(B) 的信息论直觉(互不提供推断信息)与几何测度乘积含义,彻底辨析“独立”与“互斥(不相交 AB=∅AB=\varnothing)”的根本对立,并严格证明余集独立传递性 A⊥B  ⟹  Ac⊥B  ⟹  Ac⊥BcA\perp B \implies A^c\perp B \implies A^c\perp B^c。

  • 理解随机变量独立性(联合分布函数分离变量降维),掌握课堂反例:不独立的随机变量 X=X1Z,Y=X2ZX=X_1 Z, Y=X_2 Z 经偶函数 g(t)=t2g(t)=t^2 作用后消去公共符号 Z∈{−1,+1}Z\in\{-1,+1\} 恢复独立。

  • 掌握 nn 个事件相互独立的 2n−n−12^n-n-1 个乘积约束方程,完整复现黑板上的高阶不蕴含低阶(双骰子和为 9)与低阶(两两独立)不蕴含高阶(Bernstein 反例与抛硬币闭环)构造。

  • 熟练运用示性函数 1A(ω)\mathbf{1}_A(\omega) 代数词典(1A∩B=1A1B\mathbf{1}_{A\cap B}=\mathbf{1}_A\mathbf{1}_B、1Ac=1−1A\mathbf{1}_{A^c}=1-\mathbf{1}_A、1AΔB=(1A−1B)2≡1A⊕1B\mathbf{1}_{A\Delta B}=(\mathbf{1}_A-\mathbf{1}_B)^2\equiv \mathbf{1}_A\oplus\mathbf{1}_B),通过展开 1−∏(1−1Ai)1-\prod(1-\mathbf{1}_{A_i}) 一步证明容斥原理与对称差结合律。

  • 借助示性函数理解事件序列上下极限 lim sup⁡An\limsup A_n(无穷多次发生 i.o.)与 lim inf⁡An\liminf A_n(除有限次外恒发生),掌握 Borel–Cantelli 第一与第二引理的完整黑板证明(尤其是第二引理中独立性如何利用 ln⁡(1−x)≤−x\ln(1-x)\le -x 使概率从 00 跃迁为 11)。

CORE FORMULAS & BOARD NOTATION · 本讲黑板核心公式与记号速查

事件独立性定义与余集连带传递律

A⊥B  ⟺  P(AB)=P(A)P(B)  ⟹  P(AcB)=P(Ac)P(B),    P(AcBc)=P(Ac)P(Bc)A\perp B \iff \mathbb{P}(AB)=\mathbb{P}(A)\mathbb{P}(B) \implies \mathbb{P}(A^c B)=\mathbb{P}(A^c)\mathbb{P}(B),\;\; \mathbb{P}(A^c B^c)=\mathbb{P}(A^c)\mathbb{P}(B^c)

对应 :独立绝非不相交(AB=∅AB=\varnothing 意味着知道 AA 发生必知 BB 不发生),而是交集测度恰等于各自测度乘积的“微妙相交”。

n 事件相互独立的 2ⁿ − n − 1 个约束 vs 两两独立

P ⁣(⋂k∈IAk)=∏k∈IP(Ak),∀I⊂{1,…,n},  ∣I∣≥2(共 ∑k=2n(nk)=2n−n−1 个方程)\mathbb{P}\!\left(\bigcap_{k\in I} A_k\right) = \prod_{k\in I}\mathbb{P}(A_k),\quad \forall I\subset\{1,\dots,n\},\;|I|\ge 2 \quad\Big(\text{共 }\sum_{k=2}^n\binom{n}{k}=2^n-n-1\text{ 个方程}\Big)

对应 :两两独立仅满足 (n2)\binom{n}{2} 个二阶方程;Bernstein 反例证明两两独立绝不蕴含三者相互独立 P(ABC)=P(A)P(B)P(C)\mathbb{P}(ABC)=\mathbb{P}(A)\mathbb{P}(B)\mathbb{P}(C)。

示性函数(Indicator Function)同构字典与容斥原理

1A∩B=1A1B,    1Ac=1−1A  ⟹  1⋃i=1nAi=1−∏i=1n(1−1Ai)=∑i1Ai−∑i<j1Ai1Aj+⋯\mathbf{1}_{A\cap B}=\mathbf{1}_A\mathbf{1}_B,\;\; \mathbf{1}_{A^c}=1-\mathbf{1}_A \implies \mathbf{1}_{\bigcup_{i=1}^n A_i} = 1 - \prod_{i=1}^n(1-\mathbf{1}_{A_i}) = \sum_i\mathbf{1}_{A_i} - \sum_{i<j}\mathbf{1}_{A_i}\mathbf{1}_{A_j}+\cdots

对应 :将集合交并补转化为 0-1 实数多项式,两边取数学期望 E[1A]=P(A)\mathbb{E}[\mathbf{1}_A]=\mathbb{P}(A) 即得容斥原理。

集合序列上下极限与 Borel–Cantelli 引理

lim sup⁡n→∞An=⋂n=1∞⋃k=n∞Ak,∑k=1∞P(Ak)<∞⇒P(lim sup⁡Ak)=0;Ak 独立且 ∑P(Ak)=∞⇒P(lim sup⁡Ak)=1\limsup_{n\to\infty}A_n = \bigcap_{n=1}^{\infty}\bigcup_{k=n}^{\infty}A_k,\quad \sum_{k=1}^{\infty}\mathbb{P}(A_k)<\infty \Rightarrow \mathbb{P}(\limsup A_k)=0;\quad A_k\text{ 独立且 }\sum\mathbb{P}(A_k)=\infty \Rightarrow \mathbb{P}(\limsup A_k)=1

对应 :独立性调整了集合相交的方式,使发散事件列的无穷多次覆盖概率从 0 直接跃迁至 1。

1. 事件独立性的物理直觉与几何测度乘积:为什么“独立”与“互斥 AB = ∅”根本对立?

从复盘随机变量与分布函数的先验性质出发,张颢老师指出“独立性”与“条件概率”是概率论区别于微积分的两大特有概念,深入剖析了 P(AB) = P(A)P(B) 的几何测度乘积直觉、独立与互斥的根本对立,并在黑板上严格证明了余集独立传递性。

1.1 概率论专属的灵魂概念:独立(Independence)与条件(Conditioning)

在本讲开篇(),张颢老师首先简要复盘了上一讲的核心脉络:随机变量 X:Ω→RX:\Omega\to\mathbb{R} 本质上是一个毫无随机性的确定性可测函数,它的作用是对样本空间进行“量化”,使我们能对其做加减乘除与微积分运算;而分布函数 F(x)F(x) 与概率密度 f(x)f(x) 则刻画了各结果在统计实验中出现的先验可能性大小。

紧接着在 ,张颢老师提出了一个极具洞察力的学科定位问题:集合、函数、积分这些工具全都借自基础数学(微积分),那么概率论有没有特属于自身、其它数学分支里没有的特征性质?

“答案是肯定的!概率论有两个最核心的特征概念:一个叫【独立(Independence)】,一个叫【条件(Conditioning)】。今天我们先谈独立,下一堂课再来谈条件。”

1.2 事件独立性 P(AB)=P(A)P(B)\mathbb{P}(AB)=\mathbb{P}(A)\mathbb{P}(B) 的微妙几何意涵()

给定先验的概率空间三元组 (Ω,F,P)(\Omega, \mathcal{F}, \mathbb{P}),任取两个事件 A,B∈FA, B \in \mathcal{F}。如果它们满足乘积公式(): P(A∩B)=P(A) P(B)\mathbb{P}(A \cap B) = \mathbb{P}(A)\,\mathbb{P}(B) 我们就称事件 AA 与 BB 相互独立。张颢老师提醒大家注意这个公式在直觉上的两重微妙之处:

  1. 加法习惯 vs 乘法定义():我们在测度与概率公理中习惯的是可加性(可能性大小的叠加),而独立性偏偏定义为乘法;
  2. Venn 图上的“量纲反直觉”():如果像往常一样画 Venn 图把概率想象成集合的面积,左边 P(A∩B)\mathbb{P}(A\cap B) 是一块交集区域的面积,右边 P(A)P(B)\mathbb{P}(A)\mathbb{P}(B) 却是“面积乘以面积”!为什么交集测度恰恰等于两个集合测度的乘积?

1.3 根本辨析:为什么“独立”与“互斥(不相交 AB=∅AB=\varnothing)”处于极端对立面?()

初学者最容易犯的致命错误,就是在脑海里把“AA 与 BB 独立(毫无关联)”想象成 Venn 图上“AA 与 BB 不挨着(不相交 / 互斥 A∩B=∅A\cap B = \varnothing)”。张颢老师在 从代数与信息两个维度彻底击碎了这一误区:

对比维度 互斥 / 不相交(Mutually Exclusive, A∩B=∅A\cap B=\varnothing) 相互独立(Independent, P(AB)=P(A)P(B)\mathbb{P}(AB)=\mathbb{P}(A)\mathbb{P}(B))
信息推断视角() 极度相关(100% 负相依):一旦得知样本点 ω∈A\omega \in A,立刻能 100%100\% 推断出 ω∉B\omega \notin B!AA 的发生彻底封死了 BB 发生的可能。 零信息传递:得知事件 AA 是否发生,对推断事件 BB 是否发生提供不了任何信息。
Venn 图几何关系() 两集合完全分离,没有任何公共样本点(A∩B=∅A\cap B = \varnothing)。 必须相交(只要 P(A)>0,P(B)>0\mathbb{P}(A)>0, \mathbb{P}(B)>0),且交集占比不偏不倚、多一点少一点都不行,恰好满足 P(AB)P(B)=P(A)\frac{\mathbb{P}(AB)}{\mathbb{P}(B)} = \mathbb{P}(A)!
何时能同时成立?() 若 AB=∅AB=\varnothing 且独立,则 P(A)P(B)=P(∅)=0\mathbb{P}(A)\mathbb{P}(B) = \mathbb{P}(\varnothing) = 0,必有 P(A)=0\mathbb{P}(A)=0 或 P(B)=0\mathbb{P}(B)=0。 结论:对于两个正概率事件(P(A)>0,P(B)>0\mathbb{P}(A)>0, \mathbb{P}(B)>0),互斥则必不独立,独立则必相交!

1.4 独立性的余集连带传递性:“亲属之间也毫无关系”()

如果 AA 与 BB 独立(“两个人没有关系”),那么它们的补集 Ac,BcA^c, B^c(“两个人的亲属之间”)是否也没有关系?张颢老师在黑板上利用差集分解给出了严格证明:

  • 第一步:证明 AcA^c 与 BB 独立(): 因为 B=(A∩B)⊔(Ac∩B)B = (A \cap B) \sqcup (A^c \cap B) 且两块互不相交,由可加性与 A⊥BA\perp B 立得: P(Ac∩B)=P(B∖AB)=P(B)−P(A∩B)=P(B)−P(A)P(B)=(1−P(A))P(B)=P(Ac) P(B)\mathbb{P}(A^c \cap B) = \mathbb{P}(B \setminus AB) = \mathbb{P}(B) - \mathbb{P}(A\cap B) = \mathbb{P}(B) - \mathbb{P}(A)\mathbb{P}(B) = \bigl(1 - \mathbb{P}(A)\bigr)\mathbb{P}(B) = \mathbb{P}(A^c)\,\mathbb{P}(B)
  • 第二步:证明 AcA^c 与 BcB^c 独立(): 同样将 AcA^c 拆分为 (Ac∩B)⊔(Ac∩Bc)(A^c \cap B) \sqcup (A^c \cap B^c),利用刚刚证出的 Ac⊥BA^c \perp B: P(Ac∩Bc)=P(Ac∖AcB)=P(Ac)−P(Ac∩B)=P(Ac)−P(Ac)P(B)=P(Ac)(1−P(B))=P(Ac) P(Bc)\mathbb{P}(A^c \cap B^c) = \mathbb{P}(A^c \setminus A^c B) = \mathbb{P}(A^c) - \mathbb{P}(A^c\cap B) = \mathbb{P}(A^c) - \mathbb{P}(A^c)\mathbb{P}(B) = \mathbb{P}(A^c)\bigl(1 - \mathbb{P}(B)\bigr) = \mathbb{P}(A^c)\,\mathbb{P}(B^c)
BLACKBOARD DERIVATION RECONSTRUCTION · 张颢老师黑板推导完整复原
Step ①独立性定义 vs 互斥(不相交)的信息论判据
A⊥B  ⟺  P(AB)=P(A)P(B);若 AB=∅ 且 P(A),P(B)>0, 则 ω∈A  ⟹  ω∉B  (绝不独立!)A\perp B \iff \mathbb{P}(AB)=\mathbb{P}(A)\mathbb{P}(B); \qquad \text{若 }AB=\varnothing\text{ 且 }\mathbb{P}(A),\mathbb{P}(B)>0,\text{ 则 }\omega\in A \implies \omega\notin B\;(\text{绝不独立!})

对应 :独立不是不相交,而是以恰当比例 P(A)P(B)\mathbb{P}(A)\mathbb{P}(B) 的“微妙相交”。

Step ②余集独立性的黑板两步拆解证明
P(AcB)=P(B)−P(AB)=P(Ac)P(B)  ⟹  P(AcBc)=P(Ac)−P(AcB)=P(Ac)P(Bc)\mathbb{P}(A^c B) = \mathbb{P}(B) - \mathbb{P}(AB) = \mathbb{P}(A^c)\mathbb{P}(B) \implies \mathbb{P}(A^c B^c) = \mathbb{P}(A^c) - \mathbb{P}(A^c B) = \mathbb{P}(A^c)\mathbb{P}(B^c)

对应 :若 A,BA,B 独立,则 (A,Bc)(A,B^c)、(Ac,B)(A^c,B)、(Ac,Bc)(A^c,B^c) 四对组合全部相互独立。

深度思辨与反例剖析 (CRITICAL INSIGHT & PITFALL)

为什么说“独立性是测度 P\mathbb{P} 的性质,而互斥是集合本身的性质”? 判断两个事件 A,BA, B 是否互斥(A∩B=∅A\cap B = \varnothing),只需要看集合里有没有公共样本点,根本不需要知道概率测度 P\mathbb{P} 是什么;但判断 A,BA, B 是否独立(P(AB)=P(A)P(B)\mathbb{P}(AB)=\mathbb{P}(A)\mathbb{P}(B)),完全取决于样本空间上赋予的概率测度 P\mathbb{P}!同一对相交集合 A,BA, B,在均匀测度 P1\mathbb{P}_1 下可能严格独立,换一个非均匀测度 P2\mathbb{P}_2 就立刻不再独立。

本节方法论沉淀 · KEY TAKEAWAYS
  • 独立与互斥水火不容:对于非零概率事件,互斥意味着“一荣俱损”的极端强关联,独立则要求两集合以测度乘积 P(A)P(B)\mathbb{P}(A)\mathbb{P}(B) 的精确比例相交。

  • 余集连带律:A⊥B  ⟺  Ac⊥B  ⟺  A⊥Bc  ⟺  Ac⊥BcA\perp B \iff A^c\perp B \iff A\perp B^c \iff A^c\perp B^c,这一性质在后文证明 Borel–Cantelli 第二引理时将发挥决定性作用。

2. 随机变量独立性、两两独立 vs 相互独立(2ⁿ−n−1 约束)与 Bernstein 反例

从随机变量联合分布函数分离变量与“不独立变量平方后变独立”的奇特反例出发,全面剖析 n 个事件相互独立所需的 2ⁿ−n−1 个等式约束,并在黑板上完整推演“三阶乘积成立但两两不独立”与“两两独立但整体不独立(Bernstein 反例与抛硬币成环)”两大经典构造。

2.1 随机变量的独立性与“函数作用抹平相依性”反例()

在 ,张颢老师将事件独立性推广到两个随机变量 X,YX, Y:对任意实数 x,y∈Rx, y \in \mathbb{R}(或任意 Borel 集),事件 {X≤x}\{X \le x\} 与 {Y≤y}\{Y \le y\} 均独立,即联合分布函数等于边缘分布函数的乘积: FX,Y(x,y)=P(X≤x,  Y≤y)=P(X≤x) P(Y≤y)=FX(x) FY(y)F_{X,Y}(x,y) = \mathbb{P}(X \le x,\; Y \le y) = \mathbb{P}(X \le x)\,\mathbb{P}(Y \le y) = F_X(x)\,F_Y(y) 这就好比数学物理方程中的分离变量法(Separation of Variables,),将高维联合分布直接降维拆解为一维边缘分布的乘积。

紧接着在 ,张颢老师提出了一个反直觉问题:如果 X,YX, Y 独立,那么经过同一函数作用后的 g(X),g(Y)g(X), g(Y) 必然独立;但反过来,如果 XX 与 YY 原本不独立(同出一源、相互关联),经过同一个非退化函数 g(⋅)g(\cdot) 作用后,有没有可能反而变成独立的?

  • 黑板构造(): 设 X1,X2X_1, X_2 本身相互独立,另取一个只取 {−1,+1}\{-1, +1\} 两个值的随机变量 ZZ(无论 P(Z=1)=p\mathbb{P}(Z=1)=p 取何值)。定义: X=X1⋅Z,Y=X2⋅ZX = X_1 \cdot Z, \qquad Y = X_2 \cdot Z 由于公共随机因子 ZZ 的搅局,XX 与 YY 被绑在了同一条船上,显然不独立! 但现在取偶函数 g(t)=t2g(t) = t^2,由于 Z∈{−1,+1}  ⟹  Z2≡1Z \in \{-1, +1\} \implies Z^2 \equiv 1 恒为常数,作用后: g(X)=X12Z2=X12,g(Y)=X22Z2=X22g(X) = X_1^2 Z^2 = X_1^2, \qquad g(Y) = X_2^2 Z^2 = X_2^2 公共因子 ZZ 的影响瞬间烟消云散!因为 X1⊥X2X_1 \perp X_2,故 g(X)=X12g(X) = X_1^2 与 g(Y)=X22g(Y) = X_2^2 重新变得完全独立!

2.2 多个事件的独立性:为什么需要 2n−n−12^n - n - 1 个方程?( & )

当考察 nn 个事件 A1,A2,…,AnA_1, A_2, \dots, A_n 的相互独立性时,能不能只要求最高阶的 P(A1A2⋯An)=P(A1)⋯P(An)\mathbb{P}(A_1 A_2 \cdots A_n) = \mathbb{P}(A_1)\cdots\mathbb{P}(A_n)?或者只要求任意两个事件两两独立 P(AiAj)=P(Ai)P(Aj)\mathbb{P}(A_i A_j) = \mathbb{P}(A_i)\mathbb{P}(A_j)? 张颢老师通过两个精妙的黑板反例证明:高阶条件推不出低阶条件,低阶(两两独立)也绝对推不出高阶条件!

黑板反例 ①:高阶等式 P(ABC)=P(A)P(B)P(C)\mathbb{P}(ABC)=\mathbb{P}(A)\mathbb{P}(B)\mathbb{P}(C) 成立,但两两全不独立()

连续掷两次均匀骰子(#Ω=36\#\Omega = 36),定义三个事件: A={第 1 次点数∈{1,2,5}},B={第 1 次点数∈{4,5,6}},C={两次点数之和=9}A = \{\text{第 1 次点数} \in \{1, 2, 5\}\},\quad B = \{\text{第 1 次点数} \in \{4, 5, 6\}\},\quad C = \{\text{两次点数之和} = 9\}

  • 各自概率:P(A)=36=12\mathbb{P}(A) = \frac{3}{6} = \frac{1}{2},P(B)=36=12\mathbb{P}(B) = \frac{3}{6} = \frac{1}{2};和为 99 的组合有 {(3,6),(4,5),(5,4),(6,3)}\{(3,6),(4,5),(5,4),(6,3)\} 共 4 种,故 P(C)=436=19\mathbb{P}(C) = \frac{4}{36} = \frac{1}{9}。
  • 检验两两低阶条件(全军覆没):
    • A∩B={第 1 次为 5}A\cap B = \{\text{第 1 次为 }5\}:P(AB)=16≠P(A)P(B)=14\mathbb{P}(AB) = \frac{1}{6} \neq \mathbb{P}(A)\mathbb{P}(B) = \frac{1}{4};
    • B∩C={(4,5),(5,4),(6,3)}B\cap C = \{(4,5),(5,4),(6,3)\}:P(BC)=336=112≠P(B)P(C)=118\mathbb{P}(BC) = \frac{3}{36} = \frac{1}{12} \neq \mathbb{P}(B)\mathbb{P}(C) = \frac{1}{18};
    • A∩C={(5,4)}A\cap C = \{(5,4)\}:P(AC)=136≠P(A)P(C)=118\mathbb{P}(AC) = \frac{1}{36} \neq \mathbb{P}(A)\mathbb{P}(C) = \frac{1}{18}。
  • 检验三阶高阶条件(居然相等!): A∩B∩C={(5,4)}  ⟹  P(ABC)=136=12×12×19=P(A)P(B)P(C)A\cap B\cap C = \{(5,4)\} \implies \mathbb{P}(ABC) = \frac{1}{36} = \frac{1}{2}\times\frac{1}{2}\times\frac{1}{9} = \mathbb{P}(A)\mathbb{P}(B)\mathbb{P}(C)

黑板反例 ②:两两独立,但三者(整体)不相互独立——Bernstein 反例与抛硬币闭环()

反过来,如果一组事件满足所有二阶两两独立条件 P(AiAj)=P(Ai)P(Aj)\mathbb{P}(A_i A_j) = \mathbb{P}(A_i)\mathbb{P}(A_j),能否推出它们整体相互独立?

  1. Bernstein 四面体 / 四点样本空间反例: 设样本空间有 4 个等可能样本点 Ω={ω1,ω2,ω3,ω4}\Omega = \{\omega_1, \omega_2, \omega_3, \omega_4\}(例如将正四面体的三个侧面分别涂上红、黄、蓝,底面同时涂上红黄蓝三色;或抛两枚均匀硬币),定义: A={ω1,ω4},B={ω2,ω4},C={ω3,ω4}A = \{\omega_1, \omega_4\}, \qquad B = \{\omega_2, \omega_4\}, \qquad C = \{\omega_3, \omega_4\}
    • 各自概率均为 P(A)=P(B)=P(C)=24=12\mathbb{P}(A) = \mathbb{P}(B) = \mathbb{P}(C) = \frac{2}{4} = \frac{1}{2};
    • 两两独立成立:A∩B=B∩C=C∩A={ω4}A\cap B = B\cap C = C\cap A = \{\omega_4\},故 P(AB)=P(BC)=P(CA)=14=12×12\mathbb{P}(AB) = \mathbb{P}(BC) = \mathbb{P}(CA) = \frac{1}{4} = \frac{1}{2}\times\frac{1}{2};
    • 三者相互独立破裂:三者交集依然是 A∩B∩C={ω4}A\cap B\cap C = \{\omega_4\},从而 P(ABC)=14≠P(A)P(B)P(C)=18    !\mathbb{P}(ABC) = \frac{1}{4} \neq \mathbb{P}(A)\mathbb{P}(B)\mathbb{P}(C) = \frac{1}{8}\;\;!
  2. 张颢课堂 nn 次抛硬币首尾闭环反例(): 连续独立抛一枚均匀硬币 nn 次,结果记为 X1,X2,…,Xn∈{0,1}X_1, X_2, \dots, X_n \in \{0, 1\}。定义 nn 个首尾相连的判等事件: A1={X1=X2},A2={X2=X3},…,An−1={Xn−1=Xn},An={Xn=X1}A_1 = \{X_1 = X_2\},\quad A_2 = \{X_2 = X_3\},\quad \dots,\quad A_{n-1} = \{X_{n-1} = X_n\},\quad A_n = \{X_n = X_1\}
    • 每个 P(Ai)=12\mathbb{P}(A_i) = \frac{1}{2};任取两个不同事件 Ai,AjA_i, A_j(无论下标相邻使三個硬币同面,还是不相邻使两对硬币各自同面),均有 P(AiAj)=14=P(Ai)P(Aj)\mathbb{P}(A_i A_j) = \frac{1}{4} = \mathbb{P}(A_i)\mathbb{P}(A_j),即 A1,…,AnA_1,\dots,A_n 两两独立(甚至任意 n−1n-1 个都相互独立)!
    • 然而把全部 nn 个事件交在一起:⋂i=1nAi={X1=X2=⋯=Xn}\bigcap_{i=1}^n A_i = \{X_1 = X_2 = \cdots = X_n\}(全部全正或全部全反,共 2 种可能),其真实概率为: P ⁣(⋂i=1nAi)=22n=12n−1≠∏i=1nP(Ai)=12n    !\mathbb{P}\!\left(\bigcap_{i=1}^n A_i\right) = \frac{2}{2^n} = \frac{1}{2^{n-1}} \neq \prod_{i=1}^n \mathbb{P}(A_i) = \frac{1}{2^n}\;\;! 为什么在最后一步功亏一篑?张颢老师一语道破():因为 An={Xn=X1}A_n = \{X_n = X_1\} “最后还了回去,闭合成了一个圆环”——当前面 n−1n-1 个相等关系确立后,第 nn 个事件 AnA_n 已经被 100%100\% 锁死,毫无自由度可言!

总结定理():nn 个事件 A1,…,AnA_1,\dots,A_n 相互独立,必须同时满足全部二阶、三阶……直到 nn 阶子集乘积方程,方程总数为: (n2)+(n3)+⋯+(nn)=2n−n−1\binom{n}{2} + \binom{n}{3} + \cdots + \binom{n}{n} = 2^n - n - 1

CLASSROOM BOARD DIAGRAM · 张颢老师课堂黑板原图矢量化复原

黑板原图复原 1:高阶独立 vs 低阶(两两)独立的双向不蕴含反例()

严格复原张颢老师在 黑板上并列推演的“High-Order ⇎\not\Leftrightarrow Low-Order”双向反例与 2n−n−12^n-n-1 约束计数。
High-Order (三阶乘积) P(A₁⋯Aₙ) = ∏ P(Aₖ) Low-Order (两两独立) P(Aᵢ∩Aⱼ) = P(Aᵢ)P(Aⱼ) ⇏ ⇍ 板书反例 1:双骰子 (i, j) 事件 A: i ∈ (1,2,5), P = 1/2 事件 B: j ∈ (4,5,6), P = 1/2 事件 C: i + j = 9, P = 1/9 ✓ P(ABC) = 1/36 = P(A)P(B)P(C) ✗ P(BC) = 1/12 ≠ 1/18 板书反例 2:n 枚硬币闭环 A₁: X₁ = X₂, A₂: X₂ = X₃ ⋯, Aₙ: Xₙ = X₁ (首尾相接) ✓ 任意 k<n 个交集 = (1/2)ᵏ ✗ P(A₁⋯Aₙ) = 2 / 2ⁿ ≠ (1/2)ⁿ 相互独立共需 2ⁿ−n−1 个等式

高阶不蕴含低阶( 双骰子反例):取 A={i∈{1,2,5}},  B={j∈{4,5,6}},  C={i+j=9}A=\{i\in\{1,2,5\}\},\;B=\{j\in\{4,5,6\}\},\;C=\{i+j=9\},三者交集仅 (5,4)(5,4) 一点,满足 P(ABC)=136=P(A)P(B)P(C)\mathbb{P}(ABC)=\frac{1}{36}=\mathbb{P}(A)\mathbb{P}(B)\mathbb{P}(C),但 P(BC)=336=112≠12×19\mathbb{P}(BC)=\frac{3}{36}=\frac{1}{12}\neq \frac{1}{2}\times\frac{1}{9}!

低阶不蕴含高阶( 硬币闭环与四面体反例):令 A1={X1=X2},…,An={Xn=X1}A_1=\{X_1=X_2\},\dots,A_n=\{X_n=X_1\},前 n−1n-1 个等号一旦成立,第 nn 个等号自动锁死,故 P(A1⋯An)=21−n≠2−n\mathbb{P}(A_1\cdots A_n)=2^{1-n}\neq 2^{-n}。

完整约束数():nn 个事件相互独立必须对全部 k=2,…,nk=2,\dots,n 子集满足乘积律,共 ∑k=2n(nk)=2n−n−1\sum_{k=2}^n\binom{n}{k} = 2^n - n - 1 个独立方程。

BLACKBOARD DERIVATION RECONSTRUCTION · 张颢老师黑板推导完整复原
反例 ①高阶相等推不出低阶独立(双骰子 A={1,2,5}, B={4,5,6}, C={和=9})
P(ABC)=P({(5,4)})=136=12⋅12⋅19=P(A)P(B)P(C),但 P(AB)=16≠14,  P(AC)=136≠118\mathbb{P}(ABC)=\mathbb{P}(\{(5,4)\})=\frac{1}{36}=\frac{1}{2}\cdot\frac{1}{2}\cdot\frac{1}{9}=\mathbb{P}(A)\mathbb{P}(B)\mathbb{P}(C),\quad \text{但 }\mathbb{P}(AB)=\frac{1}{6}\ne\frac{1}{4},\;\mathbb{P}(AC)=\frac{1}{36}\ne\frac{1}{18}

对应 :单看最高阶交集满足乘积公式,内部两两之间却无一独立。

反例 ②Bernstein 反例与 n 次抛硬币成环:两两独立 ⇏ 相互独立
Ai={Xi=Xi+1},  An={Xn=X1}:  P(AiAj)=14=P(Ai)P(Aj),但 P ⁣(⋂i=1nAi)=12n−1≠12nA_i=\{X_i=X_{i+1}\},\;A_n=\{X_n=X_1\}:\;\mathbb{P}(A_i A_j)=\frac{1}{4}=\mathbb{P}(A_i)\mathbb{P}(A_j),\quad \text{但 }\mathbb{P}\!\left(\bigcap_{i=1}^n A_i\right)=\frac{1}{2^{n-1}}\ne \frac{1}{2^n}

对应 :nn 个事件相互独立必须完整检验 2n−n−12^n - n - 1 个子集乘积等式,缺一不可。

直观交互 · 04A

Bernstein 正四面体反例(两两独立 ≠ 相互独立)与示性函数 1A 代数

交互提示:点击切换交集事件:每个色块事件包含 2 个样本点(P(A)=P(B)=P(C)=2/4=1/2)。任意两事件交集均仅含 ω₄(概率 1/4 = 1/2×1/2,两两独立),但三者交集 A∩B∩C 依然是 {ω₄}(概率 1/4 ≠ 1/8)!

示性函数代数:1A∩B=1A1B\mathbf{1}_{A\cap B}=\mathbf{1}_A\mathbf{1}_B,1A∪B=1A+1B−1A1B\mathbf{1}_{A\cup B}=\mathbf{1}_A+\mathbf{1}_B-\mathbf{1}_A\mathbf{1}_B。对任意集合序列,这把集合交并转化为实数乘法与加减!

单事件概率 P(A)=P(B)=P(C)2/4 = 1/2A={ω₁,ω₄}, B={ω₂,ω₄}, C={ω₃,ω₄}
两两交集 P(AB)=P(BC)=P(AC)1/4 = (1/2)²仅 ω₄ 同时具备两种颜色 ⇒ 两两独立
三者交集 P(A ∩ B ∩ C)1/4 ≠ (1/2)³ = 1/8已知 A,B 发生即锁定 ω₄,C 必发生!
条件坍缩 P(C | A ∩ B)100% ≠ P(C)A∩B 已经彻底泄露了 C 的信息
Bernstein 四面体四个等可能样本点 Ω = {ω₁, ω₂, ω₃, ω₄} 与示性函数矩阵高亮行:满足当前交集事件的样本点
ω₁ (面1: 纯红)IA=1IB=0IC=0—ω₂ (面2: 纯绿)IA=0IB=1IC=0—ω₃ (面3: 纯蓝)IA=0IB=0IC=1—ω₄ (面4: 红绿蓝)IA=1IB=1IC=1✓ 命中 (1/4)
深度思辨与反例剖析 (CRITICAL INSIGHT & PITFALL)

既然两两独立和相互独立差这么多,能不能对任意 nn,专门构造出 nn 个集合,使这 2n−n−12^n-n-1 个等式中“你指定哪一个不成立,就唯独那一个不成立,其余 2n−n−22^n-n-2 个全部成立”? 张颢老师在 提到:历史上真的有数学家完成了这一惊人构造,甚至将其编写成了计算机程序!输入任意指定的子集阶数,程序都能构造出对应的事件族,使得除该指定等式外其余所有阶的独立性等式全部精确成立——这彻底证明了 2n−n−12^n-n-1 个方程是彼此完全独立的约束。

本节方法论沉淀 · KEY TAKEAWAYS
  • 两两独立 ⇏\nRightarrow 相互独立:两两独立只保证任意两个事件之间无二阶信息泄露,但第三个事件完全可以是前两个事件的确定性逻辑闭环(如 Xn=X1X_n=X_1 或异或 C=A⊕BC = A \oplus B)。

  • 相互独立的完备约束数:nn 个事件相互独立共有 2^n - inom{n}{0} - inom{n}{1} = 2^n - n - 1 个等式约束(当 n=3n=3 时为 44 个,当 n=4n=4 时为 1111 个)。

3. 示性函数(Indicator Function)1A(ω) 代数法:一行秒杀 De Morgan 律、对称差与容斥原理

隆重请出张颢老师极力推崇的概率论“瑞士军刀”——示性函数 1A(ω),将集合的交、并、补、对称差布尔运算同构映射为 0-1 实数多项式的乘、加、减与模 2 异或运算,无需集合元素包含讨论,纯靠初中代数展开一步秒杀 De Morgan 律、对称差结合律与容斥原理。

3.1 为什么要用示性函数 1A(ω)\mathbf{1}_A(\omega)?()

在 ,张颢老师指出:虽然中学就学过集合的交(∩\cap)、并(∪\cup)、补(AcA^c),但传统的集合论证明(“任取 x∈左边  ⟹  x∈右边x \in \text{左边} \implies x \in \text{右边}”)一旦遇到三四个集合的复合运算就会陷入繁琐的分类迷宫。为此,我们引入集合 A⊂ΩA \subset \Omega 的示性函数(Indicator Function,又称指示函数 1A\mathbf{1}_A 或 IAI_A,): 1A(ω)={1,ω∈A0,ω∉A\mathbf{1}_A(\omega) = \begin{cases} 1, & \omega \in A \\ 0, & \omega \notin A \end{cases} 由于 1A(ω)\mathbf{1}_A(\omega) 只取 00 或 11,它天然具备幂等性 (1A)2=1A(\mathbf{1}_A)^2 = \mathbf{1}_A,且两个集合相等 A=B  ⟺  1A(ω)≡1B(ω)A = B \iff \mathbf{1}_A(\omega) \equiv \mathbf{1}_B(\omega)!

3.2 集合布尔运算 ↔\leftrightarrow 实数多项式代数的完美同构字典()

  1. 交集变乘法():只有当 ω\omega 同时属于 AA 和 BB 时,1A(ω)\mathbf{1}_A(\omega) 与 1B(ω)\mathbf{1}_B(\omega) 才同时为 11,故: 1A∩B=1A⋅1B\mathbf{1}_{A \cap B} = \mathbf{1}_A \cdot \mathbf{1}_B
  2. 补集变一减():ω∈Ac  ⟺  ω∉A\omega \in A^c \iff \omega \notin A,00 与 11 翻转: 1Ac=1−1A\mathbf{1}_{A^c} = 1 - \mathbf{1}_A
  3. 并集为什么不能直接相加?(): 如果直接写 1A+1B\mathbf{1}_A + \mathbf{1}_B,当 ω∈A∩B\omega \in A \cap B 时会出现 1+1=2>11 + 1 = 2 > 1(重算了一次交集!)。因此必须减去交集的乘积,或者由 De Morgan 律 A∪B=(Ac∩Bc)cA\cup B = (A^c \cap B^c)^c 展开: 1A∪B=1A+1B−1A1B=1−(1−1A)(1−1B)\mathbf{1}_{A \cup B} = \mathbf{1}_A + \mathbf{1}_B - \mathbf{1}_A \mathbf{1}_B = 1 - (1 - \mathbf{1}_A)(1 - \mathbf{1}_B)

3.3 黑板三大惊艳实战:用代数运算彻底替代集合逻辑讨论

实战 ①:一行因式分解证明 De Morgan 律 (A∪B)c=Ac∩Bc(A\cup B)^c = A^c \cap B^c()

不必取元素做逻辑推导,直接算左边集合的示性函数: 1(A∪B)c=1−1A∪B=1−(1A+1B−1A1B)=1−1A−1B+1A1B=(1−1A)(1−1B)=1Ac⋅1Bc=1Ac∩Bc\mathbf{1}_{(A\cup B)^c} = 1 - \mathbf{1}_{A\cup B} = 1 - (\mathbf{1}_A + \mathbf{1}_B - \mathbf{1}_A\mathbf{1}_B) = 1 - \mathbf{1}_A - \mathbf{1}_B + \mathbf{1}_A\mathbf{1}_B = (1 - \mathbf{1}_A)(1 - \mathbf{1}_B) = \mathbf{1}_{A^c}\cdot \mathbf{1}_{B^c} = \mathbf{1}_{A^c \cap B^c} 两边示性函数恒等,故 (A∪B)c=Ac∩Bc(A\cup B)^c = A^c \cap B^c,证毕!

实战 ②:用模 2 加法(数字电路异或门 XOR)秒杀对称差结合律()

对称差定义为 AΔB=(A∩Bc)∪(B∩Ac)A \Delta B = (A \cap B^c) \cup (B \cap A^c)(属于 AA 或属于 BB,但不能属于交集 A∩BA\cap B)。如何证明 (AΔB)ΔC=AΔ(BΔC)(A \Delta B) \Delta C = A \Delta (B \Delta C)?

  • 若用传统集合论方法,需要把 ω\omega 在 A,B,CA,B,C 中的 8 种归属情况逐一枚举,写满整块黑板;
  • 张颢黑板秒杀法():观察 1AΔB\mathbf{1}_{A\Delta B} 的真值表——外部 (0,0)→0(0,0)\to 0,单侧 (1,0)(1,0) 或 (0,1)→1(0,1)\to 1,交集内部 (1,1)→0(1,1)\to 0。这在代数上恰恰是 (1A−1B)2=1A+1B−21A1B(\mathbf{1}_A - \mathbf{1}_B)^2 = \mathbf{1}_A + \mathbf{1}_B - 2\mathbf{1}_A\mathbf{1}_B,而在数字电路中就是大家烂熟于心的模 2 加法(异或运算 XOR ⊕\oplus): 1AΔB≡(1A+1B)(mod2)\mathbf{1}_{A \Delta B} \equiv (\mathbf{1}_A + \mathbf{1}_B) \pmod 2 因为整数模 2 加法天然满足结合律 (1A+1B)+1C≡1A+(1B+1C)(mod2)(\mathbf{1}_A + \mathbf{1}_B) + \mathbf{1}_C \equiv \mathbf{1}_A + (\mathbf{1}_B + \mathbf{1}_C) \pmod 2,对称差结合律瞬间得证!

实战 ③:展开 1−∏i=1n(1−1Ai)1 - \prod_{i=1}^n (1 - \mathbf{1}_{A_i}) 一步秒杀 nn 事件容斥原理

对于任意 nn 个事件 A1,…,AnA_1, \dots, A_n,并集的补集是交集的补集 (⋃i=1nAi)c=⋂i=1nAic(\bigcup_{i=1}^n A_i)^c = \bigcap_{i=1}^n A_i^c,转化为示性函数多项式展开: 1⋃i=1nAi=1−∏i=1n(1−1Ai)=∑i=1n1Ai−∑1≤i<j≤n1Ai1Aj+∑1≤i<j<k≤n1Ai1Aj1Ak−⋯+(−1)n−11A1⋯1An\mathbf{1}_{\bigcup_{i=1}^n A_i} = 1 - \prod_{i=1}^n (1 - \mathbf{1}_{A_i}) = \sum_{i=1}^n \mathbf{1}_{A_i} - \sum_{1\le i<j\le n} \mathbf{1}_{A_i}\mathbf{1}_{A_j} + \sum_{1\le i<j<k\le n} \mathbf{1}_{A_i}\mathbf{1}_{A_j}\mathbf{1}_{A_k} - \cdots + (-1)^{n-1}\mathbf{1}_{A_1}\cdots\mathbf{1}_{A_n} 两边同时取数学期望(或利用线性可加性 E[1E]=P(E)\mathbb{E}[\mathbf{1}_E] = \mathbb{P}(E)),无需任何数学归纳法,一行直接导出容斥原理(Inclusion-Exclusion Principle)!

CLASSROOM BOARD DIAGRAM · 张颢老师课堂黑板原图矢量化复原

黑板原图复原 2:集合布尔运算与示性函数 IA(x)I_A(x) 的代数同构()

复原张颢老师在 黑板右下角写下的示性函数 IA(x)∈{0,1}I_A(x)\in\{0,1\} 定义及其将集合交、并、补、对称差化为多项式代数的对应表。
Ω A B AB 集合空间 (Ω, ℱ) 交 ∩ · 并 ∪ · 补 c · 对称差 Δ Iₐ(ω) 0-1 多项式代数 • 幂等律:(Iₐ)² = Iₐ • 交集:I₁ · I₂ • 补集:1 − Iₐ • 并集:1 − (1−I₁)(1−I₂)

核心恒等式():因 1A(ω)∈{0,1}\mathbf{1}_A(\omega)\in\{0,1\},故任意次幂满足 (1A)k=1A(\mathbf{1}_A)^k = \mathbf{1}_A,且 E[1A]=P(A)\mathbb{E}[\mathbf{1}_A] = \mathbb{P}(A)。

集合运算转实数代数:1A∩B=1A1B\mathbf{1}_{A\cap B}=\mathbf{1}_A\mathbf{1}_B,1Ac=1−1A\mathbf{1}_{A^c}=1-\mathbf{1}_A,对称差 1AΔB=(1A−1B)2\mathbf{1}_{A\Delta B}=(\mathbf{1}_A-\mathbf{1}_B)^2。

一行证容斥原理():展开 1⋃i=1nAi=1−∏i=1n(1−1Ai)\mathbf{1}_{\bigcup_{i=1}^n A_i} = 1 - \prod_{i=1}^n(1-\mathbf{1}_{A_i}),两边直接取期望(线性性)即得 nn 事件容斥公式!

BLACKBOARD DERIVATION RECONSTRUCTION · 张颢老师黑板推导完整复原
词典建立交变乘、补变 1−1A、并变多项式
1A∩B=1A1B,1Ac=1−1A,1A∪B=1A+1B−1A1B=1−(1−1A)(1−1B)\mathbf{1}_{A\cap B} = \mathbf{1}_A\mathbf{1}_B,\quad \mathbf{1}_{A^c} = 1 - \mathbf{1}_A,\quad \mathbf{1}_{A\cup B} = \mathbf{1}_A + \mathbf{1}_B - \mathbf{1}_A\mathbf{1}_B = 1 - (1-\mathbf{1}_A)(1-\mathbf{1}_B)

对应 :将集合论恒等式彻底转化为初等代数多项式恒等式。

代数秒杀对称差模 2 结合律与 n 维容斥多项式展开
1AΔB≡1A+1B(mod2);1⋃i=1nAi=1−∏i=1n(1−1Ai)→E[⋅]容斥原理\mathbf{1}_{A\Delta B} \equiv \mathbf{1}_A + \mathbf{1}_B \pmod 2; \qquad \mathbf{1}_{\bigcup_{i=1}^n A_i} = 1 - \prod_{i=1}^n (1 - \mathbf{1}_{A_i}) \xrightarrow{\mathbb{E}[\cdot]} \text{容斥原理}

对应 :数字电路异或门结合律直接蕴含集合对称差结合律。

深度思辨与反例剖析 (CRITICAL INSIGHT & PITFALL)

为什么用示性函数证明容斥原理比用数学归纳法高明得多? 用数学归纳法证容斥原理只告诉了你“最终概率加总相等”,却掩盖了逐点(Pointwise)的代数真相:恒等式 1⋃Ai(ω)=∑1Ai(ω)−∑1AiAj(ω)+⋯\mathbf{1}_{\bigcup A_i}(\omega) = \sum \mathbf{1}_{A_i}(\omega) - \sum \mathbf{1}_{A_i A_j}(\omega) + \cdots 是对样本空间中的每一个样本点 ω∈Ω\omega \in \Omega 都精确成立的实数恒等式!如果 ω\omega 恰好落在 mm 个集合中(m≥1m\ge 1),右端就是 (m1)−(m2)+⋯+(−1)m−1(mm)=1−(1−1)m=1\binom{m}{1} - \binom{m}{2} + \cdots + (-1)^{m-1}\binom{m}{m} = 1 - (1-1)^m = 1,不重不漏恰计一次。

本节方法论沉淀 · KEY TAKEAWAYS
  • 遇集合恒等式先转 1A\mathbf{1}_A:代数因式分解比集合逻辑推导更清晰、更不易出错。

  • 对称差 Δ\Delta 的代数本质:在 F2\mathbb{F}_2(模 2 有限域)上,对称差 AΔBA\Delta B 是加法,交集 A∩BA\cap B 是乘法,幂集 2Ω2^\Omega 构成一个布尔环(Boolean Ring)。

4. 事件序列上下极限(limsup An / liminf An)与 Borel–Cantelli 第一、第二引理

利用示性函数将无穷事件序列的“先并后交 limsup An(无穷多次发生 i.o.)”与“先交后并 liminf An(仅有限次不发生)”还原为 0-1 实数列的上下极限,并在黑板上完整推演 Borel–Cantelli 引理,展示独立性如何使无穷覆盖概率从 0 一步登天跃迁至 1。

4.1 既交又并的无穷事件序列:lim sup⁡An\limsup A_n 与 lim inf⁡An\liminf A_n()

给定无穷多个事件构成的序列 {Ak}k=1∞\{A_k\}_{k=1}^\infty,张颢老师在黑板上写下了两个看似令人眼花缭乱的“既交又并”集合(): lim sup⁡n→∞An:=⋂n=1∞⋃k=n∞Ak,lim inf⁡n→∞An:=⋃n=1∞⋂k=n∞Ak\limsup_{n\to\infty} A_n := \bigcap_{n=1}^{\infty} \bigcup_{k=n}^{\infty} A_k, \qquad \liminf_{n\to\infty} A_n := \bigcup_{n=1}^{\infty} \bigcap_{k=n}^{\infty} A_k 这两个集合里的样本点 ω\omega 究竟有什么特征?张颢老师手把手带领大家拆解():

  • 上极限 lim sup⁡An\limsup A_n(先并后交 = 无穷多次发生 i.o.): ω∈⋂n=1∞⋃k=n∞Ak\omega \in \bigcap_{n=1}^\infty \bigcup_{k=n}^\infty A_k 意味着:无论把起点下标 nn 推到多远(对一切 n≥1n \ge 1),ω\omega 都落在尾并集 ⋃k=n∞Ak\bigcup_{k=n}^\infty A_k 中(即在 nn 之后总还能找到某个 k≥nk \ge n 使得 ω∈Ak\omega \in A_k)。因此,lim sup⁡An\limsup A_n 就是被无穷多个 AkA_k 所包含(发生无穷多次,infinitely often)的样本点集合!
  • 下极限 lim inf⁡An\liminf A_n(先交后并 = 仅有限次不发生): ω∈⋃n=1∞⋂k=n∞Ak\omega \in \bigcup_{n=1}^\infty \bigcap_{k=n}^\infty A_k 意味着:存在某个门槛下标 n0n_0,从第 n0n_0 项起往后的所有集合全都包含 ω\omega(ω∈⋂k=n0∞Ak\omega \in \bigcap_{k=n_0}^\infty A_k)。也就是说,不包含 ω\omega 的集合至多只有 n0−1n_0-1 个——lim inf⁡An\liminf A_n 就是“只有有限个 AkA_k 不包含它(最终恒发生)”的样本点集合!
  • 包含关系:既然“只有有限个不包含”必然蕴含“有无穷多个包含”(反之不然,例如奇偶交替出现),故必有 lim inf⁡An⊂lim sup⁡An\liminf A_n \subset \limsup A_n()。

4.2 示性函数视角:集合上下极限 = 00-11 数列上下极限()

为什么把它们叫做“上极限”和“下极限”?张颢老师指出,只要套上示性函数 1Ak(ω)∈{0,1}\mathbf{1}_{A_k}(\omega) \in \{0, 1\},集合运算瞬间化归为微积分里熟知的实数列上下极限: 1lim sup⁡n→∞An(ω)=lim sup⁡n→∞1An(ω),1lim inf⁡n→∞An(ω)=lim inf⁡n→∞1An(ω)\mathbf{1}_{\limsup_{n\to\infty} A_n}(\omega) = \limsup_{n\to\infty} \mathbf{1}_{A_n}(\omega), \qquad \mathbf{1}_{\liminf_{n\to\infty} A_n}(\omega) = \liminf_{n\to\infty} \mathbf{1}_{A_n}(\omega) 一个 00-11 数列的上极限为 11,当且仅当数列中有无穷多个 11;下极限为 11,当且仅当从某项起全为 11!


4.3 压轴高潮:Borel–Cantelli 第一与第二引理()

为了深刻展示独立性的威力,张颢老师把事件序列 {Ak}\{A_k\} 形象地比作“往样本空间 Ω\Omega 上不断抛洒圆纸片进行覆盖”( & ),考察被无穷多张纸片覆盖的点集 lim sup⁡Ak\limsup A_k 的概率:

定理 4.1:Borel–Cantelli 第一引理(无需独立性,)

命题:若事件序列的概率级数收敛 ∑k=1∞P(Ak)<∞\sum_{k=1}^{\infty} \mathbb{P}(A_k) < \infty,则必有 P(lim sup⁡k→∞Ak)=0\mathbb{P}\bigl(\limsup_{k\to\infty} A_k\bigr) = 0。

  • 黑板证明(): 对任意固定的整数 N≥1N \ge 1,交集包含于其中任意一项,再由可列次可加性: P ⁣(⋂n=1∞⋃k=n∞Ak)≤P ⁣(⋃k=N∞Ak)≤∑k=N∞P(Ak)\mathbb{P}\!\left(\bigcap_{n=1}^{\infty} \bigcup_{k=n}^{\infty} A_k\right) \le \mathbb{P}\!\left(\bigcup_{k=N}^{\infty} A_k\right) \le \sum_{k=N}^{\infty} \mathbb{P}(A_k) 由于级数 ∑k=1∞P(Ak)<∞\sum_{k=1}^\infty \mathbb{P}(A_k) < \infty 收敛,当 N→∞N \to \infty 时,收敛级数的余项(尾巴)必然趋于 00:lim⁡N→∞∑k=N∞P(Ak)=0\lim_{N\to\infty} \sum_{k=N}^\infty \mathbb{P}(A_k) = 0,故 P(lim sup⁡Ak)=0\mathbb{P}(\limsup A_k) = 0!

定理 4.2:Borel–Cantelli 第二引理(独立性使概率从 0 跃迁至 1!)

命题:若 ∑k=1∞P(Ak)=∞\sum_{k=1}^{\infty} \mathbb{P}(A_k) = \infty(级数发散,纸片总面积无穷大),且事件序列 {Ak}k=1∞\{A_k\}_{k=1}^\infty 相互独立,则必有: P(lim sup⁡k→∞Ak)=1\mathbb{P}\bigl(\limsup_{k\to\infty} A_k\bigr) = 1

  • 黑板完整证明():
    1. 正难则反取补集:要证概率等于 11,等价于证其补集概率为 00。由 De Morgan 律: (⋂n=1∞⋃k=n∞Ak)c=⋃n=1∞⋂k=n∞Akc\left(\bigcap_{n=1}^{\infty} \bigcup_{k=n}^{\infty} A_k\right)^c = \bigcup_{n=1}^{\infty} \bigcap_{k=n}^{\infty} A_k^c
    2. 独立性传递到余集并化交为乘():固定任意 n≥1n \ge 1,考察内层交集 ⋂k=n∞Akc\bigcap_{k=n}^\infty A_k^c。因为 {Ak}\{A_k\} 相互独立,由第 1 节证过的“亲属连带独立性”,余集序列 {Akc}\{A_k^c\} 也相互独立!故: P ⁣(⋂k=n∞Akc)=∏k=n∞P(Akc)=∏k=n∞(1−P(Ak))\mathbb{P}\!\left(\bigcap_{k=n}^{\infty} A_k^c\right) = \prod_{k=n}^{\infty} \mathbb{P}(A_k^c) = \prod_{k=n}^{\infty} \bigl(1 - \mathbb{P}(A_k)\bigr)
    3. 指对数变换 + 凸函数不等式 ln⁡(1−x)≤−x\ln(1-x) \le -x(): 将无穷乘积放到指数上方化为对数求和,并利用对一切 x∈[0,1)x \in [0, 1) 恒成立的不等式 ln⁡(1−x)≤−x\ln(1-x) \le -x: ∏k=n∞(1−P(Ak))=exp⁡ ⁣(∑k=n∞ln⁡(1−P(Ak)))≤exp⁡ ⁣(−∑k=n∞P(Ak))\prod_{k=n}^{\infty}\bigl(1 - \mathbb{P}(A_k)\bigr) = \exp\!\left(\sum_{k=n}^{\infty} \ln\bigl(1 - \mathbb{P}(A_k)\bigr)\right) \le \exp\!\left(-\sum_{k=n}^{\infty} \mathbb{P}(A_k)\right) 由于级数 ∑P(Ak)=∞\sum \mathbb{P}(A_k) = \infty 发散,发散级数的任意一个尾巴 ∑k=n∞P(Ak)\sum_{k=n}^\infty \mathbb{P}(A_k) 依然等于 +∞+\infty!因此: P ⁣(⋂k=n∞Akc)≤e−∞=0(∀n≥1)\mathbb{P}\!\left(\bigcap_{k=n}^{\infty} A_k^c\right) \le e^{-\infty} = 0 \quad (\forall n \ge 1)
    4. 可数个零测集之并仍为零():既然对每个 nn 都有 P(⋂k=n∞Akc)=0\mathbb{P}(\bigcap_{k=n}^\infty A_k^c) = 0,它们的可数并集概率自然也是 00,从而 P(lim sup⁡Ak)=1−0=1\mathbb{P}(\limsup A_k) = 1 - 0 = 1!
BLACKBOARD DERIVATION RECONSTRUCTION · 张颢老师黑板推导完整复原
Step ①Borel–Cantelli 第一引理(尾并集上界夹逼)
∑k=1∞P(Ak)<∞  ⟹  P ⁣(⋂n=1∞⋃k=n∞Ak)≤P ⁣(⋃k=N∞Ak)≤∑k=N∞P(Ak)→N→∞0\sum_{k=1}^{\infty}\mathbb{P}(A_k) < \infty \implies \mathbb{P}\!\left(\bigcap_{n=1}^{\infty}\bigcup_{k=n}^{\infty}A_k\right) \le \mathbb{P}\!\left(\bigcup_{k=N}^{\infty}A_k\right) \le \sum_{k=N}^{\infty}\mathbb{P}(A_k) \xrightarrow{N\to\infty} 0

对应 :第一引理不需要任何独立性假设,仅靠收敛级数余项趋于 0 即可得证。

Step ②Borel–Cantelli 第二引理(补集 + 余集独立 + ln(1−x) ≤ −x)
P ⁣(⋂k=n∞Akc)=独立∏k=n∞(1−P(Ak))=exp⁡ ⁣(∑k=n∞ln⁡(1−P(Ak)))≤exp⁡ ⁣(−∑k=n∞P(Ak))=e−∞=0\mathbb{P}\!\left(\bigcap_{k=n}^{\infty}A_k^c\right) \stackrel{\text{独立}}{=} \prod_{k=n}^{\infty}\bigl(1-\mathbb{P}(A_k)\bigr) = \exp\!\left(\sum_{k=n}^{\infty}\ln(1-\mathbb{P}(A_k))\right) \le \exp\!\left(-\sum_{k=n}^{\infty}\mathbb{P}(A_k)\right) = e^{-\infty} = 0

对应 :独立性像一只“无形的手”调整纸片相交方式,使几乎所有样本点都被无穷多次覆盖!

深度思辨与反例剖析 (CRITICAL INSIGHT & PITFALL)

如果去掉 Borel–Cantelli 第二引理中的“相互独立”条件,仅凭 ∑k=1∞P(Ak)=∞\sum_{k=1}^\infty \mathbb{P}(A_k) = \infty 还能推出 P(lim sup⁡Ak)=1\mathbb{P}(\limsup A_k) = 1 吗? 绝对不能!反例极其简单:在 Ω=[0,1]\Omega = [0, 1] 均匀分布下,取 Ak=[0,1/k]A_k = [0, 1/k](所有纸片全都叠在左端点附近,完全不独立)。虽然 ∑k=1∞P(Ak)=∑k=1∞1k=∞\sum_{k=1}^\infty \mathbb{P}(A_k) = \sum_{k=1}^\infty \frac{1}{k} = \infty(调和级数发散),但 lim sup⁡Ak=⋂n=1∞[0,1/n]={0}\limsup A_k = \bigcap_{n=1}^\infty [0, 1/n] = \{0\},其概率 P({0})=0≠1\mathbb{P}(\{0\}) = 0 \neq 1!正如张颢老师在 所总结的:如果纸片全都死板地叠在一起,面积和再大也覆盖不了整个空间;正是独立性强迫纸片以微妙的比例分散相交,才造就了从 00 到 11 的惊天逆转(0-1 律)!

本节方法论沉淀 · KEY TAKEAWAYS
  • 上下极限速记:先并后交 ⋂n⋃k≥nAk=lim sup⁡An\bigcap_{n}\bigcup_{k\ge n} A_k = \limsup A_n(无穷多次发生 i.o.);先交后并 ⋃n⋂k≥nAk=lim inf⁡An\bigcup_{n}\bigcap_{k\ge n} A_k = \liminf A_n(除有限次外恒发生)。

  • Borel–Cantelli 0-1 分水岭:对于独立事件序列 {Ak}\{A_k\},P(Ak i.o.)\mathbb{P}(A_k\text{ i.o.}) 只能取 00 或 11,唯一判据就是级数 ∑P(Ak)\sum \mathbb{P}(A_k) 收敛(=0=0)还是发散(=1=1)。

CONCEPTUAL & COUNTEREXAMPLE CHECKS · 第 4 讲随堂思辨与易错反例自测

检验你是否真正掌握了高阶/低阶独立性双向反例、示性函数代数与 Borel–Cantelli 引理

先独立判断,再展开详细数学解析。每道题均紧扣张颢老师在本讲(P20–P24)课堂上的追问与经典反例。

CHECK 01

设事件 A,BA, B 满足 P(A)=0.4,P(B)=0.5\mathbb{P}(A) = 0.4, \mathbb{P}(B) = 0.5。按照张颢老师在 P20 中的剖析,关于“AA 与 BB 互斥(不相交 AB=∅AB=\varnothing)”和“AA 与 BB 独立”,下列说法正确的是:

选择答案

CHECK 02

在张颢老师 讲授的“连续独立抛 nn 次均匀硬币(n≥3n\ge 3)”反例中,设 A1={X1=X2},A2={X2=X3},…,An={Xn=X1}A_1=\{X_1=X_2\}, A_2=\{X_2=X_3\}, \dots, A_n=\{X_n=X_1\}。关于这 nn 个事件的独立性,下列结论正确的是:

选择答案

CHECK 03

在 中,张颢老师如何利用示性函数 1A(ω)\mathbf{1}_A(\omega) 一步证明集合对称差的结合律 (AΔB)ΔC=AΔ(BΔC)(A\Delta B)\Delta C = A\Delta(B\Delta C)?

选择答案

CHECK 04

设 {Ak}k=1∞\{A_k\}_{k=1}^\infty 为一列相互独立的事件,且 P(Ak)=1k\mathbb{P}(A_k) = \frac{1}{k}。根据 P24 证明的 Borel–Cantelli 引理,事件 lim sup⁡k→∞Ak={Ak 发生无穷多次}\limsup_{k\to\infty} A_k = \{A_k\text{ 发生无穷多次}\} 的概率是多少?

选择答案
本讲核心概念、黑板记号与中英术语对照 (5 项)
相互独立 vs 两两独立 Mutual vs. Pairwise Independence

nn 个事件相互独立要求任意子集(共 2n−n−12^n-n-1 个)交集的概率均等于各自概率的乘积;两两独立仅要求任意两个事件满足乘积公式。Bernstein 反例证明两两独立绝不蕴含相互独立。

示性函数 / 指示函数 Indicator Function (1A)

当 ω∈A\omega\in A 时取 11、ω∉A\omega\notin A 时取 00 的函数 1A(ω)\mathbf{1}_A(\omega),满足幂等律 1A2=1A\mathbf{1}_A^2=\mathbf{1}_A、1A∩B=1A1B\mathbf{1}_{A\cap B}=\mathbf{1}_A\mathbf{1}_B、1Ac=1−1A\mathbf{1}_{A^c}=1-\mathbf{1}_A 且 E[1A]=P(A)\mathbb{E}[\mathbf{1}_A]=\mathbb{P}(A)。

对称差 Symmetric Difference (A Δ B)

AΔB=(A∩Bc)∪(B∩Ac)A\Delta B = (A\cap B^c)\cup(B\cap A^c),其示性函数 1AΔB=(1A−1B)2≡1A⊕1B(mod2)\mathbf{1}_{A\Delta B} = (\mathbf{1}_A - \mathbf{1}_B)^2 \equiv \mathbf{1}_A \oplus \mathbf{1}_B \pmod 2 对应数字电路中的异或(模 2 加法)。

事件序列的上下极限 Limsup & Liminf of Events

上极限 lim sup⁡An=⋂n=1∞⋃k=n∞Ak\limsup A_n = \bigcap_{n=1}^\infty \bigcup_{k=n}^\infty A_k 表示“发生无穷多次(i.o.)”;下极限 lim inf⁡An=⋃n=1∞⋂k=n∞Ak\liminf A_n = \bigcup_{n=1}^\infty \bigcap_{k=n}^\infty A_k 表示“除有限次外恒发生”。

Borel–Cantelli 引理 Borel–Cantelli Lemmas

若 ∑P(Ak)<∞\sum \mathbb{P}(A_k) < \infty,则 P(lim sup⁡Ak)=0\mathbb{P}(\limsup A_k)=0;若 {Ak}\{A_k\} 相互独立且 ∑P(Ak)=∞\sum \mathbb{P}(A_k) = \infty,则 P(lim sup⁡Ak)=1\mathbb{P}(\limsup A_k)=1。

公理与机遇 · 清华大学自动化系张颢《概率论》深度精读讲义 · 原课无遮挡 1.5× 对位回看与穿插式直观可视化