05 条件概率、独立性与贝叶斯公式

同一位参与者既接受干预又获得成功，属于两个事件的交集。比较干预者中的成功比例，和比较成功者中的干预比例，交集人数相同，参照人群却不同。组内比例与整体比例 中的这一区别，可以用 样本空间、事件、交集和补事件 的语言一般化：已知一个事件发生，便在该事件所包含的结果中重新比较概率。

改变参照范围会改变概率；若某项信息加入以后，事件概率恰好保持原值，就得到独立性。若已知结果并比较它可能来自哪一种来源，则要把条件方向倒转，同时保留来源在原人群中的构成。条件概率、独立性与贝叶斯公式，因而从同一个联合事件关系中产生。

条件概率的定义

把样本空间想象为总面积归一化为一的区域，事件所占的面积表示概率。得知 $B$ 发生，意味着实际结果已经落在 $B$ 内；其中满足 $A$ 的部分是 $A\cap B$。这时相对面积的分母为整个条件区域，不再是原样本空间。对于 $P(B)>0$，由此定义

$$P(A\mid B)=\frac{P(A\cap B)}{P(B)}.$$

竖线读作“给定”。分子保留交集在原样本空间中的概率，分母将条件区域重新归一化，所得值描述该区域内部的构成。已知事件所改变的是参照范围，实际共同发生的结果并未改变。

从虚构实验的 400 人中均匀随机抽取一人，令 $T$ 表示属于干预组，$S$ 表示成功。干预组含 200 人，其中 70 人成功；全部成功者含 110 人。给定组别与给定成功状态，分别得到

$$P(S\mid T)=\frac{70/400}{200/400}=\frac{70}{200}=0.35,$$

而

$$P(T\mid S)=\frac{70/400}{110/400}=\frac{70}{110}\approx \mathrm{0.6364.}$$

两项概率来自同一批数据，描述其中均匀抽取的机制。第一项的分母是干预者，第二项的分母是成功者，各自说明不同条件下的构成。它们是这份有限数据中的抽人概率；向目标总体的相应参数推广，还取决于抽样与实验的关系。

当 $P(B)=0$，该条件区域没有正的概率，交集也只能有零概率，所写比值因而没有定义。连续变量取某个精确值的事件也可能具有零概率，但其条件分布可通过更一般的理论建立，见 联合分布与条件期望；它不由这里的简单概率比直接给出。

联合概率的乘法公式

条件区域在全体中占多少，与区域内部满足事件的比例相乘，便恢复交集在全体中的比例。将条件概率定义两边乘以 $P(B)$，得

$$P(A\cap B)=P(B)P(A\mid B).$$

同一交集还可从 $A$ 出发表示为 $P(A\cap B)=P(A)P(B\mid A)$。两种分解选择不同参照范围，均表达同一联合概率。$P(A\mid B)$ 只说明条件关系，未规定 $B$ 与 $A$ 的因果先后。

盒中有 3 红 2 蓝，均匀不放回抽两球。第一球为红的概率是 $3/5$；在已经抽到红球的条件下，剩余 2 红 2 蓝，第二球为红的概率是 $2/4$。两球全红的概率因而为 $(3/5)(2/4)=3/10$，与组合计数所得值相同。

第一次结果改变了第二次的比较范围，这正是不放回抽取的依赖。如果抽后放回、充分混匀并按同一机制再次抽取，第二次红球概率仍为 $3/5$，联合概率则为 $(3/5{)}^2=9/25$。两种模型的区别来自条件范围是否保留原构成。

事件的独立性

对事件 $A,B$，若共同发生的概率等于各自概率之积，称为独立，即

$$P(A\cap B)=P(A)P(B).$$

若 $P(B)>0$，将独立关系除以条件事件的概率，得到等价式 $P(A\mid B)=P(A)$；若 $P(A)>0$，反向也有 $P(B\mid A)=P(B)$。条件信息没有改变另一事件的概率，就是独立性的含义。联合概率定义保留了零概率事件的情形，而不涉及在零概率条件上作除法。

硬币各次投掷可以在相应机制下建立独立模型。同一患者的前后结果或同一家庭成员的结果，则可能受到共同因素影响。观测各占一行，只说明记录的组织方式；独立性描述联合概率是否分解，两者是不同层次的属性。名称的区别或图上未呈现明显关系，也没有给出这一分解依据。

互斥意味着 $A\cap B=\varnothing$。若两个事件均有正概率，联合概率为 0，概率乘积却满足 $P(A)P(B)>0$，故互斥与独立不相容。例如一次骰子投掷得到 1，就排除了得到 2，条件信息已经改变概率。独立事件则可以共同发生，如两个独立硬币都为正面。

可加性依赖事件彼此不重叠，直接相乘的联合概率则依赖独立性。因此，互斥给出并集的简单加法，独立给出交集的简单乘法；“或”与“且”只指明集合运算，并没有同时提供这些概率前提。

两两独立与相互独立

多个事件的独立性涉及不止一种联合关系。两次独立公平硬币中，令 $A$ 表示第一枚正面，$B$ 表示第二枚正面，$C$ 表示两枚同面。每个事件的概率为 $1/2$，任意一对的交集概率为 $1/4$，所以它们两两独立。

三个共同发生却只有 HH 一个结果：$A\cap B\cap C$ 的概率为 $1/4$，不同于 $(1/2{)}^3=1/8$。知道前两枚都是正面，也就确定了两枚同面。成对信息分别不改变概率，并未保证组合后的信息仍不改变概率。

相互独立要求任意事件子组的联合概率都分解为各事件概率的乘积，包括三个或更多事件共同发生的情形。统计学中的独立样本通常指这种整体分布关系，既强于只检查若干对事件，也不同于图上缺少明显的两两关系。

全概率公式

设 $B_1,\dots ,B_k$ 彼此互斥，合起来穷尽样本空间，且每部分具有正概率。任一事件可以按这些来源分开计算，于是

$$P(A)=\sum _{i=1}^{k}P(A\mid B_i)P(B_i).$$

事件 $A$ 在每个来源 $B_i$ 中的部分是 $A\cap B_i$。各部分不重叠，合起来恰为全部 $A$；先把概率相加，再分解每项联合概率，便得到全概率公式。从人群角度看，来源的构成比例是权重，来源内部的事件概率是被加权的量。

虚构实验的两组各占一半，全体的成功概率为 $0.35\times 0.5+0.20\times 0.5=0.275$。若干预组只占总体的 10%、对照组占 90%，组内概率不变而构成改变，汇总值成为 $0.35\times 0.1+0.20\times 0.9=0.215$。全概率公式由此把组内率与人群权重的作用分开表达。

贝叶斯公式

全概率公式从来源构成与组内概率得到结果概率。若已经观察到结果，再比较它来自哪一种来源，条件方向随之倒转，交集 $A\cap B$ 却仍相同。把联合概率 $P(A\cap B)=P(B\mid A)P(A)$ 代入定义，便得

$$P(A\mid B)=\frac{P(B\mid A)P(A)}{P(B)}.$$

当来源由 $A$ 与 $A^c$ 两部分组成时，结果概率可以按全概率公式展开，分母由两种来源产生该结果的概率相加而成：

$$P(A\mid B)=\frac{P(B\mid A)P(A)}{P(B\mid A)P(A)+P(B\mid A^c)P(A^c)}.$$

$P(A)$ 描述观察 $B$ 前的来源构成，称为基率或先验概率；$P(B\mid A)$ 描述在相应来源中产生证据的概率；$P(A\mid B)$ 则描述观察证据后的来源构成。贝叶斯公式把这几项联系起来，是概率恒等式。应用中的不确定之处来自各项概率是否适合当前人群，而非等式本身。

基率与阳性预测值

以一组教学假设说明检测结果的方向转换，这些参数不表示任何实际检测的评估或医疗建议。人群患病率设为 1%，有病者检测阳性概率为 90%，称为灵敏度；无病者检测阴性概率为 95%，称为特异度，故其阳性概率为 5%。现在给定一位来自该人群的人检测阳性，求其患病概率。

人群先分为有病与无病，再各分为阳性与阴性，形成四种联合状态。阳性者包括真阳性与假阳性，患病概率由真阳性在这个合并条件范围中的比例给出。按模型比例换算为 10,000 人的自然频数，如下表所示；人数表达假设比例，不是实际随机样本必须出现的计数。

来源与分支	假设人数	阳性	阴性
有病：$10000\times 0.01$	100	$100\times 0.90=90$	10
无病：$10000\times 0.99$	9900	$9900\times 0.05=495$	9405
合计	10000	585	9415

阳性者共有 585 人，其中 90 人有病，所以

$$P(\text{有病}\mid \text{阳性})=\frac{0.90\times 0.01}{0.90\times 0.01+0.05\times 0.99}=\frac{90}{585}\approx 15.38\%.$$

90% 描述有病者中的阳性构成，15.38% 描述阳性者中的患病构成。原人群的无病部分远大于有病部分，所以其中仅 5% 产生阳性，也足以形成较多假阳性。阳性预测值同时依赖检测的条件概率与原人群的患病构成，方向倒转时基率便进入计算。

若人群患病率改为 10%，保持灵敏度和特异度不变，阳性后的患病概率为 $0.09/(0.09+0.045)=2/3\approx 66.67\%$。变化仅来自两种来源的原始构成。这里把检测表现固定，是为了单独显示基率的作用；现实中的检测表现也可能随人群改变。

条件关系与因果解释

条件化不仅改变概率的数值，还可能改变独立关系。总体中独立的事件，在被筛选的子群内未必独立；给定某因素以后独立的事件，合并人群后也未必保持独立。原因在于条件化更换了比较范围及其构成。分层与辛普森悖论 与 因果识别 分别讨论这种结构对统计比较与因果判断的影响。

$P(\text{成功}\mid \text{接受处理})$ 是接受处理者中的成功概率。这些人在处理前可能已有不同的背景，条件范围就同时包含处理与人群选择的影响。因此，这一概率并非直接等于“处理导致成功的概率”；相应的因果解释还以研究设计与数据生成机制为依据。

习题

1. 公平骰子中，$A$ 为偶数，$B$ 为大于 3。求 $P(A\mid B)$，判断两事件是否独立。
2. 两事件互斥且概率分别为 0.3、0.4。它们是否独立？如果其中一个事件概率为 0 呢？
3. 教学检测的患病率为 1%、灵敏度 90%、特异度 95%。为什么阳性者患病概率远小于 90%？请用人数说明。
4. 3 红 2 蓝的盒子，不放回抽球，给定第一球为蓝，第二球为红的概率是多少？它与第二球无条件为红的概率相同吗？

习题解答

1. $B=\{4,5,6\}$，其中偶数为 4、6，所以 $P(A\mid B)=2/3$；无条件 $P(A)=1/2$，两者不同，因此不独立。也可检查交集概率 $2/6$ 不等于 $(3/6)(3/6)$。
2. 两个概率均为正时不独立：交集概率为 0，概率乘积为 0.12。若其中一个事件概率为 0，则交集概率与乘积均为 0，可满足独立定义；这时不能用给定该零概率事件的比值公式。
3. 按 10,000 人换算，真阳性只有 90，而假阳性有 495，因为无病者有 9900 人。阳性组的分母为 $90+495$，故患病比例约为 15.38%；90% 使用的是有病者分母 100。
4. 第一蓝取走后剩 3 红 1 蓝，所以概率为 $3/4$。无条件第二球红的概率为 $3/5$，可按第一红、第一蓝两条路径求得 $(3/5)(2/4)+(2/5)(3/4)=3/5$。条件与无条件不同，体现不放回抽取的依赖。

---

上一篇：04 概率公理与计数 · 下一篇：06 随机变量与分布函数 · 返回课程导航

相关概念：随机抽样与随机分配 · 概率与似然。