概率统计中的记号区分了几类对象:可能发生的事件、随抽样变化的数据、固定但未知的参数,以及由数据构造的估计量。公式在这些对象之间建立关系,其概率解释还依赖抽样设计与模型条件。下文按从概率模型到统计推断的顺序汇集常用表达式,并说明它们的数学含义。
主要记号
| 符号 | 含义 | 解释条件 |
|---|---|---|
| 样本空间、事件 | 事件是集合 | |
| 随机变量、某个取值 | 大写常表示抽样前的随机性 | |
| 质量函数、密度、分布函数 | ||
| 参数、估计量/估计值 | 参数固定,估计量随抽样变化 | |
| 总体均值方差、样本均值方差 | 总体均值、有限方差的存在需相应矩有限 | |
| 样本量、标准误 | 需对应独立信息单位 | |
| 零/备择假设、显著性水平 | 备择和方向应在看结果前确定 | |
| 回归系数、线性预测子、链接 | 解释依赖编码、尺度与其他变量 |
概率与矩
给定一个已发生的条件事件,计算范围缩小到该事件之内。条件概率的分子是同时满足条件与目标的交集概率,分母则将新的范围归一化:
分母必须为正,这使条件范围具有可用于重新比较的概率。独立要求 ,说明联合概率能够分解;互斥要求 ,说明两个事件的交集为空。两者分别约束概率关系和集合关系。贝叶斯公式通过同一个联合概率转换条件方向,全概率则按互斥来源汇总,详见 第 05 章。
期望是按概率加权的平均。离散模型使用求和,具有密度的连续模型使用积分;方差进一步概括数值围绕该平均的平方偏离:
有限期望要求绝对可积,有限方差要求二阶矩有限。上述方差表达式由平方偏离展开后取得,不能在相关矩不存在时直接套用。
在相应条件下,,。平移改变中心而不改变散布,尺度变换则按平方改变方差。两变量之和的方差还包含 ,表示两者共同变化的贡献。因此,期望的线性性不要求独立,方差相加却需考虑关联。关于矩和变量变换,见 第 09 章;协方差与条件矩见 第 10 章。
常用分布
分布名称概括的是结果产生的机制。固定试验次数的成功计数,与一直试验到首次成功的等待次数,具有不同的样本空间;固定观察窗口内的事件计数,与连续时间上的等待,也有不同的量纲。下表保留这些支持范围及主要参数特征。
| 模型 | 支持与概率/密度 | 均值、方差与前提 |
|---|---|---|
| Bernoulli | ; | |
| Binomial | ; | ;独立同概率试验 |
| Geometric,从 1 计 | ; | ;试验独立、成功概率固定 |
| Poisson | 整数; | ;计数机制需合适 |
| Uniform | ;密度 | |
| Exponential | ; | ;这里参数为率 |
| Normal | 全实数;钟形密度 | , |
表中的概率质量在可能取值上求和,密度则在支持区间上积分,两种运算分别恢复概率总量。端点处的概率质量与密度值也具有不同含义,详见 第 06 章。独立同概率、恒定事件率及参数化方式等生成条件,分别在 第 07 章 和 第 08 章 中展开。
估计与区间
均值是整份样本的函数,其波动与单个观测的波动不同。独立同分布且方差有限时,,使用 估计。样本标准差也随抽样变化;在正态总体中,将这种额外不确定性纳入后,得到均值的精确 t 区间:
t 临界值来自学生化均值的抽样分布。正态条件提供精确的分布依据,一般非正态数据中的应用通常依赖近似,其质量受尾部、样本量与设计影响。精确与渐近结果的区别见 第 12 章。
二项比例 的不确定性还取决于事件概率。Wilson 区间从候选概率下的标准化偏离出发,将与数据相容的候选值收集为区间。它可写成 ,其中 :
中心和半宽中的附加项来自这一候选值比较,而不是任意修补端点。Wilson 通常比普通 Wald 区间稳定,其实际覆盖率仍随 变化,未必达到名义水平。区间反演的推导见 第 14 章,实际覆盖率的计算见 仿真。
二乘二表的效应量
组内概率之差、概率之比与优势之比对应不同效应尺度。为使比较方向明确,下表以第一行干预、第二行对照,第一列成功、第二列失败表示频数。公式中的组内比例和效应量是由计数得到的样本估计,此处沿用其简写符号。
| 成功 | 失败 | |
|---|---|---|
| 干预 | ||
| 对照 |
组间没有差异时,风险比与优势比均为一。对数变换将乘法差异转换为加法,便于使用大样本近似表达不确定性。两组独立、各格计数为正且近似适当时,对数估计量的标准误为:
这些标准误中的倒数项说明,信息较少的格子会对估计波动产生较大贡献。在 log 尺度上取得区间后,对端点作指数变换即可回到比值尺度。零格使相应对数或倒数无法直接使用,小样本可能使近似较差,非独立设计则改变方差结构。效应量与区间的推导见 第 18 章。
关联检验与广义线性模型
在列联表独立模型中,联合比例由边际比例相乘形成,拟合期望频数为 。Pearson 统计量把观察与期望的偏离平方,并以期望频数调整尺度:
边际约束减少了可以自由变化的方向,得到自由度 。在适当条件下,统计量近似服从相应卡方分布;结构零、拟合参数和不同设计会改变支持范围或约束。具体论证见 第 19 章。
广义线性模型通过链接函数把条件均值与线性预测子联系起来。Logistic 模型为 ,逆链接为 ,从而使模型概率保持在允许范围内。无交互、变量以线性项进入模型且设定相应成立时,增加一单位的条件优势比为 ;概率的相对变化还需另算风险比。参数的尺度与解释见 第 23 章。
Poisson 回归常写 ,其中 是暴露量的 offset。暴露量决定相同发生率下预期计数如何随观察时间或机会增加,offset 保留了这项已知比例关系,详见 第 26 章。