值与错误率都由概率表达,却处于不同的论证层次。前者评价这份数据与指定零假设的相容程度,后者评价一套检验规则反复使用时的表现。混淆这两个层次,容易把数据的尾概率解释成某次结论的错误概率。

零假设下的极端程度

检验先选定统计量、比较方向与极端程度的定义,再在零假设及相应条件下计算:重复获得的结果至少与已观测结果同样极端的概率有多大。这就是 p 值。尾部区域由检验定义决定,连续与离散模型的双侧计算也未必相同;具体讨论见 离散双侧检验。

由于整个计算以零假设为前提,p 值不表示 。它也没有把结果分成“真正作用”与“纯属偶然”两类来源,再计算后一类所占比例。它所表达的是,在假定模型及程序条件下,这类偏离有多罕见。检验与功效 将这种数据评价与拒绝规则联系起来。

单项与成组程序的错误

显著性水平 规定第一类错误的控制目标,即零假设为真时误拒绝它的概率上限。有效检验的实际拒绝率应不超过相应水平;离散精确检验可能较为保守。看过数据后再改变方向、结果变量或子组,实际执行的程序便已变化,其错误率也可能不同于最初的校准结果。

如果 20 项零假设均为真,各项拒绝事件独立,且每项实际错误率恰为 .05,至少一次误拒绝的概率为 。这里先计算全部检验均不误拒绝的概率,再取补事件。单项错误不大,整组中出现至少一次错误却可能较常见;这一等式依赖独立性与准确校准。

FWER 控制一组检验至少出现一次误拒绝的概率,FDR 则控制错误发现比例的期望。二者关注的随机对象不同,适合的科学问题也有所区别,详见 多重比较。

检验结果还需与 区间 和 效应量 一起理解。小 p 值可以来自较大的差异,也可以来自对很小差异的精确估计,不能单独回答效应是否具有实际价值。

返回 概念索引。