一份样本给出一个点估计,另一份样本却可能给出不同数值。参数固定而估计变化,因此参数的未知程度不能由单个估计值完整表达。如果某个候选参数能够产生与观测相近的结果,它就仍与数据相容;将符合一定标准的候选参数汇集起来,可以得到一个区间。

区间的依据来自抽样分布,准确性则由重复抽样中的覆盖率描述。Wilson 比例区间和正态均值的 区间虽然形式不同,都建立了观测结果与候选参数之间的关系。近似、离散性以及观测之间的依赖,会影响这一关系的覆盖性质。

从点估计进入区间估计,需要把抽样分布与标准误纳入推理。下面两个构造都使用正态分布及其相关分布的分位点,但这种计算并不改变频率学派中参数固定、样本随机的设定。

置信区间与覆盖率

设未知参数为 ,区间的下限 和上限 都由样本决定。对于给定模型与抽样设计,如果

所得程序便具有 覆盖率。重复进行相同研究,参数保持固定,样本与区间端点却不断变化;生成的区间中,约 会包含真实参数。这一长期比例衡量区间构造方法的准确性。

数据确定后,区间端点也随之固定,此区间已经包含或没有包含真实参数。 仍是构造程序的长期覆盖率,不能转为固定参数落在这个已知区间中的概率。贝叶斯可信区间之所以能具有参数概率的解释,是因为先验和后验模型为参数建立了另一套概率结构。

实际覆盖率不一定与名义水平恰好一致。近似方法的覆盖率可能随参数和样本量变化,未必处处达到 ;离散数据的精确方法又可能偏保守。名义上的 因而是方法的目标水平,实际表现仍由相应分布和近似决定。

例如,“在独立二项抽样假设下,成功率估计为 ,Wilson 置信区间为 至 ”,同时给出了目标参数、方法和抽样假设。“有 把握”若脱离这些对象,就难以确定所指的概率性质。

比例的 Wald 区间

独立二项样本中的样本比例为 。将未知成功概率替换为观测比例,得到标准误估计

将这一标准误用于正态近似,得到 Wald 区间 。比例处于中间范围且样本充分时,近似可以提供粗略的精度描述;样本小或比例接近 、 时,观测比例对标准误的替代可能导致很差的覆盖率。

边界样本尤其能说明问题。 人中零人成功时,,代入的标准误为 ,Wald 区间退化成 。然而,真实成功率为 时,全部失败的概率仍为 。零成功并不排除这样的正成功率,退化区间却把它排除在外。

将负端点截成 、大于 的端点截成 ,只改变区间显示的范围,没有改变它在重复抽样中遗漏真实参数的概率。Wilson 区间和适当的精确方法提供了不同的构造,因此通常更适合作为比例推断的起点。

比例的 Wilson 区间

二项模型不仅给出候选成功率 ,还给出样本比例在该模型下的波动。比较 与 时,以候选模型中的 计算标准误,便能判断观测离这个候选值有多少个标准误。Wilson 方法将不超过临界距离的候选参数保留下来;Wald 方法则预先把观测比例 代入标准误,忽略了这项参数依赖。

上式用于严格介于 0 与 1 之间的候选概率。改写为下述二次不等式后,端点 0 与 1 也可直接判定:它们分别对应全失败和全成功的退化二项模型,只有观测结果与相应退化模型一致时才被保留。所有保留的 构成参数区间。这种构造称为检验反演:每个候选值都对应一次相容性判断,所有未被排除的值组成区间,与假设检验使用同一参照关系。

把两边平方,将分母移到右侧,再把各项按 的次数整理,得到二次不等式:

二次项系数为正,满足不等式的值位于两个根之间。把两根写成中心加减半宽的形式,得到

因此,Wilson 区间为 。相较于直接围绕样本比例作对称区间,它的中心略向 移动,半宽中还有额外一项。即使观测比例处在边界,这一项仍保留了不确定性,区间不会退化成单点。

教学实验中对照组的区间计算

  1. ,。
  2. 分母 。
  3. 中心为 。
  4. 根号内为 。
  5. 半宽约 ,最终区间约 。

同一虚构随机实验中,干预组 的 Wilson 区间约为 。两组各自的区间估计各自的成功率,而组间比较估计的是两个参数的函数,例如风险差或风险比。函数本身有自己的抽样分布,所以单组区间是否重叠不能代替差异检验。相应区间的计算见风险差、风险比与优势比。

对于 ,Wilson 区间约为 ,因而仍包含一段正成功率。Wilson 使用正态得分近似,覆盖率并非严格的小样本保证;涉及稀疏列联表或需要特定覆盖保证时,精确方法会从离散分布本身构造区间和检验。

正态总体均值的置信区间

设 独立同分布于 ,目标是未知总体均值,且总体标准差也未知。以随机量 表示样本标准差,以 表示它的观测值,均值的标准化偏离满足

标准差由样本估计,因此分母也随重复抽样变化; 只是抽样后得到的一个数值。这项额外波动使标准化偏离服从尾部较厚的 分布。由其分位点关系反演参数,得到

例如, 名独立受试者的测量均值为 ,样本标准差为 ,所以均值标准误为 。自由度 的临界值约为 ,乘以标准误得到区间半宽,均值的 区间为 。

均值区间的目标是总体均值,而新个体的数值还含有个体自身的变异。因此,即使均值估计已经精确,个体之间也可以存在较大差异;预测新个体时,将这部分波动纳入后,区间通常宽得多。

独立正态样本使上述 分布关系精确成立。总体非正态时,有限方差等条件可为中心极限定理近似提供依据,但严重偏态、厚尾、极端离群值和小样本都会影响近似质量。质量取决于分布形状与样本量的共同作用,“是否超过 ”不是充分条件。

同一人干预前后的测量彼此相关,但不同人的差值可以成为新的独立观测单位,配对区间因而建立在差值均值的抽样分布上。两独立组的均值差则依赖两组各自的方差;方差不同时通常采用 Welch 方法,合并方差需要额外的等方差假设。

区间宽度与推断范围

提高置信水平,需要保留更多可能的抽样结果,因此在相同方法与设计下会使区间变宽。样本量增加则通常使宽度按约 缩小;标准误减半往往需要约四倍的独立样本,两倍样本不足以达到同样精度。比例的波动还受 控制,在 附近最大。

区间的抽样分布来自给定模型,因此常规区间不会自动包括漏报、测量错误、选择偏差、模型错误或分析选择造成的偏离。线上志愿问卷若只覆盖愿意回答者,增加回答人数会提高对这类人的估计精度,却未必使其代表所有用户;很窄的区间仍可能围绕一个有偏的目标。

单个参数的覆盖与多个参数的同时覆盖也是不同事件。每个区间各有 覆盖率,并不保证全部区间同时覆盖的概率为 ;如果按结果大小筛选区间,原来的无条件覆盖性质也会改变。多重比较研究的就是成组结论所需的错误控制。

区间与检验的联系

置信水平属于区间构造程序,观察到的区间则是它的一次实现。端点的随机性由抽样机制产生,名义水平与实际覆盖率的差异由近似和离散性产生;它们共同决定区间推断的范围。

Wilson 区间通过候选比例下的检验关系反演,均值区间则利用枢轴量。前者保留未被排除的候选值,后者利用分布不依赖未知参数的标准化量,二者都将参数与数据在抽样分布中联系起来。这一联系也给出了检验中的极端程度与程序错误率。相关理论见 参考教材与开放课程。

习题

  1. 一个固定样本得到 置信区间 。请改写“真实比例有 概率位于其中”,并说明这个区间为何不是 个体的数值范围。
  2. 人中无人成功,为什么不能报告成功率 、区间 ?用 时零成功的概率解释。
  3. 独立正态样本 、、。求 均值区间;若相同分布下样本量变为 ,标准误约怎样改变?
  4. 两组比例的各自 区间有重叠,能否直接断言组间差异不显著?说明应计算什么。

参考解答与推理

  1. 应说该方法在相同抽样机制下重复使用,生成的区间约有 包含真实比例;本次区间是这一程序的结果。参数是总体比例,个体取值则为 或 ,两个对象不同。
  2. 时零成功的概率为 ,并不罕见。Wald 区间在观测比例为零时把估计波动错误压成零。Wilson 区间约为 ,能够表达有限样本的信息限制。
  3. 标准误为 ,使用 ,区间为 。若标准差水平相同, 时标准误约为 ,但临界值也会略变小,因此区间宽度并非机械保持其他一切不变。
  4. 不能。两个单组区间的重叠与“差异估计除以其标准误”不是同一规则。应为目标差异直接构造区间或进行相应检验,同时使用正确的独立或配对设计。

上一篇:13 点估计与似然 · 下一篇:15 假设检验 · 课程总览

相关概念:置信区间与覆盖率 · 标准差与标准误。