概率论研究随机现象的数学规律,数理统计研究如何从有限的观测中认识这些规律。设两组对象的成功比例有所不同:一次观测可以给出差异的数值,却尚不能说明这种差异在重复观察中有多大波动。要由样本中的比例讨论总体中的成功概率,必须先建立数据的概率模型,再研究比例作为统计量所具有的抽样分布。概率论与统计推断的联系,正是在这一问题中显现出来的。

对于成功与失败、不同来源、等级评价等分类变量,概率模型具体表现为各类别的概率及其随条件而变化的关系。列联表以频数呈现这些关系,风险差、风险比和优势比从不同尺度描述组间差异,分类回归则进一步讨论多种解释变量共同存在时的条件概率。理解这些方法,需要把类别编码、抽样方式、统计量和目标参数联系起来。

本教程依照这一知识次序展开。数学记号与研究设计构成起点,随机变量及其分布给出概率描述,抽样分布引出估计、置信区间与假设检验;在此基础上,讨论列联表和分类回归,并以模拟研究考察各种推断的含义与方法性质。这里的“定性数据”指统计学中的分类数据,包括二元结果、无序类别和有序等级;计数模型作为相邻主题一并介绍。

内容安排与阅读次序 讨论各部分之间的理论联系。章节由 数学语言 开始,定义与推导后附有例题、习题及参考解答。涉及复杂因果识别、依赖观测或模型扩展的问题,可在这些基础上结合专门教材进一步学习。

内容安排

概率模型给出数据的分布,由该分布可以推导统计量的抽样性质;估计与检验再以这些性质为依据,对未知参数作出推断。分类数据分析沿用相同的理论,但须具体考虑类别结构与观测之间的关系。各部分的范围如下。

部分章节主要内容
数学与数据基础01–03数学表达、变量类型、观测单位、研究设计与描述统计
概率模型04–11概率规则、条件概率、随机变量、分布、矩与极限定理
统计推断12–16抽样分布、似然估计、置信区间、检验、重抽样与多重比较
列联表分析17–21抽样模型、风险与优势、关联检验、稀疏数据、配对与分层
分类统计建模22–27广义线性模型、二分类与多分类回归、模型评价、缺失与因果识别
综合分析与方法评价28–30模拟研究、统计解释、区间覆盖、错误率与敏感性分析

章节目录

一、数学与数据基础

  1. 概率统计的数学语言:分数、函数、求和、对数与微积分直觉。
  2. 数据类型与研究设计:变量、观测单位、抽样和随机分配。
  3. 描述统计与可视化:频数、比例、分母、分布和恰当图表。

二、概率模型

  1. 概率公理与计数:事件、样本空间、组合与概率规则。
  2. 条件概率、独立与贝叶斯:条件概率、独立性、全概率与贝叶斯公式。
  3. 随机变量与分布函数:PMF、PDF、CDF 的区别与联系。
  4. 常用离散分布:二项、几何、Poisson 与超几何模型。
  5. 连续分布与密度:均匀、指数、正态及标准化。
  6. 期望、方差与变换:用平均与波动刻画随机变量。
  7. 联合分布与条件期望:相关、条件分布、全期望与全方差。
  8. 大数定律与中心极限定理:样本均值的收敛与标准化误差的极限分布。

三、统计推断

  1. 统计量与抽样分布:区分数据分布与估计量的分布。
  2. 点估计与似然:估计准则、MLE、偏差与一致性。
  3. 置信区间:区间估计、Wilson 区间与覆盖率。
  4. 假设检验:p 值、错误率、功效与结论边界。
  5. 重抽样与多重比较:bootstrap、置换、Bonferroni 与 FDR。

四、分类数据与列联表

  1. 分类数据与列联表:计数、边缘分布与抽样设计。
  2. 风险差、风险比与优势比:绝对和相对效应及其不确定性。
  3. 卡方检验:拟合优度、独立性、自由度与残差。
  4. 小样本与精确检验:Fisher、稀疏表、零格与分离。
  5. 配对、分层与辛普森悖论:McNemar、分层关联与混杂。

五、分类统计建模

  1. 从线性模型到广义线性模型:分布、线性预测子与链接函数。
  2. 二分类 Logistic 回归:系数、条件 OR、交互与分离。
  3. 模型诊断与预测评估:诊断、ROC/PR、校准与数据泄漏。
  4. 多分类与有序 Logistic:基准类别、等级信息与模型假设。
  5. 计数数据与 Poisson 回归:发生率、offset 与过度离散。
  6. 缺失数据、混杂与因果识别:缺失机制、调整策略与识别限制。

六、综合分析与方法评价

  1. 二分类研究的综合分析:数据生成机制、边际比较、条件模型与标准化。
  2. 仿真与敏感性分析:统计方法的覆盖率、错误率及其数值评价。
  3. 分类数据分析的综合习题:研究设计、参数解释、方法论证与扩展讨论。

概念与参考资料

同一概念往往出现在不同的推断方法中。例如,独立性既关系到二项分布的建立,也关系到标准误的计算;似然既可用于比例估计,也可用于分类回归。概念笔记汇集这些联系,附录补充公式、方法讨论与参考文献。

例题与资料说明

正文依据概率论与数理统计的通用理论编写,参考教材与开放课程列于附录。例题中的每组 200 人资料,以及综合分析中的 1,600 人资料,均为教学构造,并具有各自的概率设定。前者便于手算,后者用于比较模型参数、样本估计和重复抽样性质。这些数值所说明的是相应模型下的统计关系,不具有现实研究的证据地位。

正文中的链接指向相关定义、推导和应用。顺序阅读可以形成连续的理论认识;概念索引与反向链接则便于比较同一数学概念在不同统计问题中的表现。