第一章 数值计算的误差

1.1 数值分析介绍

• 科学计算：计算机与数学结合，解决科学/工程/经济问题。

• 数值分析：设计高效可靠的数值算法，分析其误差、稳定性和收敛性。

• 科学计算三要素：

  • 实际问题 → 数学模型 → 数值算法 → 计算机求解

• 举例：

  • 线性方程组求解（《九章算术》）

  • 人口预测（插值与拟合）

  • Google PageRank（矩阵特征值）

1.2 数值计算中的误差

误差来源

• 模型误差：数学模型与实际问题之间的差异（通常忽略）

• 观测误差：输入数据的测量误差

• 截断误差：用有限项近似无穷过程（如泰勒展开截断）

• 舍入误差：计算机浮点数表示引起的误差

误差的基本概念

• 绝对误差： $e^{\ast }=x^{\ast }-x$

• 绝对误差限： $|e^{\ast }|\le {\epsilon }^{\ast }$

• 相对误差： $e_r^{\ast }=\frac{x^{\ast }-x}{x}$

• 相对误差限： $|e_r^{\ast }|\le {\epsilon }_r^{\ast }$

有效数字

• 定义：若误差限为某一位的半个单位，则该位到第一位非零数字之间的位数为有效数字位数。

• 四舍五入得到的数字是有效数字

• 定理：有效数字位数与相对误差限的关系：

  • 若近似值 $x^{\ast }$ 具有 n 位有效数字，则其相对误差限满足

    $${\epsilon }_r^{\ast }\le \frac{1}{2a_1}\times 10^{-(n-1)}$$

    其中 $a_1$ 是 $x^{\ast }$ 的第一位非零数字。

  • 反之，若

    $${\epsilon }_r^{\ast }\le \frac{1}{2(a_1+1)}\times 10^{-(n-1)}$$

    则 $x^{\ast }$ 至少有 n 位有效数字。

• 证明： 设 $x^{\ast }=\pm a_1.a_2\cdots a_n\cdots \times 10^m$，其中 $a_1\ne 0$。

  1. 必要性：若 $x^{\ast }$ 有 n 位有效数字，则绝对误差限 ${\epsilon }^{\ast }\le \frac{1}{2}\times 10^{m-n+1}$。于是

     $${\epsilon }_r^{\ast }=\frac{{\epsilon }^{\ast }}{|x^{\ast }|}\le \frac{\frac{1}{2}\times 10^{m-n+1}}{a_1\times 10^m}=\frac{1}{2a_1}\times 10^{-(n-1)}.$$

  2. 充分性：若 ${\epsilon }_r^{\ast }\le \frac{1}{2(a_1+1)}\times 10^{-(n-1)}$，则

     $$|x-x^{\ast }|\le {\epsilon }^{\ast }=|x^{\ast }|{\epsilon }_r^{\ast }\le (a_1+1)\times 10^m\times \frac{1}{2(a_1+1)}\times 10^{-(n-1)}=\frac{1}{2}\times 10^{m-n+1}.$$

     由有效数字定义，$x^{\ast }$ 至少有 n 位有效数字。

NOTE

证明中利用了$|x^{\ast }|$的放缩。

误差估计

• 一元函数误差估计： $\epsilon (f(x^{\ast }))\approx |f^{\prime }(x^{\ast })|\epsilon (x^{\ast })$

• 多元函数误差估计： $\epsilon (f(x^{\ast }))\approx {\sum }_{k=1}^n\left|\frac{\partial f(x^{\ast })}{\partial x_k}\right|\epsilon (x_k^{\ast })$

---

1.3 误差分析与数值稳定性

误差分析方法

• 向前误差分析：输入误差对输出的影响

• 向后误差分析：输出误差反推输入扰动

  • 是比较有效的方法

• 区间误差分析：用区间运算估计误差范围

• 概率分析法：将误差视为随机变量

NOTE

定量分析工作量大，得到的误差界往往不太实用。

目前在数值计算中更关注的是误差的定性分析。

数值问题的适定性

• 存在解、唯一解、解连续依赖于数据 → 适定

• 否则为 病态问题

条件数

• 定义： $C_p=\left|\frac{x{f}^{\prime }(x)}{f(x)}\right|$

• 条件数 > 10 → 病态问题

• 病态是问题本身的属性，与算法无关

算法的稳定性

• 定义：若计算过程中误差不增长，则算法稳定；否则不稳定。

• 例：递推公式 $S_n=\frac{1}{n}-5S_{n-1}$ 误差放大 → 不稳定

• 改进：反向递推，误差衰减 → 稳定

避免误差扩大的技巧

1. 避免相近的数相减（有效数字损失）

2. 避免大数吃小数（求和时从小到大）

3. 简化计算步骤（减少运算次数）

4. 选择稳定算法（如反向递推）

5. 秦九韶算法（多项式求值，减少乘法次数）

---

思考与链接

• 与第二章 函数插值联系：插值多项式的误差估计与稳定性

• 与第四章 数值积分联系：数值积分的截断误差与稳定性

• 与第七章 非线性方程数值解法联系：迭代法的收敛性与误差控制