如果解决方案$Ax=b$是不稳定的，矩阵是非常病态的（即，有一个非常大的条件数），并且（用 Lanczos 的话说）再多的数学技巧都不能使它稳定。您能希望的最好结果是解决一个不同的问题，即 a) 稳定 b) 为您提供足够接近的解决方案；这称为正则化。

对于线性病态问题，有两种经典方法：

1. Tikhonov 正则化替换$Ax=b$由稳定的最小二乘问题

   $$\min_x \|Ax-b\|^2 + \alpha \|x\|^2$$ 对于一些正则化参数。最小化器当然可以通过求解正规方程 $\alpha>0$ $$(A^TA+\alpha I)x_\alpha = A^Tb.$$

2. 截断奇异值分解计算奇异值分解 其中和的列分别包含左右奇异向量，是包含奇异值的对角矩阵（通常按顺序排列）量级递减）。由于和是单一的，因此的逆（如果存在）由。病态性表现为存在非常小的奇异值，因此

   $$U \Sigma V^T = A,$$ $U$$V$$\Sigma$$U$$V$$A$$A^{-1}=V\Sigma^{-1} U^T$$A$$\Sigma^{-1}$会非常大，放大小的扰动（例如，由于有限的数值精度）。顾名思义，通过忽略这些小条目来恢复稳定性，即将替换为 其中 并设置 $\Sigma^{-1}$$\Sigma_{\alpha}^{-1}$ $$[\Sigma_{\alpha}^{-1}]_{ii} = \begin{cases} \Sigma_{ii}^{-1} & \text{if } |\Sigma_{ii}| > \alpha \\ 0 &\text{else} \end{cases}$$ $$x_\alpha = V\Sigma_{\alpha}^{-1} U^T b.$$

在这两种情况下，您都需要专门为您的问题选择以获得好的结果。您可以从计算代表的 SVD 开始，然后查看奇异值以查看是否有明确的阈值。$\alpha$$A$