计算科学 - 雅可比几乎是奇异的时的非线性求根 - 吾爱随笔录

我正在尝试解决系统非线性方程：

\frac{\partial K (λ)}{\partial λ_{i}} - c_{i} = 0

$\frac{\partial K(\mathbf{\lambda})}{\partial \lambda_i} - c_i = 0$ 为了

i = 1, \dots, 15

$i = 1, \dots, 15$ ，使用牛顿法：

λ^{k + 1} = λ^{k} + p^{k + 1}

$\lambda^{k + 1} = \lambda^k + p^{k+1}$

p^{k + 1} = - J (λ_{k})^{- 1} (\nabla_{λ} K (λ_{k}) - c) .

$p^{k+1} = - J(\lambda_k)^{-1} \big (\nabla_\lambda K(\lambda_k) - \mathbf{c}\big ).$ 我知道雅可比在我的问题中必须是正定的，但在实践中它的条件通常很差（

k (J) \approx 10^{15}

$k(J) \approx 10^{15}$ ）。我正在扰乱它的特征值，但该算法仍然无法满足收敛标准：

| \frac{\partial K (λ)}{\partial λ_{i}} - c_{i} | = 0

$\bigg |\frac{\partial K(\mathbf{\lambda})}{\partial \lambda_i} - c_i \bigg |= 0$ 对于一些方程，而另一些方程收敛得很快。增加迭代次数不会改变任何事情。

我的主管建议我使用一个阻塞方案，如果某些方程已经收敛，你继续迭代那些没有收敛的方程。我不太明白如何在一组方程上使用牛顿算法，所以我想问一下是否有人知道如何做到这一点。或者，我将不胜感激有关如何处理此问题的建议。

谢谢！

编辑：

我必须补充一点，我正在使用带有目标函数的线搜索：

f (λ) = K (λ) - λ^{T} c

$f(\lambda) = K(\mathbf{\lambda}) - \mathbf{\lambda}^T \mathbf{c}$ 这应该没问题，因为它是凸的（理论上虽然因为 Hessian 几乎是奇异的）。我正在检查该步骤是否足够降低目标，即我检查：

f (λ^{k} + α p^{k}) < f (λ^{k}) + γ α (\nabla_{λ} K (λ_{k}) - c)^{T} p^{k}

$f(\lambda^k + \alpha p^k) < f(\lambda^k) + \gamma \, \alpha \, (\nabla_\lambda K(\lambda_k) - \mathbf{c}\big )^T p^k$ 和

γ = 10^{- 4}

$\gamma = 10^{-4}$ . 如果条件不成立，我除

α

$\alpha$ by 2. 大多数情况下，第一步的条件为真，所以我很少需要减半。

编辑 2

如果我使用 QR 分解来求解线性系统，它似乎正在收敛，而不扰乱 $J$ . 不确定我是否应该相信输出！