我正在解决 Nocedal & Wright 的数值优化第 2 版第 303 页练习 11.7 中给出的问题：

考虑一种线搜索牛顿法，其中步长 $\alpha_k$被选为评价函数的精确最小值 $f(\cdot)$; 那是，

$$\alpha_k = argmin_\alpha [f(x_k-\alpha J^{-1}(x_k)r(x_k))]$$

证明如果$J(x)$在解中是非奇异的$x^*$， 然后 $\alpha_k\rightarrow 1$作为$x_k\rightarrow x^*$.

在这个问题中，我们寻求$x^*$这样$r(x^*)=0$， 在哪里$r:R^n\rightarrow R^n$并使用评价函数$f(x)$用直线搜索全局化牛顿法的收敛性。

我正在尝试自己解决这个证明，但我遇到了一些困难。首先，我明白牛顿方向$\Delta x_k =-J^{-1}(x_k)r(x_k)$是下降方向。此外，如果我们（理论上）选择步长$\alpha_k$如上所述，那么新的步骤应该满足充分减少条件（Armijo 条件）：

我知道在实践中，我们尝试使用完整的牛顿步$\alpha_k=1$第一的。如果牛顿步骤没有产生足够的减少，那么我们向后搜索直到满足足够的减少。我认为雅可比非退化的事实意味着周围存在一个球$x^*$这样完整的牛顿步总是满足 armijo 的条件。因此，随着我们越来越接近根，牛顿步足以确保足够的减少。但是，我不完全确定是否存在这样的球。

我也试过假设$\alpha_k\rightarrow a\ne1$作为$x_k\rightarrow x^*$，但对我来说，寻找一个矛盾有点神秘。

对此的任何帮助将不胜感激！:)