如果我们要解决非线性最小化问题

$$\min_{x} f(x),$$

做出最小二乘假设并使用 Gauss-Newton 方法，以便在第 k迭代时我们有：$th$

$$J_k^T J_k p_k = - J_k^T r_k,$$

向量为残差，矩阵雅可比矩阵。$r$$J$

然后我们通过以下方式更新$x$

$$x_{k+1} = x_k + \alpha p_k,$$

其中$\alpha \in (0, 1]$

问题是如何找到使得$\alpha$$f(x_{k+1}) = min$

换句话说，考虑到和计算成本高且高度非线性，什么样的步长计算策略足够好？$f$$f'$

我知道用多项式近似这个问题的方法，例如在二次近似的情况下：

$$p_0 + p_1 \alpha + p_2 \alpha^2 = min$$

其中$p_0 = f(x_k), p_1 = f'(x_k), p_2 = f(x_k + \alpha p_k)$

但我想知道还有哪些其他选择可以尝试？有人可以指出一个很好的概述或简短地写下不同的技术。