您需要考虑一阶优化过程的两个步骤，以了解二阶方法为何有用。（为了更清楚，我们将在一维中工作）。

第一步：计算导数并相应地移动您的评估点。然后，第二步：计算导数并相应地移动您的评估点。如果第二步中的导数比第一步大/小，那么您在第二步中的移动量将比在第一步中少/多。因此，沿路径的导数变化率会影响步长的变化。因此，如果您在第一步中获得了有关导数变化率的信息，最好将其直接纳入您的第一步计算中。最后，二阶导数可能能够找到更合适的步长，这是相当直观的。

实际上，它有点复杂，因为性能的实际增益取决于如何计算/近似二阶导数。（见这里）