也许我的问题很明显,但我找不到任何好的来源来回答它
我试图了解近端梯度。我不清楚的一件事是线搜索的特定算法。根据此演示文稿(幻灯片 20)和其他一些来源,使用先前的步长回溯线搜索作为初始化是不错的选择。
我用近端梯度实现了 LASSO 的简单版本,看起来不时增加步长可以显着加快收敛速度。
所以我的问题是:在近端梯度中使用包围是个好主意吗?
(根据“Nocedal 和 Wright 的数值优化”,我使用术语“包围”来表示“寻找回溯的初始间隔”)
我的第二个问题是:LASSO/一般近端梯度的最佳线搜索算法是哪个?
对不起我的英语不好

