我正在使用一个全局凸的目标函数,但向下的路径(如果你愿意的话)排列着石英晶体。在这种情况下,您着陆的潜在晶体表面的偏导数的更新向量(梯度解)有时会指向上方,因此算法会将您向后抛。因此,它是一个相当颠簸的目标函数。
我想到了一种类似于遗传算法的方法,我可以在每个梯度更新中添加一个 [-0.5,0.5] 范围内的小随机值,并且还考虑过使用正交向量来解决问题:哪个维度和因此哪个正交向量?
总体而言,线搜索假设一个单调递减函数,该函数在极限内连续可微。除了使用 GA 之外,当衍生品已知时,是否还有一种更新的方法来应对崎岖不平的情况?