所以我正在学习深度学习。我首先了解了堆叠式自动编码器，现在我正在学习受限玻尔兹曼机。然而，在我阅读的论文/教程中，我发现它们激发了人们为什么要使用 RBM 而不是自动编码器。那么 RBM 相对于堆叠式自动编码器的优势是什么？什么时候应该使用 RBM 或自动编码器？
受限玻尔兹曼机是否优于堆叠式自动编码器？为什么？
机器算法验证
神经网络
深度学习
自动编码器
受限玻尔兹曼机
深度信念网络
2022-04-12 21:05:30
1个回答
自动编码器通常具有许多隐藏层。这给常见的反向传播式训练方法带来了各种问题，因为反向传播的误差在前几层变得非常小。
一种解决方案是进行预训练，例如使用接近最终解决方案的初始权重。一种预训练技术像 RBM 一样处理一组两层，以获得一组好的起始权重，然后使用反向传播对其进行微调。RBM 在这里很有用，因为对比分歧不会遇到与反向传播相同的问题。