用于特征创建的自动编码器

数据挖掘 机器学习 神经网络
2022-02-23 19:06:52

当使用自动编码器创建非线性降维特征时,更常见的是使用网络的输出(输入特征的预测)还是使用来自(或如果有多个)的权重隐藏层?如果使用隐藏层,是否使用隐藏层激活作为从隐藏层到输出的特征或权重?

1个回答

当您想使用自动编码器 (AE) 进行降维时,通常会添加一个瓶颈层。这意味着,例如,您有 1234 维数据。你将它输入你的 AE,并且 - 因为它是一个 AE - 你有一个维度为 1234 的输出。但是,你可能在那个网络中有很多层,其中一个层的维度要少得多。假设您有拓扑1234:1024:784:1024:1234你像这样训练它,但你只使用1234:1024:784零件的重量。

当你得到新的输入时,你只需将它输入这个网络。您可以将其视为一种预处理。对于后期阶段,这是一个黑匣子。

当您有大量未标记的数据时,这非常有用。它被称为半监督学习(SSL)。