我的神经网络没有学到任何东西

数据挖掘 神经网络 深度学习
2022-03-08 00:06:29

我尝试为分类问题训练卷积神经网络。但是,我的神经网络没有学习任何东西。它只猜测两个标签并忽略其余标签。尽管我尝试训练以过度拟合我的神经网络,但损失函数根本没有减少。我尝试让我的网络深入到 12 层的卷积神经网络,以过度拟合子采样数据。但是,它不起作用。你有什么建议看什么吗?

3个回答

确保在训练时以随机顺序传递数据。看起来您一次传递一个类的所有图像,然后传递下一个类等。随机播放图像并以随机方式传递它。

训练 DNN 时可能会出错的事情有很多,在您解决实际问题之前,大量简化您的入门网络/数据通常很有帮助。

如果没有关于您的设置等细节的更多信息,我建议您尝试的第一件事是让您的网络过度适应随机噪声。不要让它变深!如果您的设置首先是犹太洁食,您要确保其他一切。

所以:创建一个带有标签的随机噪声数据集,或者提取一个小的(< 50)左右的图像作为你的开发集,并在一开始就尝试过度拟合,使用一个大大简化的网络。这应该永远是你的第一步。

您的模型的这种行为背后可能有很多原因。但是,我列出了一些我从我的经验中发现的。

确保您的数据不包含任何缺失值。如果您使用 Keras 训练您的模型,那么它不会在缺少值(nan 值)的情况下抛出错误消息。在将其馈送到网络之前,请仔细检查所有输入值。

其次,我建议尝试更改学习率并检查您的准确性是否在增加。

在某些情况下,在处理我们的数据时,会在某些特征中生成 nan 值,从而导致此类问题。