多重合并多重卷积

数据挖掘 深度学习 美国有线电视新闻网 lstm rnn 顺序
2022-02-13 02:23:09

(这里的第一篇文章)我对神经网络相当陌生,已经使用了几个月的 Tensorflow,并且正在寻找一些关于提高模型准确性的想法的建议。我正在查看使用具有空间丢失的 1d 卷积层和 LSTM 来寻找这些特征的空间相关性的序列。我的想法是,由于这些序列具有不同类型的特征和不同的序列长度,我可能会尝试将我的输入序列发送到具有不同窗口大小的多个 1dconv 层,然后将它们重新合并在一起。

这会有效吗?有没有办法链接这些层,以便具有较大窗口的层不会从较小窗口的层中学习模式?或者我应该用更多的过滤器使原始卷积层变大吗?

PS 我最初的想法是将每个单独的卷积与上面的 LSTM 配对,然后将它们合并到另一个带有 LSTM 的卷积中,但这在我的计算机上似乎过于复杂。

1个回答

你所描述的听起来很像inception 模块您可以使用 Keras 连接具有不同过滤器大小的卷积,作用于相同的输入,例如:

在此处输入图像描述

这会增加计算时间,但可能会给你你想要的。上图取自此处,您还可以在标题为如何实现 Inception 模块的部分中找到使用 Keras 构建此类模块的代码。