我正在使用深度 CNN 来预测图像所属的类别（N 个类别）。但是，类的数量不是固定的。即随着网络的使用，一些新的类可能会出现，而另一些可能不再相关（我不需要以任何方式识别这些，但我在任何时间步都知道相关的类）。

此外，我面临的约束是我可以用于此任务的数据“消失”。这意味着，在某个时间点，我只能使用前 M 个时间步长（例如几个月）的数据，其中 M 保持不变。这禁止在这里简单地在整个数据集上重新训练网络，然后同时删除一些类/添加新类（即更改输出层的大小）。

我正在考虑使用 CNN 的特征提取部分来生成特征向量，然后在其上使用二元分类器（例如逻辑回归）。这将使我能够在一个类变得无关紧要时简单地丢弃一个二元分类器，或者在出现新类的情况下添加一个新的二元分类器。这种方法在推理阶段将花费更多时间（训练阶段并不重要），因为需要分别对每个类执行推理。不幸的是，我在推理阶段也面临着紧迫的时间限制。

因此，我想知道（A）我的想法是否普遍有意义，以及（B）是否有更优雅/高效的多类分类方法（即单个推理步骤）适用于我的特殊情况。