是否可以将训练结果用作另一个特征并重新训练?

数据挖掘 机器学习 集成建模
2022-02-16 02:13:49

是否可以将训练结果用作另一个特征并重新训练?
例如,我使用分类进行预测
并将此结果添加到表中并训练 xgboost?

1个回答

可以,但是有两个问题:

  • 真的有用吗?如果只是将预测添加到它所基于的特征中,则不太可能提高性能。然而,在某些情况下这是有用的,例如堆叠学习者
  • 您需要将训练集分成两部分 t1 和 t2:
    • t1 是用于生成第一个模型的常规训练集
    • t2 是用于预测新“特征”并使用此新特征训练第二个模型的数据。

对两个模型使用相同的训练集是一个坏主意,因为第二个模型中使用的预测将在训练集上获得,所以它们会不切实际地好。