仅使用决策树构建的增强算​​法?为什么?

数据挖掘 机器学习 集成建模 助推
2022-02-24 01:58:20

我对 boosting 的理解只是顺序训练模型并从以前的错误中学习。

可以用一堆逻辑回归构建提升算法吗?还是逻辑回归+决策树?

如果是,我想了解一些深入探讨该主题的论文或书籍。

1个回答

提升不限于基于树的模型。在此处查找更多信息:

P. Bühlmann, T. Hothorn (2007),“提升算法:正则化、预测和模型拟合”,统计科学 22(4),p。477-505。

我在此 R-code中的上述论文的第 3.3 节(第 483 页)中实现了 L2 线性回归增强你可以用 logit 模型替换 L2 模型,看看它是如何工作的。