减少回归分类

数据挖掘 分类 回归 损失函数
2022-03-04 12:09:16

如果将回归问题简化为分类,最小化分类损失是否会转化为最小化回归误差并因此获得更好的回归性能?

3个回答

不,最小化分类损失不会转化为最小化回归误差,也不会产生更好的回归性能。

这是 Measure Theory 的核心租户。回归测量比率、区间或序数尺度上的结果变量。分类在名义尺度上测量结果变量。您总是可以从更复杂的尺度(即比率、区间或序数)到更简单的尺度(即名义)。不能保证返回。这在技术上称为非内射映射

一种思考方式是,您正在选择一种下采样方案来将数据从回归映射到分类,并且从分类到回归有许多可能的映射。无法保证使用了哪个映射。下采样后,数据必须保留在较低的采样空间中。

我猜你已经从你的数字目标变量中做了一些桶。

我会回答你的问题,因为在正确的桶中(“最小化分类损失”)意味着更接近目标值(“最小化回归误差”)。

嗯,这就是我对它的理解。要评估 ML 性能指标,请考虑以下事项。

对于分类,您可以使用。

Classification Accuracy
Log Loss
Area Under ROC Curve
Confusion Matrix
Classification Report

对于回归,您可以使用。

Mean Absolute Error
Mean Squared Error
R^2

有关所有详细信息,请参阅下面的链接。

https://machinelearningmastery.com/metrics-evaluate-machine-learning-algorithms-python/