有偏见的学习者和无偏见的学习者有什么区别?

数据挖掘 机器学习 神经网络 深度学习
2022-02-04 15:22:55

我是机器学习的新手,我愿意更好地了解有偏见的学习者和无偏见的学习者之间的区别是什么?任何人都可以提供一些例子吗?

2个回答

在您所说的上下文中存在偏见意味着您的模型过度拟合训练数据并且不能很好地概括。这意味着您的模型在训练数据上表现非常好,但在交叉验证和测试数据上表现不佳。习惯上说有偏见的学习者会记住训练数据,这是真的。有偏见的学习者不学习数据,他们适应数据。要了解偏见的其他用法,请查看此问题

有一点可能值得一提。您可能听说过有人说您的模型存在高偏差问题。这只是意味着您的模型无法学习训练数据,而有偏见的学习者过度拟合训练数据,意味着拟合训练数据。后者不能泛化好,因为它已经拟合了训练数据,记住了它,前者不能泛化,因为它连训练数据都没有学习,所以它没有学到那么多,不能泛化。

简而言之,Inductive bias是设计者放入的一个bias,让机器可以预测,如果我们没有这个bias,那么任何有“biased”或者你可以说和training set不同的数据都不能分类.

无偏见的学习者无法预测任何事情,它要求新数据具有与训练数据之一相同的属性。相反,有偏见的学习可以预测。例如,Find-S 算法可以预测任何新实例为正或负,另一方面,Candidate-Elimination 算法也可以预测,只要版本空间中的所有假设都是一致的,这意味着每个假设都告诉你相同的结果结果是肯定的还是否定的,但有时会不一致。在这种情况下,您的一些假设告诉您它是积极的,而另一些则告诉您结果是否定的。原因是候选消除算法的归纳偏差不能完全代表假设空间。