关于没有免费午餐定理的澄清

机器算法验证 机器学习
2022-03-24 03:20:11

所以我最初认为 NFL 定理意味着擅长在一个问题域中学习的算法必然不擅长在不同的问题域中学习。但是,在仔细阅读之后,我现在认为这意味着擅长学习问题域中特定实例的算法必然不擅长学习同一域中的不同实例。

举个例子(取自我的认知科学领域),我最初认为 NFL 意味着一个擅长学​​习自然语言语法的算法将不擅长学习,比如说,存在哪些类型的对象世界。但是,如果我对这个定理的新理解是正确的,那真的意味着一个特别擅长学习英语语法的算法将不擅长学习阿拉伯语的语法。

这是在正确的轨道上吗?

1个回答

据我了解 NFL 定理,模型能够胜过一般模型的唯一方法是使用与问题相关的预定义知识/结构。这些先前的假设将导致专业模型在其他非专业模型上的平均表现最差。

这并不完全准确,仅以您的示例为例:用于分类阿拉伯文档的模型可以比一般语言分类模型表现更好,但它在英语、法语、西班牙语、希伯来语等方面的性能会比一般模型差.