最大似然估计的目标是什么?

机器算法验证 回归 最大似然 直觉
2022-04-04 16:32:44

我正在阅读“Econometrics for Dummies”中的“Using Maximum Likelihood Estimation”,作者是这样说的:“最大似然 (ML) 估计的目标是为估计的参数 (beta) 选择可以最大化的值用给定的 X 值观察样本中 Y 值的概率。这个概率总结在所谓的似然函数中。“(来源:http ://www.dummies.com/how-to/content/using-最大似然-ml-estimation.html )

他似乎在说,我们想找到在给定 X 值的情况下使 Y 最有可能出现的参数,但我认为目标可能是找到最有可能揭示真实 P(Y|X) 的参数。

2个回答

目标是估计参数,或者更准确地说,获得一种估计方法(因为相同形式的似然性可以应用于不同的数据集)。

选择参数估计器的方法有很多种——最大似然只是其中之一,它使用获得观察结果的概率最大的估计器作为选择标准。最大似然估计器具有许多方便的数学属性。

(|X,θ)是与预测变量相关的函数X和输出变量, 由参数参数化θ. 它的函数形式是先验选择的,并限制它与“真实”分布的接近程度(如果存在这样的“真实”分布):例如,正态/高斯函数可以很好地逼近许多分布(伽马分布、对数正态分布、等),但它永远不会揭示底层分布不正常。

哦,我想我现在明白了一点。目标是找到使我们的观察结果相似的可能性最大化的参数,如果我们采取另一个相似的样本。例如,假设我们从一个袋子中抽取 5 个弹珠,其中 3 个是黑色的。然后我们把它们放回袋子里。因此,我们的目标是找出袋子中黑色弹珠的比例,这将使我们下次抽 5 个黑色弹珠时最有可能看到 3 个黑色弹珠。