我正在尝试理解 MLE、MAP 和朴素贝叶斯分类器,但是如果没有一些数值示例,就很难理解这些差异。有人可以为每一个给出简单直观的数字示例,以及结果之间有何不同?
我为 MLE找到了这个示例“ http://www.math.utah.edu/~levin/M5080/mle.pdf ”。
我正在尝试理解 MLE、MAP 和朴素贝叶斯分类器,但是如果没有一些数值示例,就很难理解这些差异。有人可以为每一个给出简单直观的数字示例,以及结果之间有何不同?
我为 MLE找到了这个示例“ http://www.math.utah.edu/~levin/M5080/mle.pdf ”。
您找到一枚硬币,并想检查如果您翻转它,它会落在“正面”一侧的机会(概率)是多少。您将其翻转 10 次(10 个观察的样本)并计算落在“Heads”上的次数,例如.
您假设您刚刚所做的是来自二项分布的样本- 所以我们追求的是参数可以得到之间的值.
likelihood函数是观察的概率对于每个可能的值. 估计量是最有可能的MLE值 = 我们可以通过通常的方法找到导数为 0 的点,但log-likelihood对于应用单调递增的变换。所以记录+派生+找到这个的根源:
并得到
估计量MAP是. Bayesian estimator这些人不将视为一个简单的参数,而是将其视为另一个具有自己分布的随机变量,称为值应该是什么的先前信念。在我们的示例中,我可能倾向于相信,因为我一生中看到的大多数硬币都是平衡的(或者我是这么认为的)。所以我们假设 p 的先验是。我们的后验概率如下所示:prior distribution
记录、派生、求根并得到
Naive Bayes是一个classifier给出二元预测的。假设世界上有 2classes个硬币 - 95% 是平衡的(),5% 是被操纵的()。朴素贝叶斯将使用该先验分布,将其应用于您的样本,并帮助您确定您的硬币是否更有可能是平衡的或被操纵的。您可以将其视为 2 个类的 MAP 估计器的实例化,并选择更可能的一个。我们将平衡表示为并将操纵表示为,如果满足以下条件,我们将预测:
更多关于推论的信息。