机器算法验证 - Beta分布的第二时刻 - 吾爱随笔录

Beta分布的第二时刻

机器算法验证自习矩量法

2022-03-18 13:01:56

我正在练习矩量法，在这个问题中，我在计算二阶矩时有点卡在代数上。我真诚地感谢任何关于出了什么问题的建议：

令的随机样本的矩量估计方法 $X_1, \dots X_n$ $Beta(\alpha, \alpha)$ $\alpha$

我的尝试：

E (X) = \frac{α}{α + α} = \frac{α}{2 α} = \frac{1}{2}

$E(X) =\frac{\alpha}{\alpha + \alpha} = \frac{\alpha}{2\alpha} = \frac{1}{2}$

并且由于估计量不能是常数，我们需要找到第二个时刻（这是正确的逻辑吗？）：

E (X^{2}) = \frac{(α + 1) α}{(α + α + 1) (α + α)} = \frac{(α + 1) α}{(2 α + 1) (2 α)} = \frac{(α + 1)}{(4 α + 2)}

$E(X^2) = \frac{(\alpha + 1)\alpha}{(\alpha + \alpha + 1)(\alpha + \alpha)}= \frac{(\alpha + 1)\alpha}{(2\alpha + 1)(2\alpha)}=\frac{(\alpha + 1)}{(4\alpha + 2)}$

代数看起来是正确的还是我做错了什么？

另一个问题是，在这里找到第二个时刻就足够了吗，还是您建议也找到方差？

2个回答

我猜您的意思是正确的，即第一个时刻不允许您应用将总体矩与您要估计的参数的函数相等的矩量法策略，因为矩条件在这里不能识别参数.

这在 beta 分布的参数彼此相等时的平均值的情况下是直观的，因为平均值（如您所示）然后总是等于，无论生成什么数据，所以数据不会提供有关的信息。或者，从更积极的角度来看：如果参数相同，则不需要数据来找到分布的均值。 $1/2$ $\alpha$ $\alpha$

您可以使用或来估计 - 这突出了一个事实，即矩量法估计器不是唯一的。在这里使用方差似乎很方便，因为可以很容易地求解得到 $E(X^2)$ $Var(X)$ $\alpha$

V a r (X) = \frac{1}{8 α + 4},

$Var(X)=\frac{1}{8\alpha+4},$

α

$\alpha$

α = \frac{1 - 4 V a r (X)}{8 V a r (X)}

$\alpha=\frac{1-4Var(X)}{8Var(X)}$

为 alpha求解当然也不难，导致由于矩量法估计器通常是一致的，使用这些表达式的估计器当然会在大样本中产生相似的值，但在数值上并不等价：

E (X^{2}) = \frac{α + 1}{4 α + 2}

$E(X^2)=\frac{\alpha + 1}{4\alpha + 2}$

α

$\alpha$

α = \frac{1 - 2 E (X^{2})}{4 E (X^{2}) - 1}

$\alpha=\frac{1-2E(X^2)}{4E(X^2)-1}$

X <- rbeta(10000, shape1 = 2, shape2 = 2)
Xbarsq <- mean(X^2)
VX <- Xbarsq - mean(X)^2

> alpha1 <- (1-2*Xbarsq)/(4*Xbarsq-1)
[1] 2.033679

> alpha2 <- (1-4*VX)/(8*VX)
[1] 1.986139

遵循@Glen_b 的建议以考虑采样分布，基于方差的 MoM 估计器似乎确实更有效。

以下是来自蒙特卡洛研究的核密度估计：

应该可以通过 delta 方法计算两个估计量的渐近方差，但我将其留给其他感兴趣的读者:-)。

您的方法（即您决定查看第二个时刻的逻辑）看起来是正确的。

你的代数看起来也是正确的。

没有必要计算任何进一步的矩来估计但是一旦你有了一个估计器，通常有兴趣计算它的方差（如果可能的话，估计器的抽样分布） $\alpha$

其它你可能感兴趣的问题

上一篇随机森林和 LASSO 回归都给出了不同的变量重要性下一篇如何为内核回归选择合适的带宽？