高斯-马尔可夫假设

机器算法验证 回归
2022-03-31 13:55:18

我试图确定哪些高斯马尔可夫假设允许我们看到b1是一个无偏估计量β1. 我有一种感觉是这样的Xi不是随机的,但是我还缺少什么吗?

3个回答

高斯-马尔可夫定理实际上告诉我们,在回归模型中,我们的误差项的期望值为零,E(ϵi)=0并且误差项的方差是恒定且有限的σ2(ϵi)=σ2<ϵiϵj对于所有 i 和 j 都是不相关的最小二乘估计量b0b1是无偏的,并且在所有无偏线性估计量中具有最小方差。请注意,可能存在方差更低的有偏估计量。

有关高斯-马尔可夫定理的大量信息,例如高斯-马尔可夫定理的数学证明,请参见http://economictheoryblog.com/2015/02/26/markov_theorem/

但是,如果您想知道哪个假设是必要的b1成为一个无偏估计β1,我想必须满足以下帖子( http://economictheoryblog.com/2015/04/01/ols_assumptions/ )的假设 1 到 4,才能获得无偏估计。

β^=([inv(XX)]X)(Xβ+ϵ)
β^=β+([inv(XX)]X)ϵ

β^是一个无偏估计量β在两种情况下:

  1. X是非随机的

    E(β^)=β+E[([inv(XX)]X)ϵ]
    如果X是确定性的,这将减少为:
    E(β^)=β+([inv(XX)]X)E[ϵ]
    右手边的第二项,E[ϵ]在高斯马尔可夫假设之一下为零。

  2. X是随机的,但与误差无关(ϵ) 使用它,我们可以将等式简化为:

    E(β^)=β+inv(XX)]E[(X)ϵ]
    在哪里E[(X)ϵ]=0根据来自 OLS 属性之一的假设,E[Xe]=0.

参考:

https://web.stanford.edu/~mrosenfe/soc_meth_proj3/matrix_OLS_NYU_notes.pdf

谢谢

阿努拉格

LS-Estimator 是:

b=β+(XX)1Xe
估计量是无偏的,如果(XX)1Xe收敛到零,情况就是这样,如果设计矩阵X与误差不相关e.

因此,必要的假设是:

E[Xt,ket]=0