高斯混合密度的中心矩?

机器算法验证 正态分布 混合分布 时刻
2022-03-24 06:55:41

给定高斯混合密度的 pdf,其中第个分量具有均值和协方差矩阵以及权重计算该密度的矩和中心矩f(x)=iωiN(x;μi,Ci)iμiCiωiωiμiCi

2个回答

由于积分的线性(积分和期望的交换顺序),它很简单。 对于高阶矩和中心矩也是如此,其中被方差等的方差替换。现在因为每个通过正态性确定高阶矩,例如,第三和第四矩都可以表示为它们的函数。μ=ω1μ1+ω2μ2++ωkμkμiμiCi

你想知道的关于有限混合的任何其他信息都可以在这些书中找到(我包括 EM Algorithm 书,因为这是最常用于获取参数 MLE 的方法:

有限混合模型

EM 算法和扩展

非参数统计和混合模型:纪念 Thomas P Hettmansperger 的 Festschrift

有限混合模型的医学应用

混合模型

我用 2 个组件来说明计算。其他情况类似。使用的关键结果是 (a) E(E(X|Y))=E(X) 和 (b) V(X)= V(E(X|Y))+E(V(X|Y) )。

这里 Y 表示分量。所以 Y 取值 1 和 2,概率为 p 和 1-p。

令 E(X|Y=i) =μi和 V(X|Y=i) =σi2

现在 E(X)= pμ1+ (1-p)μ2.

V(E(X|Y))= p(μ1(pμ1+(1p)μ2)2+ (1-p)(μ2(pμ1+(1p)μ2)2简化后产生 p(1-p)(μ1μ2)2

E(V(X|Y))= pσ12+ (1-p)σ22

因此,V(X) = pσ12+ (1-p)σ22+ p(1-p)(μ1μ2)2