后验和样本量

机器算法验证 贝叶斯 数理统计 后部
2022-04-21 03:55:10

假设我们有一个二维参数和一个先验分布让我们的样本来自均值和方差的正态分布。先验使得后验不正确,即对于大于 1 的样本量,我相信后验仍然不合适,但是否存在后验适用于较大样本的情况?θ=(μ,σ2)p(θ)μσ2

p(θ)p(x|θ)dθ=.

2个回答

后验(通常)将是样本大小的函数。确定后验适当性的一种方法是检查未定义后验参数的相同大小。下面的例子就是这样一种结构。

X1,,XnN(θ,σ2)为简单起见,让固定(你可以在上放置一个正常的先验)并让有先验对于一些那么的先验是不正确的。θ=0θσ2π(σ2)(σ2)ssσ2

后验可以通过

π(σ2|x)=f(x|σ2)π(σ2)(σ2)si=1n(σ2)1/2exp{xi22σ2}=(σ2)n/2+s+11exp{xi22σ2}

因此后验分布是 Inverse Gamma,只有当(n/2s1,xi2/2)

n2s1>0.

因此对于,当时合适s=0n=1n3

无论样本量有多大,先验仍然不正确的简单示例如下:π(α)=exp{α2}和样本 iidE(α)[由于指数分布和卡方分布几乎相同,这相当于平均值设置为零时的正常情况] 然后

π(α|x1,,xn)αnexp{αixi+α2}
无论如何都不会集成n是。

混合分布提供了一个更现实的例子:例如,从

45N(0,1)+15N(μ,σ2)
并采取不适当的先验π(μ,σ)=1/σ. 对于任何样本量n后面的(μ,σ)仍然不合适。