最大化受约束的分布的方差

机器算法验证 分布 实验设计
2022-04-02 03:20:41

假设随机变量的分布支持的约束来最大化它的方差X[0,1]Prob{X[0,1]}=1E[X]=μ[0,1]

我的直觉是,这将是的两点分布,但它的正式证明必须涉及变分法......让我们温和地说我对此感到生疏。Prob[X=0]=1μ,Prob[X=1]=μ

我也认为这个问题可能出现在实验设计中:如果 是一个实验的设计变量,需要尽可能精确地估计回归线,那么这些估计的方差是,我对我的 DOX 课程的回忆是,最佳设计是两点设计,支持范围的极端。XY=a+bX+errorσ2(XX)1

2个回答

我想我可以为三点分布开发一个部分答案。假设我有对于一些固定 所以(必须应用一些合理的条件才能使解正确,;我不会打扰并假设满足这些条件)。那么 现在将其视为的函数,我们看到所以Prob[X=0]=p0,Prob[X=1]=p1Prob[X=a]=pa,p(0,1)

E[X]=ap+p1=μ,
p1=μap,p0=1pμ+ap0p0,p11
V[X]=a2p+p1μ2=a2p+μapμ2=(a2a)p+μ(1μ).
pa2a<0a(0,1)V[X]随着的减小而增加,因此在边界值处最大化(即,两点分布)。pp=0

因为是凸的,所以我们有 )因此我们得到了界 对于所有随机变量f(x)=(xμ)2f

f(x)=f((1x)0+x1)(1x)f(0)+xf(1)
x[0,1]
Var(X)=E(f(X))E(1X)f(0)+E(X)f(1)=(1μ)μ2+μ(1μ)2=μ(1μ)
X[0,1]E(X)=μ

对于问题中的两点随机变量我们有因此,界限是尖锐的,两点分布确实使方差最大化。XP(X=0)=1μP(X=1)=μVar(X)=E(X2)μ2=(1μ)02+μ12μ2=μ(1μ)

[我怀疑以上是红衣主教对问题的神秘评论所暗示的。]