为什么检测相互作用的能力低于主效应的能力?

机器算法验证 方差分析 广义线性模型 统计能力
2022-03-31 19:57:15

我被教导了这个一般规则:检测模型中显着交互效应的能力小于检测模型中显着主效应的能力。我从来没有真正理解为什么会这样。 为什么拒绝交互作用的原假设的能力小于拒绝主效应的原假设的能力? 我唯一的想法是,这是由于交互模型失去了自由度,但我想知道是否还有更多的原因。

4个回答

这是信号和噪声。在寻找交互时,您正在寻找它以对抗更多噪音。

考虑在单个组中寻找平均值。只有该组的噪声会影响您对平均值的估计。

现在考虑寻找两组之间的均值差异。估计的差异受到两组独立噪声的影响。差异(信号)受到更多噪声的影响,因此我们不太可能可靠地检测到它。

现在考虑寻找均值差异的差异,即双向交互。这涉及来自四个独立组的噪音。差异的差异会受到更多噪声的影响,因此我们更不可能可靠地检测到它。

这是一个快速的概念性答案。其他人可能想提供更多技术细节......

这是纯粹的直觉。

考虑这两个函数:

f(x1,x2)=β0+β1x1+β2x2
对比
g(x1,x2)=β0+β1x1+β2x2+β12x1x2

你只需要三个观察来解决参数f(x1,x2|β0,β1,β2),但您需要对函数进行四次观察g(x1,x2|β0,β1,β2,β12)因为它多了一个参数。

功能g(.)表示具有交互项和函数的模型f(.)一个只有主效应的模型。即使你忘记了随机噪声,你也会看到g(.)需要更多的数据f(.)建立它的参数。

我不认为这是一个统计问题,而是一个世界状况问题。在大多数现实情况下,效果之间的差异小于效果本身。然而,这在统计上或逻辑上不是必需的。

互动的力量较小,因为互动通常很小。

从理论上讲,这可以用食人鱼问题来解释:统计上可观察到的相互作用很小,因为:1)只有小的相互作用是可能的,或者 2)大的相互作用是可能的,但是它们会互相冲刷掉,只留下小的可观察到的影响。

根据经验,观察到的相互作用的效应量往往非常小Aguinis, 2005是对此的经典引用。