我没有一个好的答案，但让我重新表述你们中的一些想法和问题并发表评论。

<...> 这些有什么意义$p$-每个单独系数的值？

一个$p$-value 是单独评估单个回归量的显着性时的有效工具。如果你关心是否$X_i$有一个非零的人口系数，你看看$p$- 与系数相关的值$\beta_i$在$X_i$. 如果这是您唯一的问题，那么这是一个令人满意的答案。这是个人的重点$p$-价值观。

这就是为什么我们需要查看$F$− 检验模型的整体显着性，即是否存在至少一个显着不同于 0 的系数。

是的$F$-statistic 会告诉您所有回归变量加在一起的总体系数是否为零。但这只是你感兴趣的一个特例，如果我理解正确的话。所以$F$-statistic 在这里没有用——除非它足够低，可以断定在给定的显着性水平上没有足够的证据来拒绝零。

<...> 如果我们发现有 12 个系数$p$- 值低于$\alpha$，我们可以得出结论，这 12 个系数是非零的吗？在什么置信水平？$1−\alpha$? 或者是其他东西？

您可以单独获取任何单个系数并得出结论$1-\alpha$它是非零的置信水平，但你不能对所有 12 个系数共同做到这一点$1-\alpha$置信水平。如果十二个系数的显着性检验是独立的，你可以说置信水平是$(1-\alpha)^{12}$这（相当）低于$1-\alpha$.

如果我们执行前向选择/后向消除/逐步选择，在这些方法产生的最终预测变量集中，我们可以在什么置信水平下得出相应的系数不为零的结论？

这是一个棘手的问题。这$p$-价值观和$F$-最终模型中的统计量取决于该模型的构建方式，即前向选择/后向消除/逐步选择机制。因此，它们不能按原样用于推断总体中的系数是否为零；必须调整这些值。可能存在一个程序（因为这个问题已经知道很长时间了），但我不记得任何相关的参考资料。

如果我们跑$2m$回归模型（其中$m$是预测变量的总数），这是否有助于我们至少在理论上识别非零系数集？在什么置信水平？

回想一下，所有具有遗漏变量的模型（在总体中具有非零系数的变量）都会受到遗漏变量偏差的影响，并且通常会出现“错误”$p$-values 等，因此该方法似乎有问题。

最后，请注意“不错的假设”

假设所有好的假设都成立，例如，$\epsilon$是正常的，我们有一组独立同分布的观察。

要求$\epsilon$——而不是观察$Y$和$X$——成为独立同居

运行统计算法来找到“正确”的变量几乎是徒劳的。相关的模拟在我的回归建模策略课程笔记的第 4.3 节中，网址为http://biostat.mc.vanderbilt.edu/RmS#Materials

查看任务难度的最简单方法是使用引导程序获取在多变量回归中竞争的变量的重要性排名的置信区间。同一课程笔记的第 5.4 节对此进行了演示。