阅读关于广义线性模型的CS229 讲义，我想到线性回归问题可以建模为高斯分布，它是指数族的一种形式。笔记指出$h_{\theta}(x)$等于$E[y | x; \theta]$. 然而，怎么可能$h_{\theta}(x)$等于期望$y$给定输入$x$和$\theta$，因为期望需要进行某种平均？

给定 x，我们的目标是预测$T(y)$给定$x$. 在我们的大多数示例中，我们将有$T(y) = y$，所以这意味着我们想要预测$h(x)$我们学习的假设 h 的输出满足$h(x) = E[y|x]$.

为了证明普通最小二乘法是 GLM 系列模型的一个特例，考虑目标变量 y（在 GLM 术语中也称为响应变量）是连续的设置，我们将给定 x 的 y 的条件分布建模为高斯$N(\mu,\sigma^2)$. （这里，$\mu$可能取决于$x$.) 所以，我们让 ExponentialFamily($\eta$) 上面的分布是高斯分布。正如我们之前看到的，在将高斯表示为指数族分布时，我们有 μ = η。所以，我们有

$$h_{\theta}(x) = E[y|x; \theta] = \mu = \eta = \theta^Tx.$$

编辑

在阅读其他资料后，$y_i \sim N(\mu_i, \sigma^2)$这意味着每个单独的输出都有自己的正态分布，均值$\mu_i$和$h_{\theta}(x_i)$被设置为正态分布的平均值$y_i$. 在这种情况下，假设被赋予期望值是有意义的。