为什么方差-协方差矩阵β^β^里面有转置吗?

机器算法验证 线性模型 协方差矩阵
2022-04-08 06:19:24

在估计线性回归的向量时,为什么 \hat{\beta} 的方差-协方差β^β^

V(β^)=E[(β^E(β^))(β^E(β^))T]

中的第二项E()

因为我发现协方差可以表达为(没有转置):

在此处输入图像描述

3个回答

您引用了两个变量的协方差的定义,而带有转置的形式是协方差矩阵的定义。在第一种情况下,我们谈论的是两个随机变量XY

cov(X,Y)=E[(XE[X])(YE[Y])]

而在第二种情况下是随机变量XX1,,Xn

X=[X1Xn]

所以我们以协方差矩阵的形式讨论多个变量之间的协方差

Σ=E[(XE[X])(XE[X])T]

并且转置出现在这里,因为您将两个向量相乘。

协方差矩阵是矩阵值的。两个随机变量的协方差是该矩阵中的一个元素,即一个标量。因此,您列出的协方差公式会产生一个标量,而为向量值会产生一个矩阵。xxTx

小例子:考虑一个 2x1

v=[76]

注意

vv=[76][76]

是标量(或 1x1 矩阵?)

vv=[76][76]

是一个矩阵