我遇到了同样的问题，因为我想使用计量经济学包中可用的最有效的求解器。我开发了一种算法来解决这两个问题$\beta$以及线性最小二乘法的线性预测变量（正态矩阵）的逆（它也适用于 WLS、Ridge 回归等）

所以这是伪代码，Given$X$和$y$,

1) 使用有效的求解器来估计$\beta$.

2) 商店$X^{\top}X + \Gamma \Gamma^{\top}$

3）新建一个$Ax=b$问题：

• x = 完全表征值的向量$\left(X^{\top}X + \Gamma \Gamma^{\top}\right)^{-1}$. 它是对称的，所以有$\left(\frac{k (k + 1)}{2}\right)$

• b = vec($\beta$, vec($I_{k}$))

• A = 建立以下限制的线性预测器：

  • $A X^{\top} y = \beta$

  • $\left(X^{\top}X + \Gamma \Gamma^{\top}\right)^{-1}\left(X^{\top}X + \Gamma \Gamma^{\top}\right) = I$

最后解决新问题$Ax=b$为了$x$使用高效的求解器并重新创建$A$用它。

这样，您就不必计算 Cholesky 分解或任何东西。一个好的求解器可能是 lsmr ，它可以提供更高的精度和更有效的实现。