计算科学 - 的上限⟨ H, X⟩F⟨H,X⟩F有约束等级 - 吾爱随笔录

的上限⟨ H, X⟩F⟨H,X⟩F有约束等级

计算科学线性代数矩阵特征值

2021-12-20 15:42:02

我们有 $X=[\mathbf{x}_1,\mathbf{x}_2...,\mathbf{x}_n]\in\mathbb{R}^{d\times n}$ , $H=[\mathbf{h}_1,\mathbf{h}_2...,\mathbf{h}_n] \in\mathbb{R}^{d\times n}$ ，和 $d<n$ . $H$ 有等级 $r\leq d$ 和 $X$ 有等级 $d$ .

假设我们有 $\|H\|_F\leq C$ 和，其中和分别是 Frobenius 范数和 vectro 2-范数。 $\|\mathbf{x}_i\|_2\leq R$ $\|\cdot\|_F$ $\|\cdot\|_2$

我们对 H 和 X 的 Frobenius 内积 left的上限了解多少？ $\left<H,X\right>_F$ $H$ $X$

提示：我知道柯西-施瓦茨不等式。等式不成立，因为我们不能保证。这是因为秩不足。有一个更严格的上限的奇异值的等级而言。 $\left<H,X\right>_F < \sqrt nCR$ $\mathbf{x}_i = k\mathbf{h}_i, \forall i$ $H$ $<H,X>_F$ $X$ $r$ $H$

我也在这里发布了这个问题。

1个回答

你可以试试冯诺依曼迹不等式其中是 H 的第个最大奇异值， \是降序奇异值的长度从这里，您可以应用 Hölder 不等式如果是秩亏的，那么我们期望核范数

⟨ H, X ⟩ \equiv t r a c e (H^{T} X) \leq \sum_{i = 1}^{d} σ_{i} (H) σ_{i} (X) \equiv ⟨ σ (H), σ (X) ⟩

$\langle H,X\rangle\equiv\mathrm{trace}(H^{T}X)\le\sum_{i=1}^{d}\sigma_{i}(H)\sigma_{i}(X)\equiv\langle\sigma(H),\sigma(X)\rangle$

σ_{i} (H)

$\sigma_{i}(H)$

i

$i$

H

$H$

σ (H)

$\sigma(H)$

d

$d$

⟨ σ (H), σ (X) ⟩ \leq ‖ σ (H) ‖_{1} ‖ σ (X) ‖_{\infty} \equiv σ_{max} (X) \sum_{i = 1}^{d} σ_{i} (H) .

$\langle\sigma(H),\sigma(X)\rangle\le\|\sigma(H)\|_{1}\|\sigma(X)\|_{\infty}\equiv\sigma_{\max}(X)\;\sum_{i=1}^{d}\sigma_{i}(H).$

H

$H$

\sum_{i = 1}^{d} σ_{i} (H)

$\sum_{i=1}^{d}\sigma_{i}(H)$ 要小，势必会比较紧。

请注意，冯诺依曼不等式是 wiki 页面上用于跟踪不等式的标识之一。还要注意，核范数与低秩矩阵密切相关。可以证明，核范数是 Frobenius 球上秩函数的凸包络。参见Recht、Fazel、Parrilo (2010)。

其它你可能感兴趣的问题

上一篇广义空间离散方案的数值稳定性下一篇Monte Carlo - 随机游走模拟 - polyfit 对数日志数据点？