对称非负矩阵分解

计算科学 线性代数 优化 非线性规划 非凸的 矩阵分解
2021-12-15 06:08:52

假设是对称的。我想分解通过解决 用于局部最小化器。AR+n×nAUU

minUij(AijlnAij[UU]ij+[UU]ij)s.t.U0,

这个问题的目标是 KL 散度KL(A|UU),类似于本文和其他非负矩阵分解中使用的问题。不同之处在于,对于矩阵UV,我想优化为UU而不是UV^\topUVUV

我找不到关于这种非负分解变体的论文,除了这篇论文在 eq.(11) 下简要提到它,没有讨论。据我了解,非负矩阵分解算法的收敛性是众所周知的,我希望能找到类似的东西。

关于如何使用简单迭代找到本地优化器的任何想法?理想情况下,我希望来自非负矩阵分解的一些具有良好收敛性(例如乘法更新)的方法将在没有太多适应的情况下适用。

1个回答

我正在浏览我的一些旧 StackExchange 帖子并遇到了这个。事实证明,答案导致发表论文中的一个部分!

如该论文(及其符号)所述,如果您希望最小化,则以下迭代将降低目标 --- 并且在实践中效果很好--- 这里,表示所有向量,表示元素乘法, oslash 表示元素除法。 应该使用随机条目进行初始化。KL(B|AA)

UkAk[(BAA)A]Ak+1Udiag[1U1]
1A