我应该忽略 Ian Goodfellow 的“深度学习”一书中的线性代数章节吗?

机器算法验证 机器学习 神经网络 深度学习 参考 线性代数
2022-03-30 07:55:11

目前我正在阅读 Ian Goodfellow、Yoshua Bengio 和 Aaron Courville 的“深度学习”。我在第 2 章,即线性代数部分,他们在这里讨论了与本书相关的线性代数。我了解所教的大部分内容,但不是很深。当我读到本章的后半部分,例如“2.9 The Moore-Penrose Pseudoinverse”,特别是“2.12 示例:主成分分析”时,我根本不太了解它们。

如果我在舒适地理解这些概念之前进入第 3 章及以后的内容是否可以,或者我对它们和它们使用的符号有基本的了解就可以了吗?

1个回答

这是阅读数学文献时经常会出现的问题。

本书或任何其他数学书籍的前几章列出了您将在后面的章节中使用的工具,因此严格来说,如果不理解这些基础章节,您将无法理解本书的其余部分。

实际上,如果您不了解某些内容,请不要担心。继续阅读,直到主题实际出现并被应用。然后,并且只有在那时,重新阅读前面的部分,并尝试根据后面的应用来理解它。到那时,您将看到很多其他材料,并且在此背景下可能能够更好地理解它。

此外,当您实际上需要了解某些东西的应用时,此时查看其他来源通常非常好。不同的作者有不同的解释方式。从不同的角度看待事物会很有帮助。

有人说,好的数学写作是那种你可以在脑海中用“foo”替换每个公式并且仍然理解要点的那种。当您需要深入和详细地了解某些内容时,请阅读这些公式。


关于您提到的两个具体主题:

  • 当您想要创建实际的估计算法时,Moore-Penrose 伪逆是基础。如果您主要对应用其他人开发和实现的算法感兴趣,那么您需要了解该算法,但更不用说血淋淋的细节了。我从来不需要理解 Moore-Penrose 伪逆。我们这里也只有很少的线程。

  • PCA 对实际应用工具的人更有用。相反,构建工具的人可能不会经常使用它。了解这种降低维度或压缩信息的相关方法真的很好。如果您遇到 PCA 有助于预处理的情况,不会有很大的迹象表明这一点,因此您需要培养自己的直觉并了解这种方法的存在。令人高兴的是,我们在 PCA 上有一个天文数字支持的所有规范线程之母,以及一个完整的标签。浏览该线程,然后重新阅读 Goodfellow 等人。在 PCA 上。启蒙运动几乎肯定会随之而来。