您是指生物学上的“认知功能注意”吗？

如果是，那么它可以说是不同的。

TL;DR 编码器解码器架构中的固定长度上下文向量无法记住长期依赖关系。注意力可以学习 这些长期依赖，因此具有长期记忆。如果我们谈论人类的注意力，它通常是短暂的（相对的）。

另一方面，我相信是约书亚首先谈到了注意力，有人可能会争辩说，我们可以隐含地将（我们的注意力）集中在文本的一些较旧部分上，从而提取更深层次的含义。

TL;DR TL;DR在讨论注意力机器学习机制时，一个案例实际上更自然地谈论长期记忆