正如 Erwan 在评论中所说，这取决于。根据我的经验，它具体取决于两件事：

标记化方法：文档的长度（以标记数计）会根据您拆分它的方式而有很大差异。将文本拆分为单个字符会导致文档比将其拆分为子单词单元（例如 WordPiece）更长，而子单词单元仍将比在空白处拆分更长。

模型：除了梯度消失之外，RNN 并不关心输入文本有多长，它只会继续前进。然而，变形金刚是有限的。BERT 实际上可以处理多达 512 个 WordPiece 单元的序列，而 LongFormer 声称可以处理多达 32k 个单元的序列（假设有足够的计算资源）。因此，您的 10 - 600 个令牌的文档对于 BERT 来说会很长，但对于 LongFormer 来说会很短。

在不了解您的具体任务细节的情况下，我无法回答您是否应该将长度为 10 的文档与长度为 600 的文档区别对待。直觉上，我怀疑一个非常短的文档会与一个更长的文档非常相似，仅仅是因为它可能包含更少的内容。