双编码器和交叉编码器是自然语言处理 (NLP) 中用于文本相似性、检索或排序等任务的两种架构。 关键区别在于它们处理输入对的方式。 双编码器将两个文本输入分别编码为固定维度的向量，然后计算相似度（例如，使用余弦相似度）。 另一方面，交叉编码器在单个过程中一起处理两个输入，从而允许两个文本的 token 之间直接交互。 这种区别会影响它们的性能、速度和适用的用例。
双编码器对于大规模相似性任务非常有效。 例如，在搜索引擎中，您可以离线将数百万个文档编码为向量。 当用户查询进入时，您对其进行编码并通过向量相似度（例如，使用像 FAISS 这样的近似最近邻库）找到最接近的匹配项。 由于嵌入是预先计算的，因此双编码器可以很好地扩展。 但是，由于两个文本是独立编码的，因此它们可能会错过细微的交互。 常见的实现包括使用像 BERT 这样的模型来分别编码每个输入。 与此同时，交叉编码器会连接两个输入（例如，查询和文档），并同时通过模型传递它们。 这允许模型权衡两个文本中特定词语之间的关系，从而提高重新排序顶部候选者等任务的准确性。 例如，在双编码器检索到 100 个潜在匹配项后，交叉编码器可以按相关性对它们重新排序。 缺点是计算成本：对于大型数据集，处理每个输入对是不切实际的。
当速度和可扩展性至关重要时，例如在需要快速处理数千个候选者的实时搜索或推荐系统中，请使用双编码器。 交叉编码器更适合需要高精度的较小规模的任务，例如最终排名或成对分类（例如，重复问题检测）。 例如，客户支持聊天机器人可以使用双编码器快速找到相关的 FAQ 条目，然后应用交叉编码器来选择单个最佳答案。 混合方法很常见：使用双编码器进行初始候选检索，使用交叉编码器进行细化。 最终的选择取决于平衡延迟、资源限制以及特定应用程序的准确性需求。