Sentence Transformer（双编码器） 和 跨编码器 是用于句子相似度任务的两种不同方法，它们在架构、效率和用例上有所不同。双编码器独立处理每个句子，生成固定维度的向量嵌入。然后将这些嵌入进行比较（例如，使用余弦相似度）来衡量相似度。例如，双编码器可以将“你多大了？”和“你的年龄是多少？”编码成向量并计算它们的相似度。相比之下，跨编码器在一次前向传播中同时处理两个句子，使用注意力机制分析句子对中 token 之间的交互。这使得它可以捕捉细微的关系，但需要单独处理每个句子对，对于大型数据集来说速度较慢。
双编码器在需要速度和可扩展性的场景中表现出色，例如从大型数据库中检索相似句子。由于嵌入可以预先计算并存储，将新查询与数百万条条目进行比较非常高效。例如，搜索引擎可以使用双编码器对产品描述进行索引，从而实现快速的实时搜索。然而，跨编码器优先考虑准确性而非速度。它们非常适合对双编码器初步结果中的靠前候选进行重新排序，或评估对精度要求较高的小型数据集。例如，在双编码器为法律文档检索到 100 个潜在匹配后，跨编码器可以通过深入分析上下文来重新排序它们，例如区分“客户终止合同”和“客户发起的协议解除”。
两者之间的权衡取决于性能需求和资源限制。双编码器需要更多的前期训练以确保嵌入具有良好的泛化能力，但对于生产系统来说成本效益较高。跨编码器虽然更准确，但由于其 O(n²) 的复杂性，不适合大规模任务。常见的做法是采用混合方法：使用双编码器进行初步候选检索，使用跨编码器进行最终排序。像 sentence-transformers（用于双编码器）和 Hugging Face 的 transformers（用于跨编码器）这样的库简化了实现。例如，all-MiniLM-L6-v2 双编码器可以处理批量编码，而像 cross-encoder/ms-marco-TinyBERT-L-6 这样的跨编码器可以优化结果。开发者在选择这些模型时必须权衡延迟、准确性和计算资源。