Sentence Transformer 模型通常生成维度范围从 384 到 1024 的嵌入，具体取决于特定的模型架构。例如，像 all-MiniLM-L6-v2 这样广泛使用的模型会生成 384 维向量，而像 all-mpnet-base-v2 这样更大的模型会输出 768 维。 一些专门的或较旧的模型可能使用 1024 维，但 384 和 768 在实践中最常见。 这些维度由 Transformer 模型的隐藏大小和任何后处理步骤（例如在训练期间应用的池化或降维）决定。
维度的选择与平衡性能和效率相关。较小的嵌入（例如，384 维）计算速度更快，需要的存储空间更少，这使得它们适用于实时语义搜索或大规模聚类等应用。 例如，384 维的 all-MiniLM-L6-v2 之所以受欢迎，是因为它在检索等任务上保持了强大的性能，同时又很轻量。 较大的嵌入（例如，768 维）通常捕获更精细的语义细微差别，这可以提高句子相似性或分类等任务的准确性。 像 all-mpnet-base-v2 这样的模型利用这种更高的维度在基准测试中实现最先进的结果，但会增加计算成本。 维度通常每个模型都是固定的，因此开发人员必须根据其项目的性能-效率权衡来选择模型。
使用 Sentence Transformer 的开发人员可以通过编程方式检查模型的嵌入大小。 例如，在 Python 中使用 sentence-transformers 库，调用 model.get_sentence_embedding_dimension() 返回维度。 这对于配置下游组件（如向量数据库（例如，FAISS 或 Annoy））至关重要，这些组件需要知道嵌入大小才能优化索引。 如果存储或延迟是一个问题，则最好选择较小的模型，但如果准确性至关重要，则较大的嵌入可能会证明开销是合理的。 建议在特定于任务的验证数据上测试不同的模型，以找到最佳平衡点。 维度直接影响内存使用、网络传输成本和推理速度，因此了解这些影响有助于设计可扩展的 NLP 系统。