余弦相似度是一种数学度量，用于根据两个向量之间的角度的余弦值来确定它们的相似程度。它的范围从 -1 到 1，其中 1 表示向量方向相同，0 表示它们是正交的（没有相似性），-1 表示它们完全相反。 在自然语言处理 (NLP) 中，余弦相似度通常应用于归一化向量（缩放为单位长度的向量），这简化了向量点积的计算。 对于文本相似度任务，此指标优于欧几里得距离，因为它侧重于向量的方向而不是大小，使其对句子长度或词频的差异具有鲁棒性。 例如，句子“我喜欢编程”和“编码令人愉快”可能具有指向相似方向的嵌入，从而产生较高的余弦相似度分数。
Sentence Transformers 是专门设计用于生成句子的密集向量表示（嵌入）的神经模型，这些嵌入捕获语义。 与传统的 BERT 等模型（生成令牌级嵌入）不同，Sentence Transformers 使用对比学习或三元组损失等技术进行微调，以确保语义上相似的句子在嵌入空间中更接近。 例如，模型 all-MiniLM-L6-v2 将句子映射到 384 维向量，其中相似的句子（例如，“猫坐在垫子上”和“小猫躺在地毯上”）的嵌入具有最小的角距离。 这些嵌入经过优化，可用于语义搜索、聚类和相似性比较等任务，因为它们以紧凑的数字形式保留了句子之间的语义关系。
当使用 Sentence Transformers 测量句子相似度时，余弦相似度应用于两个句子的嵌入。 首先，使用模型将句子转换为嵌入。 例如，在 Python 中，model.encode(sentences) 生成嵌入。 接下来，计算这些嵌入之间的余弦相似度。 如果嵌入被归一化（在实践中很常见），则这简化为简单的点积。 接近 1 的分数（例如，0.85）表示高度相似，而接近 0 的分数表示不相似。 开发人员经常在推荐系统（将用户查询与产品匹配）或聊天机器人（识别释义的用户输入）等应用程序中使用此方法。 例如，比较“如何重置我的密码？”和“更改我的登录凭据需要哪些步骤？”会产生很高的余弦相似度，使系统能够识别语义等价性。 Sentence Transformers 和余弦相似度的这种组合提供了一种有效的方法来量化文本之间的语义关系。