余弦相似度是一种用于确定两个向量在多维空间中有多相似的度量，它基于它们之间的角度。在嵌入的上下文中——嵌入是对文本、图像或用户偏好等数据的数值表示——余弦相似度有助于量化语义或上下文相似性。例如，在自然语言处理 (NLP) 中，Word2Vec 或 BERT 等词嵌入将单词转换为向量，而余弦相似度可以显示“狗”和“小狗”具有很高的相似度得分，而“狗”和“汽车”得分较低。关键思想是，指向大致相同方向（小角度）的向量被认为是相似的，而不管它们的大小如何。这使得它对于比较嵌入非常有用，在这些嵌入中，向量的整体方向（而不是长度）捕获了有意义的关系。
开发人员通常更喜欢余弦相似度，而不是欧几里得距离等其他度量，因为它对向量的尺度是不变的。这在使用嵌入时尤其重要，嵌入通常在预处理期间进行归一化（缩放到单位长度）。例如，在推荐系统中，用户和项目嵌入可能会被归一化，以关注偏好而不是交互频率。余弦相似度通过忽略幅度差异（例如，一个用户评价的电影是否比另一个用户多）来简化比较，并侧重于偏好的一致性。它在计算上也很高效，因为可以使用点积计算，然后除以向量幅度的乘积，这可以在 NumPy 或 PyTorch 等库中直接实现。
一个实际的例子是语义搜索，其中文档或句子被编码为嵌入，而余弦相似度检索在上下文中相关性最高的结果。假设您正在构建一个搜索引擎：将查询嵌入与文档嵌入进行比较，并且得分最高的匹配项是那些具有最高余弦得分的文档。类似地，在像按主题对新闻文章进行分组这样的聚类任务中，余弦相似度有助于识别具有相关内容的文章。需要注意的一个问题是，余弦相似度在嵌入经过预处理以确保有意义的方向关系时效果最佳。例如，使用对比损失训练的嵌入（用于像 SBERT 这样的模型）明确地为此属性进行了优化。通过关注基于角度的相似性，开发人员可以有效地比较高维数据，这种方式与嵌入编码语义信息的方式一致。