Embedding 在现代信息检索 (IR) 中扮演着至关重要的角色，它将非结构化数据（如文本、图像或音频）转换为捕获语义的数值向量。 这些向量使 IR 系统能够根据概念相似性比较和检索信息，而不是仅仅依赖于精确的关键字匹配。 例如，搜索查询“汽车维护”可能会匹配包含“汽车修理”的文档，因为它们的 embedding 在向量空间中数学上很接近。 这种方法解决了传统的基于关键字的方法的局限性，这些方法通常会由于措辞或词汇的差异而遗漏相关内容。
Embedding 的一个关键优势在于它们能够在高维空间中表示复杂的关系。 在文本检索中，诸如 Word2Vec、GloVe 或 BERT 之类的模型将单词、句子或整个文档转换为密集向量。 这些 embedding 对上下文和语义信息进行编码，例如同义词或相关概念。 例如，BERT 生成上下文相关的 embedding，其中“河岸”和“银行账户”中的单词“银行”的表示形式不同，从而提高了检索准确性。 同样，图像检索系统使用来自 ResNet 等模型的 embedding 来查找视觉上相似的图片，即使它们的元数据或文件名与查询不匹配。 通过将数据映射到共享向量空间中，embedding 可以实现跨模态检索，例如查找与文本查询相关的图像。
开发人员通过索引、相似度计算和排序等步骤在 IR 管道中实现 embedding。 预训练的 embedding 模型通常在特定领域的数据（例如，医疗文档或电子商务产品描述）上进行微调，以提高相关性。 FAISS 或 Annoy 之类的工具优化了向量搜索效率，使系统能够扩展到数十亿个项目。 但是，挑战包括大型数据集的计算成本以及平衡精度-召回率的权衡。 混合系统有时会将 embedding 与传统方法（例如，BM25）结合使用以提高性能。 例如，搜索引擎可以使用 BM25 过滤候选结果，并使用 embedding 对结果重新排序。 总之，embedding 已成为现代 IR 的基础，为语义搜索引擎、推荐系统和问答平台等应用程序提供支持。