嵌入 (Embeddings) 用于文档检索，将文本转换为捕捉语义含义的数值向量，使系统能够根据概念相似性而非精确的关键词匹配来查找相关文档。当处理文档或查询时，嵌入模型会生成一个高维向量来表示其内容。在检索过程中，系统会将查询的向量与数据库中预先计算好的文档向量进行比较，并返回那些向量与查询向量“最接近”的文档，使用的指标如余弦相似度。这种方法之所以有效，是因为嵌入将语义相似的文本（例如，“猫”和“猫科动物”）放置在向量空间中更靠近的位置，即使它们没有完全相同的词语。
例如，开发人员可能会使用像 BERT 或 Sentence-BERT 这样的预训练模型为语料库中的所有文档生成嵌入。这些嵌入存储在向量数据库中，如 FAISS 或 Elasticsearch。当用户搜索“如何排除网络延迟故障”时，系统会将查询转换为嵌入，并在数据库中搜索与该嵌入距离最小的文档向量。 这可能会检索到关于“修复网速慢的互联网连接”的文章，即使它们没有提到“排除故障”或“延迟”。 诸如余弦相似度或近似最近邻算法之类的工具可以有效地处理这些比较，从而使检索能够扩展到大型数据集。
关键考虑因素包括为领域选择正确的嵌入模型（例如，临床文本与技术博客）以及平衡准确性和计算成本。例如，支持门户可以使用像 Word2Vec 这样的轻量级模型进行快速但不太细致的检索，而研究工具可以优先选择 OpenAI 的 text-embedding-3-small 以获得更高的准确性。 开发人员还必须预处理数据（例如，对长文档进行分块）并管理权衡： 密集向量可以提高准确性，但需要更多的存储空间。 这种方法通过处理同义词和上下文，优于基于关键字的系统，尽管它依赖于高质量的训练数据，并且可能难以处理罕见的特定领域术语。