大型语言模型（LLM）通过改进数据的表示、查询和优化方式来增强向量搜索。向量搜索依赖于将文本、图像或其他数据转换为数值向量（嵌入），然后比较它们的相似性。LLM 通过生成更丰富的嵌入、理解用户意图和优化搜索结果来做出贡献。这使得向量搜索更加准确且具备上下文感知能力，同时不是取代传统的算法如 k-NN 或 ANN，而是增强了它们的有效性。
首先，LLM 生成高质量的嵌入。传统的 TF-IDF 或 word2vec 等方法基于词频或局部上下文创建嵌入，而 BERT 或 GPT 等 LLM 可以捕获更深层的语义关系。例如，LLM 可以将短语“气候变化影响”以一种与“全球变暖影响”紧密对齐的方式嵌入，即使词语没有重叠。开发者可以使用像 sentence-transformers 等库将文本转换为嵌入。然后使用 FAISS 或 Elasticsearch 等工具对这些嵌入进行索引，从而实现更快、更相关的相似性比较。一个实际例子是推荐系统，其中产品描述通过 LLM 进行嵌入，确保搜索“耐用背包”也能返回标记为“重型登山包”的物品。
其次，LLM 提高了查询理解能力。原始用户查询通常含糊不清或不够具体。LLM 可以改写或扩展查询，使其更好地匹配索引数据。例如，通过 LLM，对“Python 循环”的搜索可能会被改写为“Python 3 中 for 循环和 while 循环的示例”。然后对这个扩展的查询进行嵌入并用于向量搜索，从而提高召回率。开发者可以通过在向量搜索步骤之前串联 LLM（如 GPT-3.5）来实现这一点。一个代码片段可能涉及调用 API 生成查询变体，对每个变体进行嵌入，并聚合结果。这种方法在用户输入模糊的聊天机器人或文档检索系统中特别有用。
最后，LLM 有助于对搜索结果进行后处理。在向量搜索返回候选列表后，LLM 可以重新排序或汇总它们。例如，在法律文档搜索中，LLM 可以从前 100 个结果中提取关键段落来回答特定问题。或者，LLM 可以通过评估向量相似性之外的上下文来过滤掉不相关的结果。开发者可以使用像 DistilBERT 这样的小型 LLM 根据细微的标准对结果进行评分和重新排序。这一步增加了解释性，确保最终输出符合用户需求。例如，电子商务平台可以使用此功能来优先显示具有最新评论的产品，即使它们的嵌入相似度稍低。
通过在这些阶段——嵌入生成、查询处理和结果优化——集成 LLM，开发者可以构建出更理解上下文、处理歧义并提供精确结果的向量搜索系统。关键在于平衡 LLM 能力和计算效率，有选择地在最有价值的地方使用它们。