将检索与 LLM 集成的两种主要方法是 使用外部数据提示冻结模型 和 在专门的语料库上微调模型。 每种方法都有不同的优点，具体取决于用例、资源可用性和所需的结果。 以下是它们的工作方式和擅长领域的细分。
提示冻结模型 涉及将外部信息直接注入到输入提示中，而不修改模型的权重。 例如，开发人员可能会从数据库中检索相关文档，将其附加到用户的查询中，并让 LLM 根据组合输入生成响应。 这种方法是轻量级的且灵活的，因为它不需要额外的训练。 它非常适合数据频繁更改的场景（例如，新闻摘要或实时客户支持），因为更新外部知识来源非常简单。 开发人员还可以避免重新训练的计算成本，使这种方法适用于基础设施有限的团队。 但是，它受到模型上下文窗口长度的限制，这限制了单个提示中可以包含的外部数据量。
微调模型 通过在精选数据集上训练 LLM，使其参数适应特定领域。 例如，一家法律科技公司可能会在法院裁决和合同上微调 LLM，以提高其对法律术语的理解。 这种方法允许模型深入内化目标域中的模式，从而产生更准确和上下文感知的输出。 与提示不同，微调模型不依赖于在推理时注入外部数据，这避免了上下文窗口的限制并减少了延迟。 但是，微调需要大量的计算资源、高质量的训练数据以及领域发展时的持续维护。 它最适合静态或利基领域（例如，医疗诊断或技术文档），在这些领域中，长期准确性超过了前期成本。
这些方法之间的选择取决于权衡。 提示对于动态数据来说具有成本效益和适应性，但在需要深入领域知识的复杂查询中表现不佳。 微调为专门的任务提供精度和效率，但需要前期投资。 开发人员应在敏捷性和低开销很重要时优先考虑提示，并在领域专业知识和性能至关重要时选择微调。
