当语言模型等系统中的检索与生成集成未调优时，可能会出现多种故障模式。最常见的问题包括模型忽略检索内容、错误地将答案归因于错误的来源，或错误地处理冲突信息。这些故障会降低系统的可靠性，导致不准确或无意义的输出。让我们通过示例来分解这些场景，说明它们的影响。
首先，如果模型完全忽略检索到的文档，它将仅依赖其预训练知识，这可能已过时或不完整。例如，如果用户询问“Python 的最新版本是什么？”，而检索系统提供了一份文档说明“Python 3.10”，但模型的训练数据仅包含到 Python 3.9 的信息，它可能会错误地回答“3.9”，而不是使用检索到的数据。这在需要最新信息的领域（如软件文档或新闻摘要）会成为一个严重问题。根本原因通常是训练或对齐不佳——模型没有被激励将检索到的内容置于其内部知识之上。开发者可能会在检索步骤被视为可选而非核心输入的系统中看到这种情况。
其次，当模型错误地将答案链接到错误的文档或部分时，就会发生误关联。例如，如果用户询问“什么导致智能手机电池耗电？”，而检索系统获取了讨论硬件缺陷和软件错误的文档，模型可能会将与硬件相关的答案归因于侧重软件的文档。这可能发生在模型注意力机制未能跟踪检索文本的哪些部分相关时。在医疗或法律环境中，此类错误可能导致有害建议。一个常见的技术原因是检索嵌入与生成器输入处理之间的对齐较弱——如果模型无法将检索到的片段映射到查询意图，它可能会“幻觉”出连接。
第三，系统可能难以处理检索文档中的冲突或模糊信息。假设用户询问“巧克力对狗有害吗？”，而检索返回一份文档说明“巧克力有毒”，另一份文档声称“少量是安全的”。一个调优不佳的系统可能会自相矛盾，随机选择一个答案，或将两者混合成一个不明确的回复。这在医疗保健等精度要求高的领域尤为成问题。问题通常源于缺乏解决冲突的逻辑，例如缺少用于优先考虑权威来源的评分机制。开发者可以通过改进检索的排序逻辑或训练生成器识别并标记不一致性来解决此问题。
总之，检索与生成之间的集成不良会导致三个关键故障：忽略上下文、误归因答案和处理冲突不当。每一个都源于模型在优先、解释或协调检索数据方面的不足。解决这些问题需要仔细调优——例如，训练生成器将检索输出视为非可选输入，改进交叉注意力机制，或添加逻辑来处理冲突证据。开发者应该使用真实世界的查询来测试这些系统，以便及早识别和减轻此类故障。
