为了减少 LLM 出现幻觉的可能性，提示应明确指示模型严格依赖所提供的信息，并避免编造细节。首先，明确界定任务范围。例如，使用诸如“仅使用以下上下文中提供的数据进行回答”之类的指令，后跟具体信息。这设定了界限，表明模型不应利用外部知识填补空白。此外，包含禁止推测的警告，例如“如果在上下文中找不到答案，请说明信息不可用”。这迫使模型承认局限性，而不是猜测。例如，如果任务是总结技术文档，提示可以说：“在不添加新示例或假设的情况下，总结以下要点。省略未明确提及的任何细节。”
接下来，构建提示以加强上下文。提前提供必要的数据并明确引用。例如，在查询 API 文档时，包含文档的实际文本，并指示模型仅基于该文本回答问题。使用诸如“参考所提供的 API 规范第 2.3 节解释认证方法”之类的短语，将响应直接与来源关联起来。您还可以要求模型引用它在所提供数据中找到答案的位置，例如“包含支持您回答的上下文段落编号”。这有助于建立责任制并更容易验证准确性。例如，提示可以说：“使用下面的故障排除指南，列出三个常见错误及其解决方案。指明每个解决方案在哪个页面描述。”
最后，迭代测试和完善提示。使用已知数据检查模型是否遵循边界。例如，如果您提供一个用户反馈数据集并询问“提到的前三个投诉是什么？”，请验证答案是否与数据集完全匹配。如果模型编造了数据集中不存在的投诉，请调整提示，给出更严格的指令，例如“不要列出用户反馈摘录中未明确写明的任何问题”。此外，使用诸如 temperature（较低的值会减少随机性）之类的参数，使输出更加确定性。对于模糊的查询，例如解释不明确的需求，添加一个步骤让模型请求澄清：“如果上下文的任何部分不清楚，请在回答前请求更多详细信息。”这减少了做出错误假设的风险。
