在可解释 AI (XAI) 中，反事实解释是一种描述机器学习模型的输入需要如何改变才能改变模型输出的方法。 它回答了这个问题：“对输入进行哪些最小的更改会导致不同的预测？” 例如，如果贷款申请被信用评分模型拒绝，反事实解释可能会说明：“如果您的年收入再增加 5,000 美元，您的申请就会被批准。” 这种方法侧重于可操作的见解，为用户提供实现预期结果的具体步骤。 反事实特别有用，因为它们是直观的——它们反映了人类在假设场景中自然地推理因果关系的方式。
为了生成反事实解释，开发人员通常使用优化技术来寻找输入特征的最小有意义的更改。 例如，在预测房价的分类模型中，反事实可能会调整平方英尺或位置，同时保持其他因素不变。 常用的方法包括基于梯度的优化（用于神经网络）或遗传算法（用于基于树的模型）。 有效反事实的关键属性包括可行性（变更必须符合现实世界的约束，例如收入不低于零）和稀疏性（最大限度地减少更改的特征数量）。 诸如 DiCE（多样化的反事实解释）或 ALIBI 之类的工具通过提供预构建的库来简化实现，以便跨模型类型生成这些解释。
然而，挑战依然存在。 反事实必须尊重数据分布——例如，建议增加 200% 的工资以获得贷款批准是不现实的。 开发人员还需要平衡相互竞争的优先级，例如接近原始输入与替代方案的多样性。 此外，反事实可能会无意中揭示敏感的模型逻辑或偏差，需要仔细验证。 例如，反事实建议“将您的年龄减少 10 岁”以获得贷款，可能会暴露与年龄相关的偏见。 尽管存在这些挑战，但反事实解释仍然是调试模型、确保法规遵从性以及通过使 AI 决策透明且可操作来增强用户信任的实用工具。