因果推理是识别事件或变量之间因果关系的过程。与侧重于相关性的传统统计方法不同，因果推理旨在确定一个事件是否直接影响另一个事件。例如，虽然相关性可能显示冰淇淋销量和溺水事件在夏季都会增加，但因果推理旨在确定气温升高（原因）是否会导致这两种结果，而不是假设冰淇淋销量导致溺水。在人工智能中，这涉及构建能够区分单纯的统计关联和真实的因果联系的模型，从而使系统能够推理干预措施（例如，“如果我们改变 X 会发生什么？”）和反事实（例如，“如果 X 不同，Y 会发生吗？”）。
在人工智能中，因果推理用于构建基于理解底层机制而不是表面模式做出决策的系统。例如，医疗保健 AI 可能会使用因果模型来确定特定治疗是否直接改善患者的治疗效果，而不是依赖治疗和康复之间的相关性。诸如贝叶斯网络、结构方程模型或 Pearl 的“do-calculus”之类的框架以数学方式形式化了这些关系。 Microsoft 的 DoWhy 库或计量经济学中的因果森林等平台提供了实际的实现。这些模型允许开发人员模拟干预措施——例如测试更改推荐系统中的一项功能（例如，更改产品排名）如何影响用户行为——而无需昂贵的现实世界实验。
一个关键应用是解决偏见和提高鲁棒性。例如，在历史数据上训练的 AI 招聘工具可能会将“工作经验”与“工作成功”相关联，但因果推理可能会揭示经验是否真正导致成功，或者两者是否都受到未观察到的因素（如接受培训的机会）的驱动。通过显式地对原因进行建模，开发人员可以设计出能够更好地推广到新场景的系统，例如政策变化或用户偏好的转变。挑战包括需要领域知识来定义合理的因果图以及测试因果假设的计算复杂性。然而，随着自动化因果发现和反事实公平性指标等工具的成熟，将因果推理集成到 AI 管道中对于旨在构建可靠、可解释系统的开发人员来说变得越来越容易。