人工智能推理领域预计会出现的最大突破将可能集中在改进系统理解上下文、跨任务泛化以及处理不确定性的能力上。三个显示出进展的关键领域是混合神经符号架构、因果推理框架和迭代改进其推理的自改进系统。这些进步旨在解决当前在逻辑、适应性和实际应用中的局限性。
混合神经符号系统将神经网络与符号推理相结合，以利用这两种方法的优势。神经网络擅长模式识别，但在抽象逻辑方面存在困难，而符号系统可以强制执行规则，但缺乏灵活性。例如，DeepMind 在数学推理方面的工作将 Transformer 与形式定理证明器集成，使模型能够通过将学习到的模式与逐步逻辑相结合来求解复杂的方程。开发人员可以将类似的架构应用于代码分析等领域，在这些领域中，模型必须解析语法（神经）同时强制执行编程规则（符号）。IBM 的神经符号 AI 工具包等工具演示了这些混合方法如何通过生成人类可读的推理轨迹来提高可解释性，这对于调试医疗保健或金融等领域中的 AI 决策至关重要。
因果推理框架是另一个前沿，使人工智能能够超越基于相关性的预测来建模因果关系。当面临需要反事实推理的场景时，当前的模型通常会失效——例如，预测医疗治疗以不同方式应用会对结果产生什么影响。研究人员正在开发结构因果模型 (SCM) 和 do 演算等方法，如 Microsoft 的 DoWhy 库中所见，以形式化因果假设并测试干预措施。对于开发人员来说，将因果图集成到推荐系统中可以提高稳健性——例如，区分用户点击广告是因为其内容（因果）还是仅仅是巧合（相关）。这种转变可以通过澄清哪些因素直接影响结果来减少决策系统中的偏差，例如贷款审批算法。
最后，自改进系统旨在自动化推理过程的改进。元学习（学习如何学习）和自动超参数调整等技术允许模型在没有人为干预的情况下调整其解决问题的策略。谷歌的 AlphaZero 通过自博弈和动态调整其推理树深度，展示了这一点，从而掌握了国际象棋等游戏。在实践中，开发人员可能会部署迭代优化其推理管道的系统——例如，一个物流 AI，它根据实时交通数据调整路线规划启发式。这些系统还可以包含反馈循环，其中部署期间检测到的错误会触发自动模型更新。虽然仍处于实验阶段，但像 AutoML 框架这样的工具是使自改进可用于优化神经架构或微调特定领域推理的语言模型等任务的早期步骤。