改进AI推理需要在三个关键领域取得进展：算法架构、训练方法以及与外部系统的集成。首先，AI系统需要更好的架构来处理复杂的多步骤推理。像Transformer这样的当前模型在模式识别方面表现出色，但在需要逻辑推理或长期规划的任务上则力有不逮。例如，解决一个数学应用题通常涉及解析问题、识别相关公式以及按顺序执行步骤——这些任务都需要结构化推理。混合方法，如将神经网络与符号系统相结合（例如神经符号AI），可以通过将基于规则的逻辑嵌入到灵活的学习框架中来弥合这一差距。Google的AlphaGeometry将深度学习与几何定理证明规则相结合，展示了这种架构如何解决高级问题。
其次，训练方法必须优先考虑质量而非数量。大多数AI模型是在大量、非结构化数据集上训练的，这些数据集缺乏明确的推理路径。通过使用带有标注推理步骤的数据集（如思维链提示示例）进行训练，将有助于模型学习按顺序“思考”。例如，通过首先识别变量、然后应用方程式、最后验证结果来训练模型解决物理问题，可以模仿人类的解题过程。此外，通过人类反馈的强化学习（RLHF）可以通过奖励逻辑一致性而非表面上的正确性来完善推理能力。OpenAI的GPT-4，在被引导展示其思考过程时，比直接生成答案时能给出更准确的答案，这突显了分步训练的价值。
第三，AI系统需要与工具和数据库无缝集成，以增强其推理能力。语言模型常常在需要精确计算或实时数据的任务上失败。允许模型将子任务卸载出去——例如查询数据库获取事实或使用计算器进行算术运算——将提高可靠性。例如，回答股票市场相关问题的模型可以通过API获取实时数据，使用统计库分析趋势，然后合成结果。Microsoft的AutoGen等项目正在探索AI智能体与外部工具协同工作的框架，从而减少在编程或金融等领域的错误。这种方法将推理从纯粹的记忆转向动态的、工具辅助的问题解决，使AI能力与现实世界的需求更加契合。