AI 模型通过将复杂问题分解为中间步骤，并连接来自多个来源或上下文的信息来处理多跳推理。这个过程通常依赖于它们在数据中跟踪实体、关系和依赖项的能力。例如，当回答“X 公司在其 CEO 辞职后衰退的原因是什么？”这样的问题时，模型可能会首先确定 CEO 的任期，将其与财务报告关联起来，然后将这些发现与市场变化等外部因素联系起来。Transformer 模型凭借其注意力机制，能够通过动态加权输入数据的相关部分来出色地完成这项任务。例如，在问答任务中，模型可能会先关注一篇关于 CEO 政策的文档，然后转移焦点到一篇关于随后股价下跌的新闻文章。
链式思考提示 (chain-of-thought prompting) 和模块化架构等技术能够提升多跳能力。链式思考鼓励模型明确生成中间推理步骤（例如，“步骤 1：找到 CEO 离职日期。步骤 2：查看该时期的收入趋势”）。有些系统采用检索增强方法，即模型首先从知识库中获取相关文档或事实，然后对其进行综合。例如，模型回答“镁是否既用于飞机又用于维生素补充剂？”时，可能会先从材料科学数据库中检索飞机零部件信息，再从医疗数据库中检索补充剂成分信息，然后进行比较。图神经网络等工具也通过将实体之间的关系表示为节点和边来提供帮助，从而实现系统的遍历。
挑战包括避免被不相关信息干扰以及管理计算复杂度。模型可能会误判连接，例如将 CEO 不相关的公开声明与股价下跌关联起来。为了缓解这个问题，可以采用迭代验证（检查每个步骤的有效性）或约束解码（强制模型遵循逻辑顺序）等技术。然而，将多跳推理扩展到大型数据集仍然是资源密集型的。例如，处理跨 10 个文档的问题需要分析所有数据点的组合，这会呈指数级增长。开发者通常通过将数据预处理为结构化格式或使用分层注意力优先处理关键部分来解决这个问题。