多智能体系统 (MAS) 中的学习使智能体能够通过经验调整其行为、改进决策制定并实现个人或共享目标。与单智能体系统不同，MAS 涉及交互，其中每个智能体的行动都会影响其他智能体，从而产生复杂的动态。学习使智能体能够根据反馈（例如奖励或惩罚）调整策略，而无需依赖预定义的规则。例如，在囚徒困境之类的博弈论场景中，智能体可能会使用强化学习 (RL) 来平衡重复交互中的合作和自身利益。通过观察结果，他们会改进策略以最大化长期奖励，即使其他智能体也在不断发展他们的策略。这种适应性在条件不可预测地变化的环境中至关重要，例如资源可用性的波动或用户需求的转变。
MAS 学习的一个关键应用是协调和竞争。 智能体通常需要协作（例如，自动驾驶汽车协商十字路口）或竞争（例如，金融市场中的交易算法）。 诸如 Q 学习或策略梯度之类的学习算法可帮助智能体发现有效的策略。 例如，在交通控制系统中，代表汽车的智能体可能会学习协调加速和制动以最大程度地减少拥堵。 相反，在诸如广告拍卖之类的竞争环境中，智能体可以使用进化算法来优化针对竞争对手的竞标策略。 这些方法减少了对集中控制的依赖，从而实现了分散的问题解决。 但是，学习必须考虑到部分可观察性——智能体可能缺乏对其他智能体的行动或目标的充分了解，需要使用诸如对手建模或通信协议之类的技术来共享有限的信息。
MAS 学习中的挑战包括非平稳性和信用分配。当多个智能体同时学习时，环境会变得不稳定，因为每个智能体的策略都会随时间变化。例如，在机器人群中，一个机器人的路径规划调整可能会扰乱其他机器人的导航，从而需要不断适应。诸如元学习或课程学习之类的解决方案可帮助智能体在各种场景中进行泛化。信用分配——确定哪些智能体的行为促成了共同的结果——是另一个障碍。在诸如灾难响应之类的协作任务中，智能体可能会使用差异奖励或集中式评论器来隔离个人贡献。诸如智能体代表用户的推荐系统之类的实际实现，还必须平衡探索（尝试新策略）和利用（使用已知的有效策略）。具有共享经验缓冲区或联邦学习的去中心化 RL 之类的框架可以解决这些权衡，同时保持可伸缩性和隐私。