竞争性多智能体系统是计算框架，其中多个自主智能体在共享环境中交互，每个智能体都旨在最大化自己的目标，同时与其他人对抗。 这些系统的设计使得智能体的目标直接冲突，要求他们调整策略以胜过竞争对手。 一个常见的例子是基于游戏的环境，例如国际象棋等棋盘游戏或星际争霸等实时战略游戏，在这些游戏中，智能体必须预测并反击对手的行动。 与智能体朝着共同目标努力的合作系统不同，竞争性系统强调对抗性动态，通常会导致复杂的涌现行为。
实现竞争性多智能体系统通常涉及强化学习 (RL) 技术，智能体通过与环境交互并根据其性能获得奖励来学习。 例如，在 AlphaGo 中，DeepMind 通过让智能体在自博弈中相互对抗来训练他们下围棋，从而随着时间的推移改进策略。 一个关键的挑战是确保智能体适应不断变化的对手策略，因为静态行为会变得可预测。 对抗性训练（智能体暴露于不同的对手）或使用极小化极大算法来预测对策等技术有助于解决这个问题。 另一个例子是扑克 AI，智能体必须在虚张声势和欺骗之间取得平衡，同时推断有关竞争对手的隐藏信息。
开发人员在处理这些系统时必须考虑可扩展性、奖励设计和计算效率。 设计不当的奖励函数可能会导致意想不到的行为，例如智能体利用漏洞而不是学习有意义的策略。 RLlib 或 OpenAI Gym 等框架提供了用于模拟多智能体环境的工具，但扩展到许多智能体需要分布式计算或参数共享等优化方法。 现实世界的应用包括自动驾驶车辆交通管理，其中智能体（车辆）竞争空间，同时避免碰撞，或网络安全模拟，其中攻击者和防御者不断进化战术。 在部署之前，在受控环境中进行渐进复杂性的测试有助于降低风险。