强化学习（RL）通过训练智能体进行试错，并由奖励或惩罚指导其决策，从而应用于游戏。在此框架下，智能体与游戏环境互动，采取行动并观察结果，学习最大化累积奖励的策略。例如，在国际象棋游戏中，智能体可能因将死对手而获得正向奖励，因丢失棋子而获得负向奖励。随着时间的推移，智能体学会优先考虑能带来胜利局面的走法。这种方法之所以有效，是因为游戏通常提供明确的规则、可衡量的目标和结构化的反馈——这些都是 RL 高效运作的关键要素。
训练游戏 RL 智能体通常涉及模拟大量游戏回合。智能体从随机行动开始，并根据奖励更新其策略——一套将游戏状态映射到行动的规则——逐渐完善其策略。通常使用 Q-learning 或策略梯度等技术。例如，DeepMind 的 AlphaGo 将 RL 与蒙特卡洛树搜索结合，精通了围棋。智能体通过自我对弈来学习，调整其策略以偏爱能提高获胜概率的走法。类似地，在 Atari 游戏中，智能体将原始像素数据作为输入，并使用深度神经网络来近似行动的价值（如深度 Q 网络），从而使它们无需先验规则知识即可精通《Breakout》或《Pong》等游戏。
将 RL 应用于游戏面临的挑战包括处理庞大的状态空间、稀疏奖励和计算成本。像《星际争霸 II》这样的游戏要求智能体在广阔的环境中管理实时决策，这需要复杂的神经网络架构和分布式训练。稀疏奖励——例如仅在漫长游戏结束时才获得反馈——会减慢学习速度。为了解决这个问题，可以使用奖励塑形（添加中间奖励）或好奇心驱动探索（鼓励智能体探索新状态）等技术。现代应用已超越游戏本身，例如训练视频游戏中的非玩家角色（NPC）使其行为更逼真，或通过模拟玩家互动优化游戏平衡。RL 的灵活性使其成为精通和增强游戏的强大工具。