游戏 AI 中的强化学习 (RL) 涉及训练一个智能体通过与游戏环境互动并从反馈中学习来做出决策。 智能体观察游戏的状态（例如，角色位置、敌人位置）并采取行动（例如，移动、跳跃）以最大化累积奖励。 这些奖励是预定义的信号，例如击败敌人获得积分或受到伤害受到惩罚。 例如，在平台游戏中，RL 智能体可能会通过在坠落时收到负奖励并在前进时收到正奖励来学习避开坑洼。 与监督学习不同，RL 不需要标记数据——智能体通过试错来学习，随着时间的推移改进其策略。
学习过程围绕平衡探索（尝试新动作）和利用（使用已知的有效动作）展开。 常用的算法有 Q 学习或深度 Q 网络 (DQN)。 在 Q 学习中，智能体维护一个表（Q 表），该表估计给定状态下每个动作的价值，并根据奖励迭代更新它。 对于具有大型状态空间（例如，3D 环境）的复杂游戏，DQN 用神经网络代替 Q 表来近似动作值。 例如，赛车游戏中的 AI 可能会从随机驾驶开始（探索），但通过优先考虑导致更高速度或单圈时间的动作（利用）逐渐学习最佳路径。 训练通常涉及模拟，智能体运行数千个游戏情节以完善其策略——指示采取哪些行动的策略。
RL 用于游戏中的任务，例如训练自适应 NPC、优化游戏平衡或创建 AI 对手。 例如，在策略游戏中，RL 可以教导 AI 管理资源和计划攻击，而无需手动编码规则。 然而，挑战包括设计与期望行为相符的奖励结构——设计不佳的奖励可能会导致智能体利用意外的捷径，例如无休止地耕种点数而不是完成目标。 训练时间是另一个障碍：复杂的游戏需要大量的计算资源。 尽管如此，RL 使动态 AI 能够通过经验改进，提供比脚本系统更具吸引力和不可预测性的游戏玩法。 开发人员通常使用 Unity ML-Agents 或 OpenAI Gym 等框架来高效地原型设计和测试 RL 模型。