强化学习（RL）使用深度神经网络（DNN）来近似难以手动建模的复杂函数，例如价值函数（估计未来奖励）或策略（决定行动）。在传统强化学习中，Q-learning 或策略迭代等方法依赖表格来存储状态-行动值，但在图像或传感器数据等高维输入环境中，这变得不切实际。DNN 通过充当灵活的函数逼近器解决了这个问题，使 RL 智能体能够跨状态泛化并处理原始、非结构化数据。这种组合被称为深度强化学习（DRL），它使智能体能够在复杂环境中直接从经验中学习，而无需手动进行特征工程。
一个关键示例是深度 Q 网络（DQN），它使用 DNN 在 Atari 游戏中估计 Q 值（行动奖励）。网络将原始像素作为输入，并输出每个可能行动的 Q 值。DQN 引入了经验回放（存储过去的转换以打破训练数据中的相关性）和目标网络（通过使用单独的网络计算目标 Q 值来稳定学习）等技术。类似地，Proximal Policy Optimization (PPO) 等策略梯度方法使用 DNN 直接表示策略，输出行动的概率。例如，在机器人技术中，DNN 可以处理关节角度和相机馈送，以决定电机扭矩，通过试错学习来最大化任务完成奖励。
实际实现需要在探索（尝试新行动）和利用（使用已知策略）之间取得平衡。RL 中的 DNN 对学习率和奖励缩放等超参数敏感。例如，如果奖励稀疏，训练智能体玩游戏可能会失败，这需要奖励塑形（设计中间奖励）或课程学习（从更简单的任务开始）等技术。TensorFlow 或 PyTorch 等框架简化了 DNN 架构的构建，而 RLlib 或 Stable Baselines 等库提供了预构建的 DRL 算法。开发人员经常面临训练不稳定性等挑战，这可以通过梯度裁剪或归一化来缓解。最终，DNN 使 RL 能够扩展到现实世界的问题，但成功取决于仔细设计网络架构、奖励结构和训练过程。