深度学习模型通过学习训练数据中的模式来泛化，这些模式可以应用于未见过的示例，而不是记住特定的细节。当模型捕获问题的底层结构时，就会发生泛化，使其能够对新数据做出准确的预测。这取决于诸如模型的架构、训练数据的质量和多样性以及防止过拟合的技术等因素。例如，在图像上训练的卷积神经网络 (CNN) 学习识别早期层中的边缘和纹理以及更深层中的更复杂的形状。这些分层特征有助于它泛化到新图像，即使它们与训练集略有不同。
几种机制有助于深度学习模型泛化。诸如 dropout、权重衰减和数据增强之类的正则化技术明确地阻止过拟合。 Dropout 在训练期间随机停用神经元，迫使网络依赖于分布式表示而不是特定节点。权重衰减（L2 正则化）惩罚大的参数值，鼓励关注稳健模式的更简单的模型。数据增强，例如旋转或裁剪图像，通过创建现有示例的变体来扩大训练数据集的有效大小。架构选择也发挥着作用：例如，ResNet 模型中的残差连接简化了非常深层的网络的训练，这些网络可以学习更复杂的功能而不会崩溃成记忆。此外，诸如随机梯度下降 (SGD) 之类的优化算法通过小批量采样引入噪声，这可以作为一种隐式正则化器，防止模型过于紧密地收敛到训练数据。
尽管取得了成功，但深度学习模型并不总是能完美泛化。它们的性能很大程度上依赖于训练和测试数据来自相似分布的假设。如果测试数据差异很大——例如，在白天图像上训练的模型在夜间场景中表现不佳——泛化就会失败。对抗性示例（其中小的输入扰动会导致不正确的预测）也突出了学习模式中的漏洞。诸如“双重下降”现象之类的理论解释表明，过度参数化的模型（参数多于训练示例）仍然可以通过训练期间的隐式正则化很好地泛化。然而，实际挑战仍然存在：模型可能会利用表面的相关性（例如，在动物分类中检测草而不是牛）或在域外场景中失败。开发人员必须验证不同数据集上的模型，监控分布偏移，并使用诸如域适应之类的技术来提高鲁棒性。