神经网络中的欠拟合发生在模型过于简单而无法捕捉数据中的潜在模式时，导致在训练和验证数据集上的表现都不佳。 这通常发生在模型缺乏学习复杂关系的能力、训练迭代次数太少或受到过度正则化约束时。 为了解决欠拟合问题，开发人员可以调整模型的架构、训练过程或数据预处理，以更好地使模型的复杂性与问题的需求对齐。
一种有效的方法是通过添加更多层或神经元来增加模型的容量。 例如，只有一个隐藏层的神经网络可能难以学习图像分类任务中的非线性模式。 升级到更深层的架构——例如添加两到三个带有 ReLU 激活函数的隐藏层——可以提供捕捉复杂特征所需的灵活性。 此外，延长训练持续时间或调整学习率也有帮助。 如果训练过早停止（例如，由于固定数量的 epoch），优化器可能尚未收敛到良好的解决方案。 使用像 Adam 这样的自适应优化器，并使用较低的学习率（例如，0.001 而不是 0.1）可以帮助模型更有效地学习，而不会过度超过最小值。 例如，一个训练了 50 个 epoch 的模型可能会欠拟合，但如果提前停止没有过早地阻止进程，将其扩展到 200 个 epoch 可能会解决该问题。
另一种策略涉及改进特征工程或减少正则化。 如果输入特征缺乏有意义的信息，即使是复杂的模型也会难以学习。 开发人员可以创建更多信息性特征——例如回归问题的多项式项或分类数据的嵌入——来帮助模型学习。 例如，在销售预测模型中添加交互项（例如，将两个特征相乘）可能会揭示隐藏的关系。 同样，过度的正则化（例如，高 L2 惩罚或激进的 dropout 率）会过度约束模型。 将权重衰减参数从 0.1 降低到 0.01 或将 dropout 率从 50% 降低到 20% 可能会在泛化能力和学习能力之间取得更好的平衡。 最后，如果数据集很小，合成数据增强（例如，旋转图像或添加噪声）可以提供更多训练示例，尽管这通常与过拟合更相关。 通过系统地测试这些调整，开发人员可以诊断并解决欠拟合问题。