深度学习通过结合数据层技术、算法调整和混合方法来处理不平衡数据集。不平衡数据集指的是某些类别的样本数量显著少于其他类别，这可能导致模型倾向于优先处理多数类别，而在少数类别上表现不佳。为了缓解这一问题，开发者会采用旨在平衡模型训练并在所有类别上提升性能的策略。
在数据层面，技术侧重于训练前重新平衡数据集。一种常见方法是重采样，包括过采样少数类别（例如，复制样本）或欠采样多数类别（例如，随机移除样本）。例如，在图像分类中，过采样可能涉及使用旋转或裁剪等变换为稀有类别生成合成图像。像 SMOTE（合成少数类过采样技术）这样的工具通过在现有少数样本之间进行插值来创建合成数据点。另一种方法是数据增强，即向现有少数类别数据添加噪声、失真或变体，以人工扩展其表示。对于文本数据，这可能涉及同义词替换或句子打乱。
算法调整修改训练过程以考虑类别不平衡。类别加权是一种简单的方法，其中损失函数对少数类别的错误分配更高的惩罚。例如，在 TensorFlow/Keras 中，开发者可以将一个 class_weight 字典传递给 model.fit() 以按比例调整每个类别的损失。另一种技术是使用专门为不平衡设计的损失函数，例如 Focal Loss，它会降低已很好分类的样本的权重，并专注于难以分类的情况。这在目标检测任务中特别有效，其中背景像素（多数类别）数量远远超过感兴趣的对象。此外，优先使用精度、召回率或 F1 分数等评估指标，而不是准确率，可以更好地衡量在少数类别上的性能。
混合方法结合了数据和算法方法。例如，模型可以使用集成学习处理平衡的数据子集。像 EasyEnsemble 这样的技术会在欠采样的多数类别子集与完整的少数类别结合的数据上训练多个模型，然后汇总预测。另一种策略是迁移学习：在一个平衡的数据集（例如 ImageNet）上预训练模型，然后在不平衡的目标数据上进行微调。这利用了学习到的特征来减少对多数类别的偏见。开发者还可以尝试架构修改，例如添加辅助输出层或注意力机制以强调未充分表示的模式。通过结合这些策略，深度学习模型可以在不需要完美分布数据的情况下实现更平衡的性能。