对抗性增强是一种机器学习技术，通过在训练数据中故意包含经过篡改的示例来提高模型抵御对抗性攻击的能力。对抗性攻击涉及对输入数据（如图像或文本）进行微小、通常难以察觉的更改，以欺骗模型做出错误的预测。通过生成这些对抗性示例并将其添加到训练数据集中，模型学习识别和抵御此类操纵。这种方法与传统数据增强不同，传统数据增强侧重于通过良性变换（如旋转、裁剪或颜色调整）来扩展数据集。相比之下，对抗性增强直接针对模型的脆弱性，迫使它在攻击下更好地泛化。
一种常见的实现方法是使用快速梯度符号法（FGSM）或投影梯度下降（PGD）等算法来创建对抗性示例。例如，在图像分类中，FGSM 计算损失相对于输入像素的梯度，并朝着使预测误差最大化的方向调整图像。然后将这些扰动图像正确标记并混合到训练数据中。TensorFlow 的 CleverHans 或 PyTorch 的 TorchAttack 等框架提供了自动化此过程的工具。开发人员可以将对抗性示例集成到他们的训练循环中，确保模型在每个 epoch 期间都能遇到它们。随着时间的推移，模型会调整其权重，以最大程度地减少在干净数据和对抗性数据上的误差，从而有效地“学习”忽略扰动。
然而，对抗性增强也带来了权衡。生成对抗性示例会增加计算开销，尤其对于大型数据集。还存在过度拟合训练期间使用的特定攻击方法的风险，这可能无法泛化到新的攻击策略。此外，过度激进的对抗性增强可能会降低模型在干净、未修改数据上的准确性。开发人员必须仔细调整扰动幅度（例如，FGSM 中的 epsilon 值）等参数，并平衡每个批次中对抗性示例与干净示例的比例。测试模型对多种攻击类型的抵御能力并在单独的对抗性测试集上验证性能至关重要。虽然对抗性增强并非完美的防御手段，但它仍然是构建更强大机器学习系统的一个实用步骤。