异常检测中的对抗攻击是指故意操纵输入数据，欺骗机器学习模型将恶意或异常样本错误分类为正常的尝试。这些攻击利用了模型学习模式的弱点，通常通过对输入数据引入细微的、精心设计的扰动，而人类可能不会注意到这些扰动。目的是绕过检测系统，使恶意活动不被发现。例如，在网络入侵检测中，攻击者可能会稍微修改网络流量模式，使其在模型看来是“正常的”，同时执行诸如数据泄露之类的有害操作。
这些攻击通常通过瞄准异常检测模型的决策边界来工作。许多模型，例如自动编码器或隔离森林，依赖于重建输入数据或测量与预期行为的偏差。攻击者使用基于梯度的优化等技术生成对抗样本（旨在混淆这些模型的输入）。例如，在欺诈检测系统中，攻击者可以调整交易金额、时间戳或用户详细信息，以最小程度地更改原始数据，但显着改变模型的输出。这迫使模型将欺诈性交易视为合法交易。对抗攻击还可能涉及毒化训练数据，即攻击者在模型的训练阶段注入恶意样本，以破坏其对“正常”行为的理解。
防御对抗攻击需要结合主动和被动策略。一种方法是对抗训练，即模型在干净和对抗扰动的数据上进行训练，以提高鲁棒性。例如，在基于图像的异常检测中，向训练图像添加噪声或失真可以帮助模型更好地泛化。另一种防御措施是输入预处理，例如应用特征挤压（例如，降低输入分辨率）以最小化细微扰动的影响。监控系统数据分布或模型置信度得分的突然变化也可以标记潜在的攻击。开发人员应优先考虑可解释的模型，以便他们可以审核为什么特定样本被分类为正常。结合多种检测方法，如集成模型，可以通过多样化攻击者必须绕过的决策逻辑来进一步降低漏洞。