AI 推理模型引入了一些安全风险，开发人员必须解决这些风险，以确保安全部署。一个主要问题是数据中毒，攻击者会操纵训练数据以破坏模型的行为。例如，攻击者可以将有偏差的或恶意的样本注入用于训练欺诈检测系统的数据集中，导致模型忽略某些类型的欺诈交易。同样，对抗性攻击利用模型处理输入的方式中的漏洞。通过微妙地改变输入数据（例如向图像添加难以察觉的噪声），攻击者可以欺骗模型，使其错误分类。这在关键系统中尤其危险，例如自动驾驶汽车由于对抗性修改而错误地解释道路标志。
另一个主要风险是隐私泄露。在敏感数据（如医疗记录或用户行为）上训练的 AI 模型可能会无意中记住训练集中的特定细节。例如，在私人电子邮件上训练的语言模型可以逐字复制文本，从而暴露个人信息。模型反演攻击更进一步：攻击者使用精心设计的输入来查询模型，以重建训练数据的部分内容。在医疗保健领域，这可能意味着从诊断模型的输出中暴露患者身份。像差分隐私或联邦学习这样的技术可以减轻这些风险，但实施它们而不降低模型性能需要仔细的平衡。
最后，恶意滥用 AI 推理模型构成重大威胁。即使是精心设计的模型也可以被重新用于有害活动。例如，代码生成工具可能被用于创建恶意软件，或者文本生成模型可能自动化网络钓鱼活动。此外，访问控制不足的模型可以通过 API 被劫持以执行未经授权的任务。开发人员必须构建安全措施，例如输入验证、使用监控和严格的 API 速率限制。道德准则和定期审计对于检测和防止滥用也至关重要。解决这些风险需要积极主动的设计选择、持续的测试以及安全和 AI 团队之间的协作，以领先于新兴威胁。