安全措施主要通过以下三个方面影响部署大型语言模型 (LLM) 的成本：计算开销、基础设施复杂性和风险缓解权衡。虽然安全措施提高了安全性和可靠性，但它们通常需要额外的资源来实现，这会增加费用。但是，它们还可以通过防止可能导致运营或法律问题的错误或滥用来降低长期成本。
首先，安全措施会增加计算开销。例如，内容审核过滤器或输出验证检查与 LLM 并行运行，从而增加处理时间和资源使用量。实时毒性过滤器可能会在每次响应发送之前对其进行扫描，从而增加延迟并需要额外的计算能力。如果大规模部署，这可能意味着更高的云成本或对更强大硬件的需求。同样，输入验证步骤（例如检查提示注入）可能涉及运行单独的模型或基于规则的系统，从而进一步增加成本。开发人员必须平衡这些检查的深度与他们的预算；过于严格的安全措施可能会不必要地增加费用。
其次，基础设施复杂性随着安全措施的增加而增长。构建一个用于记录标记的输出、重新路由有问题的请求或重试失败的验证的系统需要额外的工程工作。例如，部署可能需要一个中间件层来处理审核，这会增加服务器、API 或无服务器功能。维护成本也会上升：随着新边缘案例的出现，安全措施需要更新，并且监控工具必须跟踪其有效性。优化不良的安全措施管道（例如运行冗余检查）会加剧这些成本。但是，诸如缓存频繁验证或使用轻量级模型进行初始过滤之类的工具可以减轻一些费用。
最后，安全措施降低了隐藏成本的风险。如果没有安全措施，LLM 可能会生成有害内容，从而导致用户强烈反对、法律处罚或 API 禁令。例如，没有输入验证的聊天机器人可能会被利用来向用户发送垃圾邮件，从而需要昂贵的紧急修复。安全措施还有助于优化使用：限制响应长度或限制每个用户的 API 调用次数可以防止过度使用昂贵的 LLM 令牌。虽然实施安全措施具有前期成本，但它们通常通过避免更大的运营或声誉费用来获得回报。关键是设计与应用程序的风险概况相符的安全措施——避免过度设计和设计不足。