安全措施可以帮助降低大型语言模型 (LLM) 存储个人信息的风险，但不能完全消除它。安全措施是旨在过滤或修改输入和输出以防止意外行为的技术控制。例如，他们可能会扫描用户提示中是否存在电子邮件地址或电话号码等模式，并在模型处理请求之前阻止或匿名化它们。同样，输出过滤器可以编辑响应中的敏感信息。但是，这些措施侧重于实时交互，并不解决模型本身在训练或推理期间如何存储或保留数据的问题。
一个关键的限制是，安全措施在应用层运行，而不是在模型的内部存储器中运行。 LLM 从训练数据中学习模式，如果该数据包含个人信息，则模型可能会将其编码到其参数中。例如，如果一个模型在用户共享电子邮件的公共论坛上进行训练，即使安全措施后来在输出中阻止了这些电子邮件，它也可能会无意中生成这些电子邮件。此外，安全措施依赖于预定义的规则（例如，电话号码的正则表达式），并且可能会遗漏新的或模糊的数据格式。例如，用户可能会写“John 的联系方式是一二三……”而不是“123-456-7890”，从而绕过检测。这使得安全措施成为数据存储预防的被动层，而不是主动层。
为了减轻风险，开发人员应将安全措施与更广泛的数据处理实践相结合。在训练期间，应使用自动编辑或差分隐私等工具从数据集中删除个人信息。在推理时，日志记录和监控系统可以跟踪潜在的泄漏。例如，医疗保健聊天机器人可以使用安全措施来阻止响应中的显式患者 ID，同时还确保对话日志被加密并定期清除。最终，防止个人信息的存储需要一种多层方法：安全措施解决直接风险，但数据治理、模型设计和持续审计对于最大限度地减少长期风险同样至关重要。