防护栏是一种约束大型语言模型 (LLM) 输出的机制，以确保它们符合特定的准则，例如安全性、准确性或格式要求。 它们充当模型响应必须通过的过滤器或规则，然后才能呈现给用户。 例如，防护栏可能会阻止有害内容、强制执行特定的响应结构（如 JSON）或阻止模型讨论敏感主题。 这些约束有助于减轻偏差输出、错误信息或不当语言等风险。 通过设置明确的界限，防护栏提供了一种平衡模型灵活性与实际需求（如合规性或用户安全）的方法。
虽然防护栏提高了可靠性，但它们也会影响 LLM 在创造力、延迟和相关性方面的性能。 例如，过于严格的内容过滤器可能会导致模型拒绝有效答案，或者强制它进入重复模式。 具有阻止提及竞争对手的防护栏的客户服务聊天机器人可能难以回答有关产品比较的问题，即使用户的意图是中性的。 此外，实时检查输出的防护栏（例如，扫描禁止关键字）会增加处理步骤，这可能会增加响应时间。 这在需要低延迟的应用（如实时翻译）中尤其明显。 开发人员还必须考虑防护栏如何与模型的自然语言模式交互——强制使用刚性模板可能会使响应感觉像机器人，从而降低用户参与度。
为了优化防护栏的实施，开发人员应专注于平衡安全性和实用性。 例如，医疗建议应用程序可以使用基于关键字的过滤器来阻止危险的建议（例如，“不要服用处方药”），同时允许模型解释上下文中的副作用。 分层防护栏——例如结合预处理输入检查、后处理输出验证和用户反馈循环——可以减少误报。 使用多样化的数据集和边缘情况测试防护栏有助于识别差距； 除非接受过口语化术语的培训，否则旅行助手模型可能无法识别受限物品的区域性俚语。 根据实际使用情况定期更新防护栏规则，可确保它们随着用户需求和语言的发展而保持有效。 通过优先考虑灵活性和迭代改进，开发人员可以保持 LLM 性能，而不会影响安全性。