防护栏和过滤器都是用于控制大型语言模型 (LLM) 行为的技术，但它们服务于不同的目的，并在模型工作流程的不同阶段运行。**防护栏**是主动措施，通过在生成过程中设置边界或约束来指导模型的响应。 它们通过影响模型的决策来塑造模型的输出，通常通过预定义的规则、提示或微调。 例如，防护栏可能会指示模型避免讨论医疗建议或优先考虑简洁的答案。 另一方面，**过滤器**是被动工具，用于在生成后筛选模型的输出。 它们充当安全网，删除或修改违反特定策略的内容，例如仇恨言论、个人数据或离题的响应。 过滤器可能会扫描生成的文本中的亵渎内容，并将其替换为占位符。
防护栏和过滤器的实施方式差异很大。 防护栏通常集成到模型的输入或生成逻辑中。 例如，开发人员可能会设计一个系统提示，例如“你是一个有用的助手，可以回答有关软件开发的问题。 如果被问到不相关的主题，请礼貌地拒绝。” 这从一开始就引导了模型的行为。 然而，过滤器通常在生成后工作。 它们可能会使用正则表达式、关键字黑名单或分类器（例如，经过训练的模型来检测有害语言）来分析和清理输出。 例如，API 可能会应用过滤器来编辑响应中的电话号码或电子邮件地址。 防护栏侧重于影响模型的内部过程，而过滤器侧重于清理最终输出。
用例突出了它们之间的差异。 客户支持聊天机器人可能会使用防护栏来专注于故障排除，确保模型不会偏离到随意的对话中。 如果用户问“你最喜欢的电影是什么？”，防护栏可确保响应保持专业。 与此同时，社交媒体审核工具可能会使用过滤器来扫描用户生成的帖子中的有害内容，即使 LLM 最初生成了该内容。 另一个例子：医疗保健应用程序可以使用防护栏来防止模型生成未经证实的医疗声明，而过滤器可确保没有患者数据泄露到响应中。 这两种技术是互补的——防护栏通过引导模型来减少过滤的需求，而过滤器可以捕获遗漏的极端情况。 开发人员经常将它们结合起来，以实现对 LLM 输出的强大控制。