是的，一些新兴技术正在改进开发人员为大型语言模型 (LLM) 实施防护栏的方式。这些方法侧重于使模型更安全、更可靠、更易于控制，同时又不牺牲性能。三个关键领域包括基于模型的自监督、外部验证系统以及结合多种技术的混合架构。
一种方法是将自监督直接构建到模型中。例如，像 Anthropic 开发的“宪法人工智能”框架定义了模型在训练和推理过程中必须遵循的明确规则或原则。该模型经过训练，可以根据这些规则批判自己的输出，并在响应之前对其进行修改。另一个例子是微软的 Guidance 框架，它允许开发人员使用模板或正则表达式模式以编程方式约束输出，确保模型遵守特定格式或避免禁用术语。这些方法将防护栏集成到模型的工作流程中，而不是仅仅依赖于事后过滤器。
外部验证系统在模型生成文本后添加一层检查。 例如，英伟达的 NeMo Guardrails 使用单独的基于规则或较小的 ML 模型来验证响应的安全性、相关性或事实准确性，然后再将其提供给用户。 像 Guardrails AI 这样的工具采用检索增强生成 (RAG) 来对照可信数据库交叉检查输出，从而减少幻觉。 例如，医学聊天机器人可以根据精选的知识库验证药物剂量建议。 这些系统充当独立的验证器，提供更新规则的灵活性，而无需重新训练主模型。
混合架构结合了多种技术以提高鲁棒性。 OpenAI 的 GPT-4 使用分类器系统来标记不安全的输出，这会触发辅助模型来重写响应。 同样，IBM 的 Project Wisdom 将符号 AI（如基于逻辑的规则）与神经网络集成在一起，以在法律或财务建议等领域强制执行严格的约束。 例如，混合系统可能首先生成草稿响应，然后通过 FactScore 等事实检查服务运行它，最后应用隐私过滤器来编辑个人数据。 这些分层方法解决了任何单一方法的弱点，在灵活性和控制之间取得平衡。