是的，护栏可以应用于像 LLaMA 或 GPT-J 这样的开源大型语言模型 (LLM)。护栏是约束模型输出以符合特定安全、道德或功能要求的技术或工具。虽然开放 LLM 缺乏某些商业 API 中内置的审核功能，但开发人员可以通过修改输入、过滤输出或微调模型本身来实现自定义护栏。 这些方法使团队能够定制行为，而无需依赖专有系统，尽管它们需要仔细的设计和测试。
一种方法涉及预处理用户输入和后处理模型输出。例如，开发人员可以使用关键字过滤来阻止包含有害语言的提示到达模型。同样，输出过滤可能涉及正则表达式模式或分类器来检测和编辑响应中的敏感信息。 像 Hugging Face Transformers 库的 TextClassificationPipeline 这样的工具可以标记有害内容，而像 NVIDIA 的 NeMo Guardrails 这样的框架可以实现基于规则的约束（例如，“永远不要提供医疗建议”）。 对于 LLaMA，可以设计系统提示来明确指示模型避免某些主题，例如“只回复编程问题，拒绝其他请求”。 这些层充当安全网，尽管它们可能需要迭代改进以平衡严格性和可用性。
另一种策略是在精心策划的数据集上微调模型以塑造其行为。 例如，在拒绝有害请求或优先考虑事实准确性的示例上训练 LLaMA 可以减少不安全的输出。 但是，这需要大量的计算资源和特定领域的数据。 挑战包括保持模型性能——过于严格的护栏可能会降低响应质量——以及解决模型规避过滤器的边缘情况。 结合方法（例如，微调加上输出过滤）通常效果最佳。 开发人员还应监控实际使用情况以更新护栏，因为对抗性输入可能会暴露漏洞。 虽然开放 LLM 提供了灵活性，但有效的护栏需要持续的努力才能确保可靠性，而不会扼杀模型的实用性。