社区驱动的项目通过利用集体投入、开源工具和迭代测试来处理 LLM 护栏。 这些项目依靠贡献者来识别风险、提出缓解措施，并通过 GitHub 等共享平台完善规则。 例如，社区可以通过分析用户提交的有害输出示例来创建禁止的主题或偏见列表。 然后，开发人员将这些规则实现为基于代码的过滤器、提示模板或微调数据集。 透明度是关键：关于什么构成不安全内容或偏见的讨论通常是公开的，从而使不同的观点能够塑造护栏。 这种方法确保解决方案在真实场景而非理论边缘情况下进行测试。
开源工具在扩展护栏实施方面发挥着核心作用。 像 Hugging Face 的 Transformers 库或 OpenAI Moderation API 这样的项目提供了用于内容过滤的预构建组件，社区可以根据自己的需求进行调整。 例如，开发人员可能会将毒性分类模型集成到聊天机器人中以阻止仇恨言论，然后根据社区反馈调整其敏感性。 一些项目还使用协作数据集，例如 Anthropic 的红队演习，志愿者在其中生成对抗性提示来对模型进行压力测试。 这些资源使较小的团队可以从大规模协作中受益，而无需从头开始重新发明安全措施。 至关重要的是，所有代码和规则都是公开可审计的，这让贡献者可以发现差距或过度阻止。
治理结构决定了如何制定和执行护栏决策。 许多项目使用轻量级流程，例如 GitHub Issues，用于提出规则更改，然后进行投票或维护者批准。 例如，OpenAssistant 项目在其公共 wiki 中记录了其审核政策，并允许贡献者讨论例外情况，例如处理医疗建议查询。 其他人则采用正式的审查委员会，例如 BigScience 的 LLM 伦理框架，该框架涉及多学科团队评估风险。 这平衡了敏捷性和问责制：虽然任何人都可以提出改进建议，但最终实施需要达成共识。 随着时间的推移，这些流程会创建动态护栏，这些护栏会随着技术进步和社区价值观的发展而发展。