OpenAI 开发 DeepResearch(一个代表其研究计划的假设名称)是为了解决人工智能领域的基本挑战,并创建能够解决复杂的实际问题的系统。 该组织的核心使命 - 确保人工智能造福全人类 - 需要以优先考虑安全性、可扩展性和广泛可用性的方式推进该领域的发展。例如,GPT 和强化学习研究等早期项目旨在突破人工智能系统能够实现的目标的界限,同时保持与人类价值观的一致性。通过专注于基础研究,OpenAI 试图构建工具,供开发人员和企业调整以用于实际应用,从自然语言处理到机器人技术。
一个关键的动机是普及对高级人工智能能力的访问。在 GPT-2 或 GPT-3 等模型出现之前,最先进的人工智能系统通常需要专业知识或计算资源,而这些资源对于较小的团队来说是无法访问的。 OpenAI 在可扩展架构(如 Transformer 模型)方面的工作使开发人员能够利用预训练模型来执行代码生成 (Codex) 或文本摘要等任务,而无需从头开始构建所有内容。例如,发布 GPT-3 的 API 使开发人员能够以最小的基础设施投资将复杂的语言功能集成到应用程序中。 这种转变降低了准入门槛,并促进了医疗保健到教育等各个行业的创新。
另一个驱动因素是需要主动解决人工智能安全和伦理问题。 随着人工智能系统变得越来越强大,诸如带有偏见的输出或意外行为之类的风险变得越来越难以忽视。 OpenAI 对人类反馈强化学习 (RLHF) 等项目的研究旨在创建能够与用户意图保持一致并在动态环境中可靠运行的系统。例如,使用 RLHF 训练 ChatGPT 使得该模型能够生成更有帮助和更符合上下文的响应,同时最大限度地减少有害输出。 通过尽早优先考虑这些挑战,OpenAI 旨在为负责任的人工智能开发设定标准,提供其他开发人员可以采用的框架来构建更安全、更值得信赖的应用程序。 这种对能力和安全的关注反映了一种务实的方法,即以服务于不同用户需求的方式推进人工智能。