最近发布的 Amazon Nova 模型是 Amazon 不断扩展的基础模型 (FM) 套件的一部分,旨在直接与 Amazon Bedrock 集成。 Bedrock 是一项完全托管的服务,通过统一的 API 为开发人员提供对一系列第三方和 Amazon 构建的 FM 的访问。 Nova 模型优先考虑成本效益和低延迟性能,将通过 Bedrock 提供,允许开发人员将它们与现有的模型(如 Claude、Command 或 Jurassic)一起部署。 这种集成意味着开发人员可以使用 Bedrock 的工具来测试、自定义和扩展 Nova 模型,而无需管理基础设施。
Amazon Nova 模型针对平衡成本和速度至关重要的场景进行了优化。 例如,它们可以针对诸如实时客户支持聊天机器人或内容审核系统之类的高容量任务进行定制,在这些任务中,降低推理成本和响应时间是优先事项。 Bedrock 通过提供诸如模型评估、使用专有数据进行微调以及检索增强生成 (RAG) 集成等功能来简化此过程。 开发人员可以使用标准化指标(例如每个美元处理的令牌数或延迟基准)直接在服务中将 Nova 的性能与其他 Bedrock 模型进行比较。 这样可以更轻松地为特定工作负载选择正确的模型,而无需切换平台。
通过 Bedrock 提供确保 Nova 模型将遵循与现有 FM 相同的访问模式。 开发人员可以通过 Bedrock 的 API 调用它们,使用 AWS Identity and Access Management (IAM) 管理权限,并在受支持的 AWS 区域中部署它们。 Amazon 已经确认 Nova 将在各个地区逐步推广,并在 Bedrock 控制台中提供文档和代码示例。 定价将遵循 Bedrock 的按需付费模式,费用基于输入/输出令牌。 对于已经使用 Bedrock 的团队,采用 Nova 需要最少的工作流程更改,使其成为优化性能敏感型应用程序而不彻底改造现有集成的实用选择。