Amazon Bedrock 通过提供统一的 API 层来集成第三方 AI 模型,使开发人员能够访问来自 AI21 Labs、Anthropic 和 Stability AI 等提供商的模型,而无需管理单独的集成。Bedrock 充当托管服务,处理底层基础设施、安全性和可扩展性,同时提供标准化接口与各种模型交互。例如,开发人员可以使用 Bedrock 的 API 调用 AI21 Labs 的 Jurassic-2 进行文本生成、Anthropic 的 Claude 进行复杂推理或 Stability AI 的 Stable Diffusion XL 进行图像生成——所有这些都通过一致的 API 端点和工具实现。这种方法抽象了提供商特定 API 的差异,使开发人员能够以最少的代码更改切换模型。
从技术上讲,Bedrock 通过与提供商合作,将他们的模型容器化并部署在 AWS 基础设施上来集成第三方模型。提供商将他们的模型打包到与 Bedrock 运行时环境兼容的 Docker 容器中,然后由 AWS 托管和管理。Bedrock 通过 AWS Identity and Access Management (IAM) 策略、加密和隔离的执行环境来加强安全性,以确保数据隐私。例如,当开发人员通过 Bedrock 向 Stability AI 的图像模型发送请求时,输入和输出数据在传输和静态时都会被加密,并且该模型在与其它租户隔离的沙盒环境中运行。AWS 处理扩展、负载平衡和维护,使开发人员能够专注于应用程序逻辑而不是基础设施。
使用 Bedrock 的开发人员可以通过使用专有数据微调它们或通过 Bedrock 的 API 调整参数来自定义第三方模型。例如,开发人员可以使用 Bedrock 的微调工具来使 Anthropic 的 Claude 适应特定的使用案例,例如法律文件分析,方法是在存储在 Amazon S3 中的私有数据集上训练它。Bedrock 还通过提供与 AWS 服务(如 Lambda、API Gateway 或 SageMaker)的预构建集成来简化部署,使开发人员能够构建组合多个模型的应用程序。一个常见的工作流程可能涉及使用 AI21 Labs 的模型进行初始文本处理、Claude 进行摘要以及 Stability AI 生成视觉效果——所有这些都通过 Bedrock 的 API 进行协调,并通过 AWS CloudWatch 进行一致的日志记录和监控。