Amazon Bedrock 通过统一 API 提供对专业基础模型的访问，从而处理不同的生成式 AI 模态，例如文本生成和图像生成。每种模态都由针对其特定任务优化的不同模型管理。例如，文本生成可能使用 Anthropic 的 Claude 或 Amazon Titan 等模型，而图像生成可以利用 Stability AI 的 Stable Diffusion。Bedrock 抽象化了基础设施的复杂性，让开发者可以通过标准化的端点与这些模型交互，而无需管理底层服务器或扩展。
对于文本生成，模型处理输入提示并通过预测 token 序列来生成输出。开发者可以发送包含提示以及温度或最大 token 数等参数的 JSON payload。模型返回生成的文本，可以是代码片段或营销文案等任何内容。例如，通过 Bedrock 使用 Claude，开发者可以通过将用户查询输入模型并接收结构化回复来自动化客户支持响应。图像模型的工作方式不同：它们接受文本提示，有时也接受种子图像，并输出像素数组或图像 URL。开发者可以通过指定样式参数并接收 base64 编码的图像，从 Stable Diffusion 请求一张 512x512 的产品图像。Bedrock 的 API 标准化了这些交互，尽管文本模型和图像模型之间的输入格式和输出结构有所不同。
该服务在幕后管理可扩展性和优化。文本模型通常以较低延迟处理更高的吞吐量，而图像生成每个请求需要更多计算资源。Bedrock 允许开发者通过可配置参数控制成本——例如限制图像分辨率或限制文本响应长度。例如，开发者可以选择 Amazon Titan 进行文本摘要，价格为每 1k token 0.001 美元，而使用 Stable Diffusion 进行图像生成，价格为每张图像 0.02 美元。Bedrock 的模型目录阐明了每个选项的功能，让团队可以在应用程序中混合使用不同模态——例如生成产品描述以及匹配的视觉效果——而无需基础设施开销。