要开始在您的 AWS 账户中使用 Amazon Bedrock,请按照以下步骤操作。首先,登录到 AWS 管理控制台并导航到 Amazon Bedrock 服务页面。Bedrock 是区域特定的,因此请确保您位于支持的区域,例如 us-east-1 或 us-west-2(请查看 AWS 文档以获取最新区域)。在 Bedrock 控制面板上,您需要为您的账户启用该服务。这通常涉及审查 AWS 的服务条款并单击一个**启用**按钮。启用 Bedrock 后,转到**模型访问**部分以请求访问特定的基础模型(例如,Anthropic Claude、AI21 Labs Jurassic)。某些模型需要手动批准,AWS 可能会立即批准,或经过简短审查后批准。一旦批准,您将在**模型访问**选项卡下看到模型列为“访问已授予”。
接下来,通过 AWS 控制台、SDK 或 API 使用 Bedrock。在控制台中,探索**Playground**以在不编写代码的情况下使用提示测试模型。对于编程访问,安装 AWS SDK(例如,适用于 Python 的 Boto3)并配置具有 bedrock:ListFoundationModels
和 bedrock-runtime:InvokeModel
权限的凭证。使用 SDK 列出可用模型
import boto3
client = boto3.client('bedrock')
models = client.list_foundation_models(byProvider='anthropic')
要生成文本,切换到 bedrock-runtime
客户端并调用模型
runtime_client = boto3.client('bedrock-runtime')
response = runtime_client.invoke_model(
modelId='anthropic.claude-v2',
body=json.dumps({"prompt": "Explain quantum computing"}),
)
将 anthropic.claude-v2
替换为您的模型 ID 并自定义输入参数。响应以 JSON 格式返回,您可以解析该格式以获取输出。
最后,遵循安全和成本的最佳实践。分配 IAM 策略,以限制 Bedrock 访问特定用户或角色。例如,创建一个仅允许在批准的模型 ID 上使用 bedrock-runtime:InvokeModel
的策略。通过 AWS Cost Explorer 监控使用情况和成本,因为 Bedrock 按每 1,000 个输入/输出令牌收费(定价因模型而异)。在将模型集成到应用程序之前,在 Playground 中测试模型以评估性能。对于生产工作负载,启用 AWS CloudTrail 以审计 API 活动,并设置错误处理以应对速率限制或节流。请参阅 AWS Bedrock 文档获取更新,因为会定期添加新的模型和功能。