Amazon Bedrock 通过利用托管基础模型，为内容审核和政策执行提供了实用的工具。开发者可以使用其预训练模型和自定义选项，自动检查不当内容，确保符合指南，并适应特定需求，而无需管理基础设施。以下是三个主要用例。
首先，Bedrock 可以自动筛选用户生成的文本，以查找违反政策的内容。例如，社交媒体平台可以使用 Anthropic 的 Claude 或 AI21 Labs 的 Jurassic-2 等模型，标记评论或帖子中的仇恨言论、骚扰或垃圾邮件。这些模型能够分析上下文，检测细微模式（例如，讽刺或暗语），并返回审核分数。开发者可以使用自定义数据集（例如，公司的内部政策示例）对模型进行微调，以提高针对特定案例的准确性，例如检测专有技术数据泄露或地区特定的法律要求。Bedrock 的 API 还允许将这些检查集成到实时工作流程中，例如在有害内容发布前将其阻止。
其次，它有助于在生成内容中执行品牌和合规性指南。例如，使用 Bedrock 模型自动生成产品描述的电商工具可以确保输出避免使用禁用词（例如，未经核实的“有机”）或符合正式的品牌调性。类似地，客户支持聊天机器人可以配置为通过交叉引用政策文档来拒绝涉及敏感主题（例如，医疗建议）的请求。Bedrock 的批量处理支持可以对现有内容进行批量分析，例如扫描数千个论坛帖子查找个人身份信息 (PII) 暴露，并大规模屏蔽违规内容。
最后，Bedrock 支持多模态审核。其视觉模型（如 Amazon Titan）可以扫描图像或视频中的露骨内容，而文本模型则检查随附的字幕。内容托管平台可以使用此功能自动模糊不适合工作场合（NSFW）的图像或标记误导性的 AI 生成艺术。开发者可以串联多个模型，例如，使用摘要模型压缩长帖子，然后再扫描其是否存在仇恨言论，以平衡成本和准确性。Bedrock 的无服务器方法简化了在流量高峰期间扩展这些工作流程的操作，例如实时审核直播视频流。
通过结合预训练模型、自定义功能和可扩展的基础设施，Bedrock 减少了构建和维护内容审核系统所需的工作量，同时使其能够适应不断变化的政策。