要监控 OpenAI 上的 API 使用情况,您可以使用 OpenAI 平台的内置工具和编程方法。主要方法是通过 OpenAI 仪表板,它提供了 API 活动的可视化概览。登录您的帐户后,仪表板会显示总请求数、消耗的令牌和每个 API 密钥或项目的成本等指标。您可以按日期范围、API 密钥或模型类型(例如,GPT-4、DALL-E)过滤数据。例如,如果您正在测试一项新功能,您可能会跟踪每日令牌使用情况,以避免超出预算限制。该仪表板还允许您设置支出的软限制(电子邮件警报)和硬限制(自动关闭),这对于团队项目或成本敏感型应用程序非常有用。
要获得更精细的控制,请使用 OpenAI API 本身以编程方式检索使用情况数据。该 API 提供诸如 https://api.openai.com/v1/usage
(用于组织级别的数据)或 https://api.openai.com/v1/dashboard/billing/usage
(用于个人项目)之类的端点。您可以提取特定日期范围的数据,例如检查上个月的令牌消耗量。例如,开发人员可能会编写一个每天运行的脚本来提取使用情况指标并将其记录到数据库中。此方法非常适合将使用情况跟踪集成到现有监控系统中。请注意,API 响应包括 total_tokens
和 total_requests
等字段,您可以将这些字段映射到您的内部指标或警报工具。身份验证需要您的 API 密钥,对于组织帐户,还需要一个可选的组织 ID 标头。
最后,考虑使用第三方工具或自定义日志记录。诸如 Grafana、Datadog 之类的服务或自定义 Python 脚本可以提取 OpenAI API 日志以进行高级分析。例如,您可以将每个 API 调用的时间戳、模型、使用的令牌和响应状态记录到云存储服务(如 AWS S3)。这使您可以构建仪表板来监控趋势,例如错误率的峰值或意外的使用模式。如果您正在构建一个多租户应用程序,则向 API 请求添加诸如用户 ID 之类的元数据有助于跟踪每个客户的使用情况。对于实时警报,请设置 Webhook,以便在使用量超过阈值时通知您的团队。无论您是优化成本、调试还是强制执行速率限制,结合使用这些方法都可以确保全面的监控。