要将 CPU、内存或云费用等运营成本整合到系统评估中，你需要衡量执行期间的资源消耗，并将其映射到实际成本。首先，检测你的代码或基础设施，以跟踪 CPU 时间、内存分配、网络带宽和存储 I/O 等指标。对于云服务，使用特定于提供商的计费 API 或监控工具（如 AWS CloudWatch 或 Google Cloud Monitoring）来捕获与定价模型相关的使用数据（例如，每个 vCPU 小时或 GB 的内存）。将这些指标与系统的性能数据（延迟、吞吐量）相结合，以创建成本-性能配置文件。例如，机器学习模型可能每小时处理 1,000 次推断，每次推断在云 VM 上的成本为 0.10 美元——跟踪准确性和每次推断的成本可以更清楚地了解权衡。
接下来，建立一个框架，将原始指标转换为货币单位。云成本通常是分层或基于使用量的，因此使用公式计算费用，如 (计算时数 × 实例价格) + (内存 GB × 内存成本) + 数据传输费用。对于本地系统，估算硬件折旧、功耗或维护成本。Prometheus 或 OpenTelemetry 等工具可以收集资源数据，然后你可以将其输入到成本计算器中。例如，使用 AWS Lambda 的无服务器函数可能每 GB-s 内存的使用成本为 0.00001667 美元，加上执行时间——跟踪峰值内存和执行持续时间可以让你对总成本进行建模。类似地，如果内存成本超过节省的时间，则减少 50% 运行时间但使内存使用量翻倍的高内存算法可能不会省钱。
最后，通过定义反映效率和经济性的关键绩效指标 (KPI)，来平衡成本与其他指标。例如，“每次交易成本”指标可以将云费用和处理时间结合起来，帮助比较架构。如果缓存系统将数据库调用减少 30%，但需要昂贵的 Redis 实例，请计算数据库操作的节省是否证明增加的缓存成本是合理的。Kubernetes 的 Vertical Pod Autoscaler 等自动化工具可以实时优化资源分配，而使用 Locust 等工具进行负载测试可以模拟流量以预测扩展成本。通过迭代测量、建模和调整，你可以优先考虑在不影响性能的情况下降低成本的优化——例如，为非延迟敏感型任务选择更便宜的区域，或切换到用于批量处理的竞价实例。