为了确定系统在召回率与延迟之间达到平衡的最佳工作点，首先应系统地衡量系统配置的改变如何影响这两个指标。例如，如果系统使用机器学习模型进行搜索或推荐，你可以调整候选结果的数量、模型的复杂性或近似算法的使用（例如，矢量搜索中的 ANN）。进行受控实验，每次只改变一个参数，保持其他参数不变，然后记录由此产生的召回率（例如，检索到的相关结果的百分比）和延迟（例如，平均响应时间）。将这些结果绘制在召回率-延迟曲线上，可以揭示这两个指标之间的权衡关系。例如，增加检索到的候选结果数量可能会提高召回率，但会降低响应速度；而使用更简单的模型可能会降低延迟，但代价是漏掉相关结果。
接下来，分析曲线以确定与您的应用程序优先级相符的点。如果系统服务于看重速度而非完整性的用户（例如实时聊天应用的搜索功能），您可能会优先选择较低的延迟，即使这意味着接受 80% 的召回率。相反，一个医疗诊断工具可能需要 95% 的召回率，即使响应时间更长。为了具体化这个决策，根据用户需求或业务目标定义明确的要求。例如，设置一个最大可接受延迟（例如 200 毫秒），并在该约束下选择可达到的最高召回率。或者，使用一个成本函数来量化权衡，该函数为召回率和延迟分配权重（例如，0.7 * 召回率 - 0.3 * 延迟）。如果没有明确的优先级，可以通过 A/B 实验测试不同的工作点，衡量用户参与度或满意度，然后选择能最大化预期结果的配置。
最后，在现实条件下验证选定的工作点，并根据需要进行迭代。例如，使用选定的配置部署系统并在生产环境中监控其性能，检查实验室测试与实际行为之间的差异（例如，高峰流量期间的延迟峰值）。如果由于数据分布变化或用户负载增加，系统的召回率或延迟随时间发生漂移，重新运行评估过程以更新工作点。金丝雀部署或影子测试等工具可以帮助安全地评估变更。例如，如果一个新的缓存层降低了延迟但损害了召回率，在完全推出之前，先对一部分流量比较缓存和未缓存的结果。这种迭代方法确保系统随着需求的演变保持优化状态。