为了确保向量数据库在负载下表现良好，请跟踪诸如每秒查询数 (QPS)、平均搜索时间和特定延迟阈值下的召回率等指标。这些指标有助于平衡速度、可扩展性和准确性。此外，监控硬件利用率、错误率和队列时间可以深入了解系统健康状况和瓶颈。
首先，QPS 衡量系统每秒处理的查询数量。此指标反映了吞吐量，有助于确定系统是否随着负载的增加而扩展。例如，如果 QPS 从 100 飙升到 500 但延迟保持稳定，则系统扩展良好。但是，如果延迟急剧上升，您可能需要优化索引或添加资源。平均搜索时间（延迟）同样重要 - 同时跟踪平均值和百分位数（例如，p95、p99）以识别异常值。平均延迟为 50 毫秒但 p99 为 500 毫秒的系统表示偶尔会出现速度下降，这可能源于资源分配不均或查询路由效率低下。
其次，给定延迟下的召回率衡量约束下的准确性。例如，如果向量数据库在 100 毫秒时达到 90% 的召回率，但在 50 毫秒时降至 70%，您可以调整参数，例如 HNSW 索引中的搜索探针数量或图层数。使用真实数据集来验证召回率：将前 K 个结果与精确最近邻进行比较。如果召回率在负载下降低，则可能表明分片或压缩设置过于激进。平衡召回率和延迟可确保用户获得相关结果，而不会造成无法接受的延迟。
最后，跟踪硬件指标（CPU、内存、磁盘 I/O）和错误率。高峰 QPS 期间的高 CPU 使用率表明计算瓶颈，而内存飙升可能表明缓存效率低下。当索引超过 RAM 容量时，通常会发生磁盘 I/O 瓶颈。错误率（例如，超时或查询失败）揭示了稳定性问题 - 负载下 5% 的错误率可能意味着节点或线程限制不足。队列时间（查询在处理之前等待的时间）突出显示了并发限制；不断增长的队列表明需要横向扩展。例如，如果队列时间超过 200 毫秒，则添加节点或负载平衡器可能会缓解反压。将这些指标结合起来可以全面了解性能并指导有针对性的优化。
