基准测试期间的日志记录和性能分析通过捕获详细的计时和资源使用数据来帮助识别性能瓶颈。通过对代码进行检测以记录特定操作何时开始和结束，开发人员可以衡量在诸如距离计算、数据传输或索引遍历之类的任务上花费了多少时间。性能分析工具会进一步细分每个函数或代码块的执行时间，从而揭示热点。例如，如果机器学习模型的推理基准测试显示 70% 的时间花费在 calculate_distances() 函数中，则表明距离计算是瓶颈。同样，日志显示数据加载期间频繁暂停可能会突出显示 I/O 或网络传输问题。
为了隔离数据传输瓶颈，开发人员可以在数据移动操作之前和之后记录时间戳（例如，从磁盘加载数据集或将数据传输到 GPU）。诸如 NVIDIA Nsight 或 Python 的 cProfile 之类的性能分析器可以量化在序列化/反序列化或内存复制中花费的时间。例如，基准测试可能会显示将批量的嵌入传输到 GPU 占用总运行时间的 40%，这表明需要优化数据管道（例如，使用预取或压缩格式）。同样，分布式系统中的网络相关延迟可以通过记录服务之间的请求/响应时间并将其与性能分析器报告的阻塞时间相关联来发现。
对于索引遍历瓶颈（在搜索算法中很常见），性能分析可以测量在导航诸如 B 树或基于图的索引之类的分层结构上花费的时间。日志跟踪每个查询访问的节点数或缓存未命中率会增加上下文。例如，向量数据库查询可能会将其 50% 的时间花费在 traverse_index() 函数中，这是由于在优化不良的分层可导航小世界 (HNSW) 图中进行了过多的比较。性能分析可以显示索引中对缓存不友好的内存访问模式会放大延迟。将此与显示每个查询的高节点访问计数的日志相结合，将指导诸如调整图连接参数或改进内存布局之类的优化。