要在 Haystack 中优化查询性能，请关注三个关键领域：索引效率、检索器配置和查询设计。首先，确保以最大限度地减少检索期间的延迟的方式处理和存储文档。 接下来，选择合适的检索器模型并针对您的特定数据调整其参数。 最后，构造您的查询以降低复杂性并利用内置优化。 每个步骤都直接影响 Haystack 返回结果的速度和准确性。
首先，优化您的索引管道。 使用像 FAISS 或 Milvus 这样的文档存储进行基于向量的检索，因为它们是为快速相似性搜索而设计的。 将长文档拆分为较小的块（例如，200-300 个单词），并带有重叠以保持上下文，同时避免过大的文本块。 例如，一篇 1,000 字的文章可以分成四个 250 字的块，其中包含 50 字的重叠。 包含日期或类别等元数据，以便以后进行过滤。 如果使用 Elasticsearch 与像 BM25 这样的稀疏检索器，请确保您的字段得到正确分析（例如，关键字与文本映射），以平衡精确度和召回率。 诸如删除多余的空格或规范化文本大小写之类的预处理步骤也可以减少索引大小并提高检索速度。
其次，配置您的检索器以提高效率。 对于密集检索器（例如，sentence-transformers），如果延迟至关重要，请使用更轻量级的模型，如“multi-qa-MiniLM-L6-dot-v1”，而不是像“all-mpnet-base-v2”这样更大的模型。 调整 top_k 参数以仅返回必要的结果 - 较低的值（例如，top_k=10）可减少计算量。 对于结合稀疏和密集检索器的混合方法，请使用 Haystack 的 EnsembleRetriever，其中包含加权分数，以避免冗余处理。 如果使用具有多个组件的管道，请使用 Haystack 的 DocumentStore 缓存嵌入或中间结果，以避免重新计算它们。 例如，在索引期间而不是在查询时预先计算嵌入。
第三，有策略地构建查询。 使用过滤器来缩小搜索范围 - 例如，使用元数据过滤器将结果限制为最近 30 天的文档。 通过删除不必要的词语来简化自然语言查询（例如，“X 公司 2023 年的收入是多少？”变为“2023 年收入 X 公司”）。 对于关键字繁重的检索器，将同义词或受控词汇添加到您的索引以处理变体（例如，“汽车”和“车辆”）。 测试不同的检索器和排序器组合 - 有时，快速的第一阶段检索器（如 BM25）与轻量级重新排序器（如 CrossEncoder）配对，可提供比单个复杂模型更好的速度/准确性权衡。 使用 Haystack 的基准测试工具监控性能以识别瓶颈。