Haystack 通过模块化组件、优化的数据结构和可配置的管道来管理索引和搜索时间。 其核心是将索引过程（准备用于搜索的数据）与搜索过程（查询该数据）分开，允许开发人员微调每个阶段以获得最佳性能。 该框架支持多个文档存储（例如，Elasticsearch、FAISS 或 SQL 数据库），并提供工具来高效地预处理、向量化和组织数据。 这种灵活性确保可以根据特定的用例定制索引和搜索，从而平衡速度、准确性和资源使用。
对于索引，Haystack 使用文档存储来持久化数据，并使用管道来预处理文档。 例如，当索引大型文本语料库时，管道可能会将文档拆分为更小的块，使用像 BERT 这样的模型生成嵌入，并将文本和嵌入都存储在像 FAISS 这样的向量数据库中。 这种预处理步骤确保搜索操作可以利用快速的相似性比较。 Haystack 还支持索引期间的批量处理，这可以减少处理大型数据集时的开销。 开发人员可以通过选择轻量级的预处理步骤（例如，跳过元数据提取）或调整块大小等参数来进一步优化索引，以符合其性能目标。
在搜索时，Haystack 依赖于检索器和查询管道来执行高效的查找。 例如，像 DensePassageRetriever 这样的密集检索器使用预先计算的嵌入来快速查找语义相似的文档，而像 BM25 这样的稀疏检索器依赖于关键字匹配来进行更快的精确词项搜索。 混合方法结合了这两种方法，以提高召回率，而又不牺牲速度。 查询管道还可以包括用于频繁查询的缓存机制，或使用 GPU 加速来生成嵌入。 通过将检索与排序分离（例如，使用单独的重排序组件），Haystack 确保仅将计算密集型步骤应用于最相关的候选者，从而降低整体延迟。 这种模块化设计使开发人员可以尝试权衡——例如，使用 FAISS 优先考虑速度，或使用交叉编码器优先考虑准确性——而无需重写整个搜索堆栈。