Haystack 通过将文本转换为称为向量嵌入的数值表示，并使用相似度指标查找相关文档来处理基于向量的搜索。当你索引数据时，Haystack 使用向量嵌入模型（如 BERT 或 sentence-transformers）将文本转换为高维向量。这些向量捕获语义，从而使搜索能够根据上下文关联性而非精确关键词进行匹配。例如，查询“气候变化的影响”可能会返回提到“全球变暖的后果”的文档，即使精确术语并不重叠。Haystack 集成 FAISS、Milvus 或 Elasticsearch 等向量数据库，以高效存储这些向量嵌入并执行快速相似度搜索。
该过程涉及两个主要步骤：索引和查询。在索引期间，Haystack 将文档分割成易于管理的小块（例如段落），并使用 all-MiniLM-L6-v2 等模型为每个小块生成向量嵌入。这些向量嵌入与原始文本一同存储在向量数据库中。进行查询时，同一模型将查询转换为向量，数据库使用余弦相似度等指标检索最接近的匹配项。开发者可以使用 Haystack 的 EmbeddingRetriever 或 SentenceTransformerRetriever 组件来处理此工作流程。例如，将 FAISSDocumentStore 与 EmbeddingRetriever 搭配使用，可以索引维基百科文章并根据与用户问题的语义相似度检索答案。
Haystack 在选择向量嵌入模型和数据库方面提供了灵活性，以满足特定需求。你可以更换模型（例如从通用模型切换到在医学文本上微调的模型），或使用混合方法，将向量搜索与 BM25 等基于关键词的方法相结合。例如，开发者可能同时使用向量检索器和关键词检索器，然后合并结果以提高召回率。Haystack 的管道还支持预处理步骤，例如文本清洗或分块，以优化向量嵌入质量。这种模块化使团队能够根据他们的数据调整系统——例如对法律文档使用领域特定模型，或为技术手册调整分块大小——而无需重写整个搜索逻辑。