Haystack 支持多种类型的嵌入，为开发者提供了根据其特定需求选择模型的灵活性。该框架集成了流行的嵌入提供商，包括开源模型、商业 API 和自定义训练的解决方案。 例如，您可以使用 Sentence Transformers（例如，all-mpnet-base-v2）、OpenAI 的嵌入模型（例如，text-embedding-ada-002）或 Hugging Face Transformers 模型（例如，bert-base-uncased）。 每个选项都平衡了计算成本、准确性和部署便捷性等因素。 Haystack 的模块化设计允许您更换嵌入模型，而无需重写整个管道，使其能够适应不同的用例。
要在 Haystack 中实现嵌入，您通常使用诸如 DocumentEmbedder 或 SentenceTransformersTextEmbedder 等组件。 例如，如果您使用的是 Sentence Transformers 模型，您可以使用模型名称初始化嵌入器，并使用它将文本转换为向量。 对于 OpenAI 嵌入，您需要使用 API 密钥配置 OpenAIDocumentEmbedder 并指定模型。 Haystack 还支持与向量数据库（例如 FAISS、Milvus 或 Weaviate）的集成，这些数据库可以高效地存储和检索嵌入。 例如，EmbeddingRetriever 组件可以通过比较查询嵌入与预先计算的文档向量，根据语义相似性提取文档。
开发者还可以使用自定义模型或社区托管的嵌入。 如果您已经微调了 Hugging Face 模型，则可以使用 HuggingFaceInstructEmbeddings 直接加载它。 Haystack 与 PyTorch 和 TensorFlow 模型的兼容性实现了进一步的自定义。 对于需要低延迟的场景，较小的模型（如 all-MiniLM-L6-v2）是实用的，而较大的模型（如 e5-large）可能更适合高精度任务。 此外，Haystack 的 REST API 支持允许通过 API 调用集成诸如 Cohere 或 Jina AI 等嵌入服务。 这种灵活性确保您可以优化性能、成本或数据隐私 - 无论是在本地运行模型还是使用基于云的 API。