要将 LlamaIndex 与预训练的嵌入一起使用，您需要配置该库以使用您选择的模型生成和存储数据的向量表示。 LlamaIndex 通过将文档组织成结构化索引来简化将外部数据连接到大型语言模型 (LLM) 的过程，而预训练的嵌入可以实现高效的语义搜索。 首先安装 LlamaIndex 和嵌入库（例如，sentence-transformers），然后定义嵌入模型，加载数据，并构建一个利用这些嵌入进行检索的索引。
首先，设置您的环境并选择一个嵌入模型。 例如，您可以使用 Hugging Face 的 all-MiniLM-L6-v2 或 OpenAI 的 text-embedding-ada-002。 LlamaIndex 提供了诸如 HuggingFaceEmbedding 或 OpenAIEmbedding 之类的包装器类来集成这些模型。 这是一个基本工作流程：加载文档（例如，PDF、文本文件）后，创建一个 ServiceContext 对象，该对象指定您的嵌入模型。 此上下文被传递给 VectorStoreIndex 类，该类自动为每个文档块生成嵌入并将其存储在向量数据库中（例如，FAISS、Pinecone）。 例如，使用 sentence-transformers 的本地模型，您可以使用 VectorStoreIndex.from_documents(documents, service_context=service_context) 初始化索引。
接下来，为您的用例自定义该过程。 如果您正在处理特定领域的数据（例如，医学文本），您可以选择专门的预训练模型，例如 PubMedBERT。 LlamaIndex 还允许您调整在嵌入之前如何将文档拆分为“节点”（文本块）。 例如，设置 chunk_size=512 可确保以可管理的片段处理文本。 查询索引时，LlamaIndex 使用嵌入来查找基于语义相似性的最相关节点，然后将这些节点馈送到 LLM 以生成答案。 为了优化性能，请考虑缓存嵌入或对大型数据集使用批量处理。 如果您使用的是 GPU，则 Sentence Transformers 中的 bge-large-en 之类的模型可以加快推理速度。
最后，权衡速度、准确性和资源使用率。 较小的模型（例如，all-MiniLM-L6-v2）速度更快，但可能会牺牲细微差别，而较大的模型（例如，text-embedding-3-large）以更高的延迟为代价捕获更多细节。 对于生产环境，请将 LlamaIndex 与专用向量数据库（如 Chroma 或 Weaviate）配对，以扩展到超出内存存储的范围。 通过将预训练的嵌入与 LlamaIndex 的索引管道相结合，您可以创建一个灵活的系统，用于将 LLM 扎根于您的数据中，而无需从头开始重新训练模型。