要使用 LlamaIndex 进行文档摘要，首先要加载文档并创建结构化索引，以便实现高效查询。 LlamaIndex 提供了将文本解析和组织成“节点”（带有元数据的文本块）的工具，并构建针对检索优化的索引。 例如，您可以使用 SimpleDirectoryReader 从文件夹加载文档，使用 NodeParser 将它们分割成易于管理的块，并创建一个 VectorStoreIndex 以启用语义搜索。 索引允许大型语言模型 (LLM) 在生成摘要时快速定位文本的相关部分。 此设置至关重要，因为摘要通常需要模型处理大型文档，而不会超过 token 限制或丢失上下文。
接下来，您可以使用特定于摘要的提示来查询索引。 LlamaIndex 的 QueryEngine 允许您传递自然语言请求，例如“总结此文档”或“主要要点是什么？”，以及控制输出长度或重点区域的参数。 例如，在构建索引后，您可以运行 query_engine.query("Provide a 3-sentence summary of the document") 以生成简洁的概述。 系统从索引中检索相关节点，将它们馈送到 LLM，并返回结构化摘要。 您还可以自定义提示（例如，强调面向开发人员的技术细节）或调整参数，例如 similarity_top_k 以确定模型在生成摘要时考虑的文本块数量。
对于更高级的用例，LlamaIndex 提供了分层索引和多文档聚合等功能。 如果您要总结冗长的报告，您可以首先使用 ListIndex 创建每个部分的高级摘要，然后将这些部分摘要组合成主摘要。 此外，ResponseSynthesizer 组件允许您在 tree_summarize（迭代改进输出）或 compact（优化 token 使用）等模式之间进行选择。 例如，记录 API 的开发人员可以使用 tree_summarize 来确保涵盖所有端点而没有冗余。 这些工具提供了灵活性，可以根据您的特定需求平衡细节、准确性和计算效率。