LangChain 通过不同的机制处理短期记忆和长期记忆，这些机制分别用于管理即时上下文和持久知识。短期记忆侧重于保留会话中最近的交互，而长期记忆则允许访问超出当前会话的历史数据。这些方法解决了不同的需求：维护对话流程与随着时间的推移回忆更广泛的上下文或用户特定详细信息。
LangChain 中的短期记忆通常使用内存缓冲区或滑动窗口进行管理。 例如，ConversationBufferMemory 类存储最近消息的原始列表，允许语言模型引用对话的即时上下文。 但是，由于语言模型有 token 限制，LangChain 提供了诸如 ConversationBufferWindowMemory 之类的工具，该工具将缓冲区限制为固定数量的最近交流。 例如，如果设置为窗口大小为 4，则仅保留最后两个用户和助手消息。 这样可以确保模型保持在 token 约束范围内，同时保持一致性。 短期记忆非常适合聊天界面等场景，在这些场景中，引用最后几个回合（例如，澄清用户的后续问题）至关重要，但存储整个历史记录是不切实际的。
长期记忆依赖于外部存储系统和检索技术。 LangChain 与 FAISS 或 Pinecone 等数据库集成，以存储过去交互的嵌入。 例如，使用 VectorstoreRetrieverMemory，对话将转换为向量表示并保存。 发生查询时，LangChain 执行相似性搜索以获取相关的历史数据。 一个实际的用例是一个客户支持机器人，它需要回忆用户几周前的问题。 通过嵌入和检索过去的工单，机器人可以提供上下文相关的响应，而不会使即时对话缓冲区混乱。 这种方法结合了检索增强生成 (RAG)，其中模型动态地从长期存储中提取以补充短期上下文。
总而言之，LangChain 的短期记忆优先考虑最近的瞬态数据以进行实时交互，而长期记忆则利用外部存储和检索来持久保存和回忆更广泛的上下文。 开发人员根据用例在两者之间进行选择：短期用于对话流程，长期用于个性化或历史参考。 这两种机制共存，诸如 ConversationalRetrievalChain 之类的链结合了它们以增强模型性能。