LangChain 实现 PDF 聊天机器人记忆功能

本文详解如何基于 LangChain + FastAPI 构建支持上下文感知的 PDF 智能问答系统，重点解决“无法记住历史提问”问题，通过 ConversationBufferMemory 实现真正的多轮对话连贯性。

本文详解如何基于 LangChain + FastAPI 构建支持上下文感知的 PDF 智能问答系统，重点解决“无法记住历史提问”问题，通过 ConversationBufferMemory 实现真正的多轮对话连贯性。

在构建 PDF 智能问答服务时，一个常见痛点是：单次提问能返回准确答案，但后续追问（如“它提到的日期是多少？”、“这个结论的依据是什么？”）却无法关联前文——系统“失忆”了。根本原因在于原始代码中每次调用 /process/ 都新建独立链（RetrievalQA），未共享对话状态。解决方案不是简单启用 memory 参数，而是将 ConversationBufferMemory 与 load_qa_chain 深度集成，并配合自定义 Prompt 模板显式注入聊天历史。

✅ 正确实现多轮记忆的关键步骤

1. 全局初始化内存实例（非每次请求新建）

   memory = ConversationBufferMemory(
       memory_key="chat_history", 
       input_key="human_input",
       return_messages=True  # 返回 Message 对象而非字符串，兼容新版 LangChain
   )

   ⚠️ 注意：必须声明为模块级变量（如 global memory 或使用依赖注入），否则每次请求都会重置。

2. 构造带历史上下文的 Prompt 模板
   模板需明确预留 {chat_history} 占位符，并确保其位置在问题之前，让 LLM 理解对话流：

   template = """You are a helpful assistant answering questions about a document.
   
   Context from document:
   {context}
   
   Previous conversation:
   {chat_history}
   
   Human: {human_input}
   Assistant:"""
   prompt = PromptTemplate(
       input_variables=["chat_history", "human_input", "context"],
       template=template
   )

3. 使用 load_qa_chain 并传入 memory 和 prompt
   替代已弃用的 ConversationalRetrievalChain（v0.1+ 中行为不稳定）：

   chain = load_qa_chain(
       llm=OpenAI(temperature=0.0),
       chain_type="stuff",
       memory=memory,
       prompt=prompt
   )
   response = chain.invoke({
       "input_documents": docs,
       "human_input": question
   }, return_only_outputs=True)

? 完整工作流程示例

假设用户上传一份《2023 年公司年报.pdf》，随后发起以下对话：

• Q1: “公司去年营收是多少？” → 返回 “¥1.2B”
• Q2: “同比增长多少？” → 模型结合 chat_history 中的“去年营收 ¥1.2B”及文档中“2022 年营收 ¥1.0B”，正确回答 “20%”

这依赖于 memory 自动将 Q1 的问答对存入 chat_history，并在 Q2 请求时通过 Prompt 注入上下文。

⚠️ 重要注意事项

• 避免 global vector_store 的线程安全风险：生产环境应改用依赖注入或缓存服务（如 Redis）存储向量库，当前代码仅适用于单用户本地测试。
• return_messages=True 是关键：LangChain v0.1+ 要求 memory 返回 BaseMessage 列表（如 AIMessage, HumanMessage），否则 Prompt 渲染失败。
• Embedding 与 LLM 的一致性：确保 OpenAIEmbeddings() 与 OpenAI() 使用相同模型（如 text-embedding-3-small + gpt-3.5-turbo），避免语义空间错位。
• 调试技巧：打印 memory.load_memory_variables({}) 可实时查看当前存储的对话历史。

✅ 总结

实现 PDF 多轮问答的核心不在于“加个 memory”，而在于三者协同：
① 全局可复用的 ConversationBufferMemory 实例；
② 显式包含 {chat_history} 占位符的 Prompt 模板；
③ 使用 load_qa_chain（而非 RetrievalQA）并正确传递 memory 和 prompt。

如此，你的 FastAPI 后端即可像人类一样“记住上一句”，真正理解 follow-up 问题中的指代与隐含前提。