ThinkingAI Logo
返回博客列表

Agent记忆模块是什么?与上下文、知识库有什么区别?

Agent 记忆模块负责管理短期线程状态与长期记忆的写入、存储、检索、更新和遗忘,本文重点讨论长期记忆。文章解释它的职责、接口与数据流,区分单次模型上下文、持久化线程状态、知识库和 RAG,并给出企业选型检查项。

2026-11-1613分钟
Agent记忆模块是什么?与上下文、知识库有什么区别?

AI Agent,下文简称 Agent,是能够自己拆解任务、调用工具并分多步执行的智能体。Agent 记忆模块是 Agent 应用或平台里专门管理状态的那一层,负责把会话、任务和执行轨迹中值得留下的信息写进存储,在后续交互或任务需要时检索回来,并按规则更新、过期或删除。它位于模型之外,管理供推理使用的状态,既可支持同一线程内的连续交互,也可支持跨会话复用。

这个说法来自工程实践,不同框架的命名并不统一。CoALA 论文在 2024 年 3 月的修订版里,把语言智能体描述为具备模块化记忆组件的系统,并把记忆分为工作记忆和长期记忆,长期记忆再分语义、情景、程序三类。LangChain 把记忆拆成短期和长期,MemGPT 把它做成主上下文和外部上下文之间的分页,Mem0 把它做成提取、整合、检索的流水线。名字不同,要解决的问题相近。

下面只讨论记忆模块这一层,重点讲长期记忆的职责、边界、接口设计和企业选型;这不意味着记忆模块排除短期记忆。同一会话或线程的历史和任务状态,也可以由应用通过检查点保存。整套记忆系统的分层、治理和评测,会放在相关章节里给出延伸阅读。

记忆模块负责管理任务中需要保留和复用的信息,上下文窗口是模型当前能处理的信息范围,知识库则提供可检索的资料和业务知识。三者可以配合使用:模块决定何时保存或取回记忆,再把相关信息放进上下文;知识库中的资料是否进入记忆,还要按应用规则决定。

一、记忆模块管什么

把记忆模块拆开,核心是四件事。它要在正确的作用域里,把正确的信息在对的时间送回上下文,并在信息过期时把它处理掉。

1. 写入、召回、更新、遗忘

职责具体动作做不好会怎样
写入从对话和执行轨迹里抽取事实、偏好、决策,去重,处理冲突,记录来源和时间噪声越积越多,错误结论被反复引用
组织按租户、用户、Agent、任务分层,建立索引和命名空间记忆找不到,或者不同用户的数据混在一起
召回用语义检索、关键词检索、过滤和重排,按预算返回相关记忆答非所问,上下文被无关内容挤占
更新与遗忘更新旧版本,标记过期,删除敏感或错误信息,保留审计记录旧事实覆盖新事实,错误记忆无法纠正

写入是容易被低估的一步。把聊天记录原样存下来,只是很粗的一层。可用的写入要先判断这条信息值不值得留、属于哪个作用域、和已有记忆是否冲突,再决定新增、更新、删除还是忽略。Mem0 论文把记忆流程拆成提取、整合、检索,写入时会执行 ADD、UPDATE、DELETE 或 NOOP 四类操作。这个拆法说明,记忆模块的核心难点在判断,存储本身只是其中一环。

召回也不是把所有相关记忆都塞进上下文。Agent 的上下文窗口有限,塞得越多,模型越容易被无关内容干扰。可用的召回会先按权限过滤,再做语义和关键词的混合检索,按相关性和时效重排,最后按 token 预算截断。返回几条高信号记忆,避免把一整段历史塞回去。

2. 工作记忆与三类长期记忆

类型存什么企业场景例子
工作记忆当前任务的目标、步骤、工具返回和中间结论正在处理的退款工单
语义记忆稳定事实、用户偏好、指标口径客户每月 25 日结账
情景记忆过去发生过的事件、决策和原因上次复盘为什么更换供应商
程序记忆做事规则、提示词、工具和技能退款审批流程、周报模板

表中工作记忆不属于后面三类长期记忆。当前任务所需的工作信息会进入上下文窗口,但相关会话或线程状态也可以在应用层通过检查点持久化,不能把工作记忆等同于不会保存的模型输入。长期记忆通常需要外部存储或配置管理,由记忆模块参与管理。语义记忆回答是什么,情景记忆回答发生过什么,程序记忆回答怎么做。三类长期记忆的写入频率、召回方式和权限不同,混在一个池子里,检索质量很难稳定。

二、它和上下文窗口、知识库、RAG 的边界在哪

这几个概念经常被放在一起说,实际解决的是不同问题。把它们分开,记忆模块的职责才清楚。

对象主要作用生命周期典型位置
上下文窗口模型这一次推理能看到的全部 token单次模型调用;后续调用需重新提供相关内容模型运行时
记忆模块管理短期线程状态与长期记忆的写入、召回、更新和遗忘由作用域、存储及保留规则决定,可跨调用或跨会话保留Agent 应用或平台
知识库存放相对稳定的文档、指标口径、流程和规则长期存在,低频变更知识管理平台
RAG从外部资料里检索内容,增强本次生成每次查询重新执行检索链路
模型参数训练得到的通用语言和推理能力跟随模型版本模型提供方

上下文窗口负责当下,限定一次模型调用能处理的信息范围,本身不规定会话历史如何保存。应用可以持久化消息、文件和任务状态,再在后续调用中选择相关内容组成新的输入。LangChain 的记忆概览明确说明,LangGraph 的短期记忆属于线程状态,通过线程级检查点持久化;长期记忆则可通过自定义命名空间跨会话保留。因此,“短期”主要描述作用域,不等于会话结束后数据必然消失。

窗口变大,能装的内容变多,但装得多不等于选得准。Anthropic 在 2025 年的上下文工程文章里提到,随着上下文 token 增加,模型准确召回信息的能力会下降,业界把它称为上下文腐烂。窗口解决容量问题,记忆模块解决状态保留、选择和治理问题。

知识库负责相对稳定的组织知识。指标定义、产品文档、审批规则适合放在知识库,由知识管理团队维护版本和口径。记忆模块负责动态状态,比如某个用户偏好什么、上次任务做到哪一步、哪条经验下次可以复用。两者会有交叉,语义记忆里的一部分内容接近知识库,但知识库强调统一和版本,记忆模块强调个性化、可更新、可遗忘。把它们硬塞进一个池子,权限和生命周期会很难管。

RAG 是一种检索方法,记忆模块可以用它,知识库也可以用它。判断一个能力是不是记忆模块,要看它是否管理特定作用域内状态的保留、恢复、更新和删除,不能只看它能不能检索;跨会话复用是长期记忆的重要用途,而非所有记忆的唯一条件。 模型参数里的知识同样不属于本文讨论的应用层记忆模块。模型参数不保存某个用户昨天的决定,也不会因为一次对话而更新。

Mem0 论文在 2025 年 4 月发布的版本中报告,在 LoCoMo 基准上,相比把完整对话历史直接放进上下文,其方案 p95 延迟低 91%,token 成本节省超过 90%。这些数字来自论文设定的基线和测试条件,适合说明工程取舍。企业环境里的效果,还要看数据规模、权限结构和任务类型。

如果你关心的是整套记忆系统的分层、写入和治理,可以再看什么是 Agent 记忆系统。那篇讲系统,这篇讲模块。

三、一个可用的记忆模块要有哪些接口

接口是记忆模块和 Agent 之间的合同。不同框架的命名不同,能力边界相近。一个可用的模块,通常要提供下面几类操作。

接口输入输出关键约束
写入内容、类型、作用域、来源、时间、置信度记忆 ID、版本号去重、冲突检测、权限校验
检索查询、作用域、过滤条件、条数、token 预算排序后的记忆列表权限过滤、相关性、时效
更新记忆 ID、修改内容、修改原因新版本保留旧版本,可回滚
删除记忆 ID 或删除条件删除结果、审计记录软删除、保留期、合规
审计作用域、时间范围变更记录谁在何时改了什么

LangGraph 的做法有代表性。短期记忆放在线程级检查点里,长期记忆放在 Store 中,用命名空间和 key 组织,提供 put、get、search、delete 等操作,命名空间可以按用户或组织划分。MemGPT 借用操作系统的分层内存思路,把主上下文和外部上下文分开,通过函数调用在两者之间搬运信息。Mem0 的写入流程会判断新增、更新、删除还是忽略。

接口设计的关键,是让每次写入都带作用域、来源和时间,让每次召回都受权限和预算约束。 缺少这些字段,模块只能存下一堆无法追溯的文本,后面很难做冲突处理、审计和删除。

作用域要单独说。企业里的记忆通常按租户、用户、Agent、任务四级划分。租户隔离没做好,A 客户的数据可能被 B 客户的 Agent 召回;用户级隔离没做好,同一个租户里的不同角色会看到不该看的内容。作用域要写进接口参数,不能靠调用方自觉。

四、一次任务里,记忆怎样走完一圈

把接口串起来,一次完整任务通常走五步。

  • 任务开始前,Agent 带着查询、任务上下文和作用域调用检索接口。
  • 记忆模块按权限过滤,做语义和关键词的混合检索,按相关性和时效重排,按 token 预算返回若干条记忆。
  • Agent 把这些记忆注入上下文,模型开始推理、调用工具、执行任务。
  • 任务结束或达到阈值后,写入器从对话和执行轨迹里抽取原子事实,判断新增、更新、删除还是忽略。
  • 写入时记录来源、时间、置信度和作用域;后台任务定期做合并、过期、遗忘和审计。
Agent 记忆模块的读写闭环

图中上下文窗口表示单次模型调用的输入侧,本节的记忆存储侧重点展示长期记忆的持久化与维护。任务开始前检索,任务结束或达到写入条件后保存,存储侧负责更新和遗忘;短期线程状态也可另由检查点持续保存,不必等到任务结束。

1. 任务开始前先召回

召回的目标是给这次任务提供必要的背景。用户说“按老规矩出一份周报”,Agent 需要知道老规矩指哪套模板、上次周报发给了谁、哪些指标必须包含。这些信息不该在每次任务开始时全量注入,而应该按查询和作用域取回。

召回质量取决于三件事。查询是否带够上下文,过滤条件是否准确,排序是否把真正有用的记忆排在前面。只做向量相似度,容易召回语义相近但实际无关的内容;只做关键词,容易漏掉换了说法的同一条事实。混合检索加过滤,再加重排,通常更稳。

2. 任务结束后再沉淀

写入的目标是让下一次任务少走弯路。可用的写入会把执行轨迹拆成一条条可以独立维护的事实,比如“客户把结算日改到了每月 25 日”“这次退款失败是因为缺少审批单”。一条记忆只表达一个命题,才能独立更新、独立过期、独立删除。

写入时还要判断和已有记忆的关系。新事实和旧事实冲突,是覆盖、保留两个版本,还是标记旧版本失效,取决于业务对历史追溯的要求。财务、合规类场景通常要保留旧版本;偏好类场景可以覆盖。这个规则要在模块里定义清楚,不能留给模型每次临时判断。

3. 写入放在前台还是后台

写入可以放在主链路里,也可以放到后台。放在前台,记忆马上可用,但会增加本次任务的延迟;放在后台,主链路更快,新记忆可能晚一点才能被召回。LangChain 的文档把这两种方式分别称为 hot path 和 background,取舍取决于任务对实时性的要求。

召回决定这次任务用得上什么,写入决定下一次任务还能不能用。 两个环节都要有预算,不能全量召回,也不能全量保存。

五、企业选型时,哪些条件比“能记住”更重要

演示阶段,Agent 记住一个名字、一句偏好,就能让人看到效果。生产环境要看的是另一组条件。

  • 作用域隔离。租户、用户、Agent、任务能不能分开,跨作用域召回有没有硬性拦截。
  • 写入规则。哪些信息可以写,谁有权限写,写入前是否去重和消解冲突。
  • 召回质量。是否支持语义加关键词的混合检索,是否支持按时间、类型、来源过滤,是否能控制 token 预算。
  • 生命周期。更新、过期、遗忘、回滚有没有明确触发条件,删除能不能追溯到具体记忆。
  • 权限与审计。读和写是否分开授权,敏感信息是否脱敏,变更记录能否回答谁在何时改了什么。
  • 部署与数据主权。记忆存在哪里,是否支持私有化部署,数据能不能留在企业自己的环境里。

这六条里,前三条决定记忆好不好用,后三条决定记忆能不能进生产。演示阶段能记住名字,只能说明很浅的一层;生产环境要看记忆能不能被隔离、追溯、纠正和删除。

以 ThinkingAI 的 Agentic Engine 为例,主 Agent 层承担知识记忆、资产库、安全治理和权限控制,并通过执行审计和引用溯源让结论可以复算。它的企业级知识库用单一事实来源保证同一概念只有一处定义,用变更集机制让更新可追溯、可对比、可回滚。

这些机制说明,企业级记忆能力要落在平台治理层,不能只靠模型上下文。ThinkingAI 已服务全球超过 1500 家企业,接入产品超过 8000 款。

如果想把治理做得更细,可以再看Agent 记忆治理。

如果要在真实场景里验收,可以再看Agent 记忆评测框架。

常见问题

Agent 记忆模块和记忆系统有什么区别?

模块是系统里的一个组件,负责记忆的读写和生命周期管理。系统还包括存储后端、治理规则、运维和评测。小项目可以先用一个 Store 和一套写入规则跑起来;企业系统要把权限、审计、遗忘和评测补齐,才能稳定运行。

上下文窗口越来越大,还需要记忆模块吗?

需要。窗口解决一次模型调用能看多少信息,记忆模块决定哪些线程状态需要保留、哪些长期信息值得跨会话复用,以及后续调用取回什么。窗口变大会降低一部分召回压力,但长上下文仍有注意力衰减、成本和权限问题。把全部历史塞进窗口,既不经济,也很难控制不同用户能看到什么。

记忆模块会记错吗?

会。错误记忆比没有记忆更麻烦,因为它会在后续任务里被反复引用。降低风险要靠写入前的去重和冲突检测,写入时的来源、时间和置信度,使用前对高风险事实的复核,以及出错后的定位、回滚和删除。

记忆模块能不能直接当知识库用?

可以存一部分语义记忆,但不能完全替代知识库。知识库强调稳定、版本和统一口径,记忆模块强调动态、个性化、可遗忘。两者分工,通过统一检索层协同,通常比混在一个池子里更稳。

小团队要不要自建记忆模块?

可以先不自建。用现成框架的 Store、检查点和记忆工具,把作用域、写入规则和过期条件定义清楚,就能覆盖不少场景。出现多租户、权限、审计和跨 Agent 共享需求后,再考虑平台化。

记忆模块会不会拖慢 Agent?

会有检索和写入开销。按需召回、限制返回条数和 token 预算、缓存高频记忆、把写入放到后台,能控制影响。记忆模块做得好,应该让 Agent 少走弯路,不能让它每轮都背着全部历史。

参考资料

  • Sumers 等,Cognitive Architectures for Language Agents,arXiv 2309.02427,2024 年 3 月 15 日修订版。链接
  • Packer 等,MemGPT: Towards LLMs as Operating Systems,arXiv 2310.08560,2024 年 2 月 12 日修订版。链接
  • Chhikara 等,Mem0: Building Production-Ready AI Agents with Scalable Long-Term Memory,arXiv 2504.19413,2025 年 4 月 28 日。链接
  • LangChain,Memory overview,链接
  • LangChain,LangGraph stores,链接
  • Anthropic,Effective context engineering for AI agents,链接

推荐文章

数据中台数据治理费用怎么算?软件、实施与持续维护预算
知识科普

数据中台数据治理费用怎么算?软件、实施与持续维护预算

数据中台数据治理费用由软件、实施、计算存储、维护和内部人力构成。文章给出可复算公式、公开价目与采购案例,拆解人月、维护基数和三年TCO,并附中型企业预算示例与报价核验清单。

2026-11-16 · 12分钟

阅读
数据中台与数据治理有什么区别?
知识科普

数据中台与数据治理有什么区别?

数据中台把数据加工成可复用的资产与服务,数据治理定标准、分权责、立质量与安全规则。文章从目标、范围、产出和责任拆解两者区别,说明治理如何嵌入中台,并按取数慢、口径乱、已有中台不好用等情形给出推进顺序与选型判断。

2026-11-16 · 9分钟

阅读
智能体平台与低代码平台有什么区别?
知识科普

智能体平台与低代码平台有什么区别?

从开发方式与应用形态的边界出发,比较智能体平台与低代码平台在构建对象、执行逻辑、数据知识、集成与治理上的差异,说明替代条件、组合方式与选型判断。

2026-11-16 · 10分钟

阅读
2027年必读的8本AI原生组织的书籍
知识科普

2027年必读的8本AI原生组织的书籍

从组织转型、人机协作到管理决策,精选8本2024年以后出版的简体中文图书,帮企业回答AI Agent进入业务后的真问题:谁判断该不该行动、哪些操作能交给Agent、出问题谁叫停。含《AI Native组织》《超级组织》《AI工程》《共智时代》《超级共生》《权力与预测》《AI未来已来》《AI原生组织》逐本推荐理由与阅读建议。

2026-11-16 · 6分钟

阅读

准备好构建你的 Agent 团队了吗

立即体验 Agentic Engine, 让 AI 成为真正的团队成员

ThinkingAI Big Logo
电话咨询