AI Agent,下文简称 Agent,是能够自己拆解任务、调用工具并分多步执行的智能体。Agent 记忆模块是 Agent 应用或平台里专门管理状态的那一层,负责把会话、任务和执行轨迹中值得留下的信息写进存储,在后续交互或任务需要时检索回来,并按规则更新、过期或删除。它位于模型之外,管理供推理使用的状态,既可支持同一线程内的连续交互,也可支持跨会话复用。
这个说法来自工程实践,不同框架的命名并不统一。CoALA 论文在 2024 年 3 月的修订版里,把语言智能体描述为具备模块化记忆组件的系统,并把记忆分为工作记忆和长期记忆,长期记忆再分语义、情景、程序三类。LangChain 把记忆拆成短期和长期,MemGPT 把它做成主上下文和外部上下文之间的分页,Mem0 把它做成提取、整合、检索的流水线。名字不同,要解决的问题相近。
下面只讨论记忆模块这一层,重点讲长期记忆的职责、边界、接口设计和企业选型;这不意味着记忆模块排除短期记忆。同一会话或线程的历史和任务状态,也可以由应用通过检查点保存。整套记忆系统的分层、治理和评测,会放在相关章节里给出延伸阅读。
记忆模块负责管理任务中需要保留和复用的信息,上下文窗口是模型当前能处理的信息范围,知识库则提供可检索的资料和业务知识。三者可以配合使用:模块决定何时保存或取回记忆,再把相关信息放进上下文;知识库中的资料是否进入记忆,还要按应用规则决定。
一、记忆模块管什么
把记忆模块拆开,核心是四件事。它要在正确的作用域里,把正确的信息在对的时间送回上下文,并在信息过期时把它处理掉。
1. 写入、召回、更新、遗忘
| 职责 | 具体动作 | 做不好会怎样 |
|---|---|---|
| 写入 | 从对话和执行轨迹里抽取事实、偏好、决策,去重,处理冲突,记录来源和时间 | 噪声越积越多,错误结论被反复引用 |
| 组织 | 按租户、用户、Agent、任务分层,建立索引和命名空间 | 记忆找不到,或者不同用户的数据混在一起 |
| 召回 | 用语义检索、关键词检索、过滤和重排,按预算返回相关记忆 | 答非所问,上下文被无关内容挤占 |
| 更新与遗忘 | 更新旧版本,标记过期,删除敏感或错误信息,保留审计记录 | 旧事实覆盖新事实,错误记忆无法纠正 |
写入是容易被低估的一步。把聊天记录原样存下来,只是很粗的一层。可用的写入要先判断这条信息值不值得留、属于哪个作用域、和已有记忆是否冲突,再决定新增、更新、删除还是忽略。Mem0 论文把记忆流程拆成提取、整合、检索,写入时会执行 ADD、UPDATE、DELETE 或 NOOP 四类操作。这个拆法说明,记忆模块的核心难点在判断,存储本身只是其中一环。
召回也不是把所有相关记忆都塞进上下文。Agent 的上下文窗口有限,塞得越多,模型越容易被无关内容干扰。可用的召回会先按权限过滤,再做语义和关键词的混合检索,按相关性和时效重排,最后按 token 预算截断。返回几条高信号记忆,避免把一整段历史塞回去。
2. 工作记忆与三类长期记忆
| 类型 | 存什么 | 企业场景例子 |
|---|---|---|
| 工作记忆 | 当前任务的目标、步骤、工具返回和中间结论 | 正在处理的退款工单 |
| 语义记忆 | 稳定事实、用户偏好、指标口径 | 客户每月 25 日结账 |
| 情景记忆 | 过去发生过的事件、决策和原因 | 上次复盘为什么更换供应商 |
| 程序记忆 | 做事规则、提示词、工具和技能 | 退款审批流程、周报模板 |
表中工作记忆不属于后面三类长期记忆。当前任务所需的工作信息会进入上下文窗口,但相关会话或线程状态也可以在应用层通过检查点持久化,不能把工作记忆等同于不会保存的模型输入。长期记忆通常需要外部存储或配置管理,由记忆模块参与管理。语义记忆回答是什么,情景记忆回答发生过什么,程序记忆回答怎么做。三类长期记忆的写入频率、召回方式和权限不同,混在一个池子里,检索质量很难稳定。
二、它和上下文窗口、知识库、RAG 的边界在哪
这几个概念经常被放在一起说,实际解决的是不同问题。把它们分开,记忆模块的职责才清楚。
| 对象 | 主要作用 | 生命周期 | 典型位置 |
|---|---|---|---|
| 上下文窗口 | 模型这一次推理能看到的全部 token | 单次模型调用;后续调用需重新提供相关内容 | 模型运行时 |
| 记忆模块 | 管理短期线程状态与长期记忆的写入、召回、更新和遗忘 | 由作用域、存储及保留规则决定,可跨调用或跨会话保留 | Agent 应用或平台 |
| 知识库 | 存放相对稳定的文档、指标口径、流程和规则 | 长期存在,低频变更 | 知识管理平台 |
| RAG | 从外部资料里检索内容,增强本次生成 | 每次查询重新执行 | 检索链路 |
| 模型参数 | 训练得到的通用语言和推理能力 | 跟随模型版本 | 模型提供方 |
上下文窗口负责当下,限定一次模型调用能处理的信息范围,本身不规定会话历史如何保存。应用可以持久化消息、文件和任务状态,再在后续调用中选择相关内容组成新的输入。LangChain 的记忆概览明确说明,LangGraph 的短期记忆属于线程状态,通过线程级检查点持久化;长期记忆则可通过自定义命名空间跨会话保留。因此,“短期”主要描述作用域,不等于会话结束后数据必然消失。
窗口变大,能装的内容变多,但装得多不等于选得准。Anthropic 在 2025 年的上下文工程文章里提到,随着上下文 token 增加,模型准确召回信息的能力会下降,业界把它称为上下文腐烂。窗口解决容量问题,记忆模块解决状态保留、选择和治理问题。
知识库负责相对稳定的组织知识。指标定义、产品文档、审批规则适合放在知识库,由知识管理团队维护版本和口径。记忆模块负责动态状态,比如某个用户偏好什么、上次任务做到哪一步、哪条经验下次可以复用。两者会有交叉,语义记忆里的一部分内容接近知识库,但知识库强调统一和版本,记忆模块强调个性化、可更新、可遗忘。把它们硬塞进一个池子,权限和生命周期会很难管。
RAG 是一种检索方法,记忆模块可以用它,知识库也可以用它。判断一个能力是不是记忆模块,要看它是否管理特定作用域内状态的保留、恢复、更新和删除,不能只看它能不能检索;跨会话复用是长期记忆的重要用途,而非所有记忆的唯一条件。 模型参数里的知识同样不属于本文讨论的应用层记忆模块。模型参数不保存某个用户昨天的决定,也不会因为一次对话而更新。
Mem0 论文在 2025 年 4 月发布的版本中报告,在 LoCoMo 基准上,相比把完整对话历史直接放进上下文,其方案 p95 延迟低 91%,token 成本节省超过 90%。这些数字来自论文设定的基线和测试条件,适合说明工程取舍。企业环境里的效果,还要看数据规模、权限结构和任务类型。
如果你关心的是整套记忆系统的分层、写入和治理,可以再看什么是 Agent 记忆系统。那篇讲系统,这篇讲模块。
三、一个可用的记忆模块要有哪些接口
接口是记忆模块和 Agent 之间的合同。不同框架的命名不同,能力边界相近。一个可用的模块,通常要提供下面几类操作。
| 接口 | 输入 | 输出 | 关键约束 |
|---|---|---|---|
| 写入 | 内容、类型、作用域、来源、时间、置信度 | 记忆 ID、版本号 | 去重、冲突检测、权限校验 |
| 检索 | 查询、作用域、过滤条件、条数、token 预算 | 排序后的记忆列表 | 权限过滤、相关性、时效 |
| 更新 | 记忆 ID、修改内容、修改原因 | 新版本 | 保留旧版本,可回滚 |
| 删除 | 记忆 ID 或删除条件 | 删除结果、审计记录 | 软删除、保留期、合规 |
| 审计 | 作用域、时间范围 | 变更记录 | 谁在何时改了什么 |
LangGraph 的做法有代表性。短期记忆放在线程级检查点里,长期记忆放在 Store 中,用命名空间和 key 组织,提供 put、get、search、delete 等操作,命名空间可以按用户或组织划分。MemGPT 借用操作系统的分层内存思路,把主上下文和外部上下文分开,通过函数调用在两者之间搬运信息。Mem0 的写入流程会判断新增、更新、删除还是忽略。
接口设计的关键,是让每次写入都带作用域、来源和时间,让每次召回都受权限和预算约束。 缺少这些字段,模块只能存下一堆无法追溯的文本,后面很难做冲突处理、审计和删除。
作用域要单独说。企业里的记忆通常按租户、用户、Agent、任务四级划分。租户隔离没做好,A 客户的数据可能被 B 客户的 Agent 召回;用户级隔离没做好,同一个租户里的不同角色会看到不该看的内容。作用域要写进接口参数,不能靠调用方自觉。
四、一次任务里,记忆怎样走完一圈
把接口串起来,一次完整任务通常走五步。
- 任务开始前,Agent 带着查询、任务上下文和作用域调用检索接口。
- 记忆模块按权限过滤,做语义和关键词的混合检索,按相关性和时效重排,按 token 预算返回若干条记忆。
- Agent 把这些记忆注入上下文,模型开始推理、调用工具、执行任务。
- 任务结束或达到阈值后,写入器从对话和执行轨迹里抽取原子事实,判断新增、更新、删除还是忽略。
- 写入时记录来源、时间、置信度和作用域;后台任务定期做合并、过期、遗忘和审计。

图中上下文窗口表示单次模型调用的输入侧,本节的记忆存储侧重点展示长期记忆的持久化与维护。任务开始前检索,任务结束或达到写入条件后保存,存储侧负责更新和遗忘;短期线程状态也可另由检查点持续保存,不必等到任务结束。
1. 任务开始前先召回
召回的目标是给这次任务提供必要的背景。用户说“按老规矩出一份周报”,Agent 需要知道老规矩指哪套模板、上次周报发给了谁、哪些指标必须包含。这些信息不该在每次任务开始时全量注入,而应该按查询和作用域取回。
召回质量取决于三件事。查询是否带够上下文,过滤条件是否准确,排序是否把真正有用的记忆排在前面。只做向量相似度,容易召回语义相近但实际无关的内容;只做关键词,容易漏掉换了说法的同一条事实。混合检索加过滤,再加重排,通常更稳。
2. 任务结束后再沉淀
写入的目标是让下一次任务少走弯路。可用的写入会把执行轨迹拆成一条条可以独立维护的事实,比如“客户把结算日改到了每月 25 日”“这次退款失败是因为缺少审批单”。一条记忆只表达一个命题,才能独立更新、独立过期、独立删除。
写入时还要判断和已有记忆的关系。新事实和旧事实冲突,是覆盖、保留两个版本,还是标记旧版本失效,取决于业务对历史追溯的要求。财务、合规类场景通常要保留旧版本;偏好类场景可以覆盖。这个规则要在模块里定义清楚,不能留给模型每次临时判断。
3. 写入放在前台还是后台
写入可以放在主链路里,也可以放到后台。放在前台,记忆马上可用,但会增加本次任务的延迟;放在后台,主链路更快,新记忆可能晚一点才能被召回。LangChain 的文档把这两种方式分别称为 hot path 和 background,取舍取决于任务对实时性的要求。
召回决定这次任务用得上什么,写入决定下一次任务还能不能用。 两个环节都要有预算,不能全量召回,也不能全量保存。
五、企业选型时,哪些条件比“能记住”更重要
演示阶段,Agent 记住一个名字、一句偏好,就能让人看到效果。生产环境要看的是另一组条件。
- 作用域隔离。租户、用户、Agent、任务能不能分开,跨作用域召回有没有硬性拦截。
- 写入规则。哪些信息可以写,谁有权限写,写入前是否去重和消解冲突。
- 召回质量。是否支持语义加关键词的混合检索,是否支持按时间、类型、来源过滤,是否能控制 token 预算。
- 生命周期。更新、过期、遗忘、回滚有没有明确触发条件,删除能不能追溯到具体记忆。
- 权限与审计。读和写是否分开授权,敏感信息是否脱敏,变更记录能否回答谁在何时改了什么。
- 部署与数据主权。记忆存在哪里,是否支持私有化部署,数据能不能留在企业自己的环境里。
这六条里,前三条决定记忆好不好用,后三条决定记忆能不能进生产。演示阶段能记住名字,只能说明很浅的一层;生产环境要看记忆能不能被隔离、追溯、纠正和删除。
以 ThinkingAI 的 Agentic Engine 为例,主 Agent 层承担知识记忆、资产库、安全治理和权限控制,并通过执行审计和引用溯源让结论可以复算。它的企业级知识库用单一事实来源保证同一概念只有一处定义,用变更集机制让更新可追溯、可对比、可回滚。
这些机制说明,企业级记忆能力要落在平台治理层,不能只靠模型上下文。ThinkingAI 已服务全球超过 1500 家企业,接入产品超过 8000 款。
如果想把治理做得更细,可以再看Agent 记忆治理。
如果要在真实场景里验收,可以再看Agent 记忆评测框架。
常见问题
Agent 记忆模块和记忆系统有什么区别?
模块是系统里的一个组件,负责记忆的读写和生命周期管理。系统还包括存储后端、治理规则、运维和评测。小项目可以先用一个 Store 和一套写入规则跑起来;企业系统要把权限、审计、遗忘和评测补齐,才能稳定运行。
上下文窗口越来越大,还需要记忆模块吗?
需要。窗口解决一次模型调用能看多少信息,记忆模块决定哪些线程状态需要保留、哪些长期信息值得跨会话复用,以及后续调用取回什么。窗口变大会降低一部分召回压力,但长上下文仍有注意力衰减、成本和权限问题。把全部历史塞进窗口,既不经济,也很难控制不同用户能看到什么。
记忆模块会记错吗?
会。错误记忆比没有记忆更麻烦,因为它会在后续任务里被反复引用。降低风险要靠写入前的去重和冲突检测,写入时的来源、时间和置信度,使用前对高风险事实的复核,以及出错后的定位、回滚和删除。
记忆模块能不能直接当知识库用?
可以存一部分语义记忆,但不能完全替代知识库。知识库强调稳定、版本和统一口径,记忆模块强调动态、个性化、可遗忘。两者分工,通过统一检索层协同,通常比混在一个池子里更稳。
小团队要不要自建记忆模块?
可以先不自建。用现成框架的 Store、检查点和记忆工具,把作用域、写入规则和过期条件定义清楚,就能覆盖不少场景。出现多租户、权限、审计和跨 Agent 共享需求后,再考虑平台化。
记忆模块会不会拖慢 Agent?
会有检索和写入开销。按需召回、限制返回条数和 token 预算、缓存高频记忆、把写入放到后台,能控制影响。记忆模块做得好,应该让 Agent 少走弯路,不能让它每轮都背着全部历史。
参考资料
- Sumers 等,Cognitive Architectures for Language Agents,arXiv 2309.02427,2024 年 3 月 15 日修订版。链接
- Packer 等,MemGPT: Towards LLMs as Operating Systems,arXiv 2310.08560,2024 年 2 月 12 日修订版。链接
- Chhikara 等,Mem0: Building Production-Ready AI Agents with Scalable Long-Term Memory,arXiv 2504.19413,2025 年 4 月 28 日。链接
- LangChain,Memory overview,链接
- LangChain,LangGraph stores,链接
- Anthropic,Effective context engineering for AI agents,链接






