把 Agent 上线一个月后,很多团队都会遇到同一件事。上周交代过的数据口径、工单规则、格式偏好,这个会话里说过,下个会话又得从头再教一遍。问题通常出在系统缺少记忆。
Agent 记忆系统,是让智能体在会话之外保存、整理、调用状态的一整套工程能力。它把记忆分成短期和长期两层,短期记忆处理当前任务窗口内的上下文,长期记忆跨会话沉淀可复用的事实、偏好和经验,再通过写入、索引、召回、遗忘四个环节形成闭环。对一家正在落地企业级 AI Agent的团队来说,这套能力直接决定智能体是越用越懂业务,还是每次从零开始。
Agent 记忆系统到底解决什么问题
大语言模型本身是无状态的。发一条消息,模型根据输入生成输出,权重里没有任何地方会保存上一次对话的内容。简单问答不需要连续性,但 Agent 要跑长任务、跨多次会话协作、记住用户偏好,无状态就变成根本障碍。
记忆系统要做的第一件事,是把状态从模型外面补回来。它要回答三个问题。第一,哪些信息值得留下。第二,留下的信息怎样被下次任务找到。第三,过时或矛盾的信息怎样被清理。这三件事任何一件没做好,记忆都会退化成噪声。
为什么 Agent 没有记忆会寸步难行
最直接的限制是上下文窗口。上下文窗口是模型一次能看到的全部信息,目前最长的窗口大约在 100 万到 200 万 token 之间。数字看起来够大,实际有两个问题。长期运行的 Agent 积累的状态可以远远超过这个上限。模型处理深埋在长上下文里的信息时表现会明显下降,注意力并不均匀分布。
更关键的是,上下文是临时性的,会话结束就消失。要保持连续性,只能在每个新会话开始时重新注入完整历史,成本高也容易出错。
这个逻辑和计算机的存储体系很像。计算机不会把所有数据都放在内存里,它用寄存器、缓存、内存、磁盘分层,系统决定加载什么、保留什么、释放什么。Agent 记忆遵循同一套逻辑,上下文窗口相当于快速的小容量内存,外部存储相当于慢速的大容量磁盘。

短期记忆和长期记忆如何分层
工程上最常听到的分法是两级。短期记忆等于工作记忆,也就是当前上下文窗口里的活跃信息,包括用户消息、对话历史、注入的文档和工具调用结果。长期记忆是一切跨会话留存的状态,比如用户偏好、项目事实、踩过的坑。
这两级的分界只有一条标准,就是这条信息要不要活过本次会话。要,就必须离开窗口落到外部存储。不要,就交给上下文压缩机制处理。
行业里还有一套更细的四分类,来自 2023 年认知架构领域对语言智能体的研究,把记忆分成工作记忆、情景记忆、语义记忆和程序记忆。工作记忆对应上下文窗口。情景记忆记录发生过的事和决策原因。语义记忆保存不绑定具体对话的事实和偏好,最接近企业里的业务知识库和统一指标口径,这部分正是Agent 语义层要解决的问题。程序记忆对应系统提示词、工具和技能。
腾讯云发布的 Agent Memory 服务把长期记忆再分成四层,从原始对话到原子记忆、场景记忆、核心记忆逐层提炼,每一层都能往下追溯来源。这个结构给企业记忆治理提供了一个可参考的落地骨架。团队记忆则是把个人沉淀的经验共享给其他成员和 Agent,在多 Agent 协作场景里尤其关键。

记忆从写入到召回要走完哪几步
一套能生产的记忆系统,至少要跑通一个闭环。推理前先检索,把相关记忆注入上下文。模型推理并调用工具。推理结束后,再从这段轨迹里提取值得写入的信息,更新长期记忆。
写入是最容易被忽视的一步。写入是一套受控的提炼过程,需要先把会话拆成原子事实,判断类型、作用域和价值,再做去重和冲突处理,最后持久化并建立索引。一条记忆只表达一个可维护的命题,才能独立更新、独立过期、精确检索。
召回通常用混合检索,把关键词检索和向量语义检索的结果融合排序,给模型的是原子事实和稳定结论的组合,减少无关历史片段的干扰。
遗忘和写入同等重要。旧的、低相关的记忆要逐渐淡出,相互矛盾的记忆要清理,否则知识库会越用越陈旧。常见的做法是用时间、访问频率和置信度做信号,持续被召回的记忆保持活跃,长期不被调用的逐渐退场。

记忆为什么决定 Agent 的进化上限
记忆的作用不限于让下一次回答更准,它决定 Agent 能不能把每次执行沉淀成下一次可复用的能力。
《Agentic Harness Engineering》这篇论文做过一组实验,保持基础模型不变,只迭代模型外面的工具、中间件和长期记忆。十轮之后,Terminal-Bench 2 的 Pass@1 从 69.7% 提高到 77.0%,换到其他模型家族仍有 5.1 到 10.1 个百分点的提升。消融实验显示,关键增益更多来自工具、中间件和长期记忆,单纯修改系统提示词贡献有限。
腾讯云 Agent Memory 的公开资料也给出一个具体数据,基于 PersonaMem 数据集,加入分层记忆后准确率从 48% 提升到 76%。
两组数据指向同一个结论,记忆是独立的基础设施。基础模型会越来越集中,但每家企业自己的数据、流程、规则和历史经验是独有的,这些只能靠记忆系统沉淀下来。企业 Agent 的长期竞争力,更多取决于记忆和治理。
企业落地怎么判断记忆能力
判断一套记忆能力够不够用,可以看五个条件。是否真正跨会话,是否可溯源,是否可治理,是否有遗忘机制,是否能团队共享。
跨会话是底线。写入数据库只是第一步,还要经过提炼、带来源和置信度、能按需召回,才算真正进入长期记忆。可溯源要求每条结论都能下钻到原始记录,直接关系到企业审计和纠错。可治理要求权限、作用域和生命周期有人管,Agent 记忆治理已经是企业级 Agent 绕不开的一环。遗忘机制决定记忆库会不会被陈旧信息污染。团队共享决定个人经验能不能变成组织资产。
落到产品上,这五条往往对应平台的主 Agent 中枢能力。以 ThinkingAI 为例,主 Agent 层负责知识记忆、资产库、安全治理和权限控制,通过执行审计和引用溯源,让结论可以复算。这套设计把记忆从模型内部的临时状态,变成企业可以治理的资产。目前 ThinkingAI 已服务全球 1500 家企业,接入产品超过 8000 款。
判断记忆能力还有一个更实际的做法,不要只看演示,用一套企业级记忆评测框架在真实场景里跑四周试点,看长期任务稳定性和溯源能力,再决定能不能上线。
常见问题
Agent 记忆系统和上下文窗口有什么区别?
上下文窗口是模型一次能看到的临时信息,会话结束就消失。记忆系统在窗口之外长期保存状态,再按需把相关信息注入窗口。窗口负责当下,记忆负责过去,两者配合使用。
短期记忆和长期记忆的分界是什么?
分界是信息要不要跨会话留存。只服务于当前任务的对话和任务状态属于短期记忆,需要跨会话复用的偏好、事实和经验属于长期记忆。写入数据库只是第一步,还要经过提炼、带来源和置信度、支持按需召回,才算真正进入长期记忆。
记忆会不会记错,怎么防止?
会记错,错误的记忆比没有记忆更危险。所以记忆系统要带遗忘机制、时间戳和置信度,写入前做冲突检测,高风险事实在使用前重新验证,过时信息通过衰减和覆盖清理。
企业自建记忆系统和直接用模型内置记忆有什么区别?
模型内置记忆通常只解决单用户偏好,企业场景还需要权限、作用域、审计和多 Agent 共享。企业更适合把记忆作为独立基础设施治理,至少覆盖跨会话、溯源、权限、遗忘和团队共享五个条件。
记忆系统做复杂了会不会拖慢 Agent?
会有成本,需要取舍。短期记忆靠压缩控制 token 压力,长期记忆靠按需召回而不全量注入,写入只提炼高价值信息。好的记忆系统是克制的分层结构,尽量多记,又让系统不被拖垮。






