Agent 系统的组成部分可以按职责拆成六块,目标与环境输入、模型推理、任务规划、记忆与状态、工具与执行、反馈与评估。外层还有三类生产治理能力,权限、日志与监控、人工接管。前六块决定一次任务能不能跑通,后三类决定它能不能稳定运行。
企业级 AI Agent 平台的模块关系影响任务执行和落地效果。模型数量、工具数量容易比较,规划是否清楚、状态是否保存、工具报错能否处理、结果由谁验收,更影响实际体验。
Anthropic、Google Cloud 和 OpenAI 的官方文档对模块划分不完全相同,共同点是都绕不开模型、工具、记忆和执行循环。按企业落地职责划分的模块,不一定与某个框架的封装一一对应。
Agent 与工作流的边界在于流程由谁决定。Anthropic 在 2024 年 12 月的《Building Effective Agents》中把工作流和 Agent 分开。工作流由预定义代码路径编排模型与工具,Agent 由模型动态决定流程和工具使用。步骤能够提前穷举的任务,工作流通常更稳、更省;路径不确定、需要边执行边判断的任务,才值得引入 Agent 的自主决策。
Agent 系统的模块职责
不同框架的封装不一样,模块职责大体收敛到下面几类。表格里的必需项按任务是否需要判断来算,不按产品功能表来算。
| 模块 | 主要职责 | 关键输入与输出 | 缺少时会怎样 | 适用条件 |
|---|---|---|---|---|
| 输入与运行环境 | 接收目标、业务事件和权限上下文,提供模型与工具的运行环境 | 输入是任务、事件、账号权限,输出是可执行任务与上下文 | 目标不清或环境不可达,后续模块无法开始 | 所有 Agent 都需要 |
| 模型推理 | 理解意图、判断下一步、选择工具、决定何时停止 | 输入是指令、上下文和工具返回,输出是决策与工具调用 | 只能按固定规则执行,遇到例外无法处理 | 所有 Agent 都需要 |
| 任务规划 | 拆解目标、排列步骤、设定完成与停止条件 | 输入是目标与约束,输出是步骤计划或下一步动作 | 长任务容易漏步、重复或提前结束 | 多步骤、路径不确定时需要,简单任务可隐式规划 |
| 记忆与状态 | 保存会话、任务中间状态、企业知识与历史经验 | 输入是对话、工具结果和知识,输出是可用上下文与状态快照 | 多轮任务丢失上下文,重复查询或前后矛盾 | 多轮、长流程、需要知识复用时需要,单轮问答可简化 |
| 工具与执行 | 查询数据、调用 API、执行代码、写入业务系统 | 输入是工具调用参数,输出是执行结果或错误 | 只能给出建议,无法完成动作 | 需要连接外部系统或执行动作时需要 |
| 反馈与评估 | 读取环境结果、校验输出、触发重试或人工确认 | 输入是工具返回、规则和评测标准,输出是通过、修正、终止或升级 | 错误无人发现,失败被当成完成 | 所有要进入生产的 Agent 都需要,自动评测可按任务配置 |
从表里可以看到,模型和循环控制构成最小闭环,规划和记忆按任务复杂度增减,工具决定行动边界,反馈决定结果能不能被信任。生产治理不属于认知模块,缺少它,Agent 仍然可以演示,却很难长期承担业务动作。
模型负责判断,规划负责把目标拆成可执行步骤
模型是决策核心,负责理解目标、判断当前状态、选择下一步动作。系统指令要写清角色、任务边界、可用工具、输出格式和停止条件。模型选型要看任务复杂度、延迟要求和成本,复杂推理任务用更强模型,分类、抽取等结构化任务可以用更小模型,必要时做模型路由。
规划模块把目标拆成步骤,排列依赖关系,设定完成条件和停止条件。简单任务可以不做显式计划,模型在每一步直接决定下一步;多步骤任务需要把计划写出来,方便检查、恢复和交接。
规划粒度需要控制。拆得太粗,模型每一步都要重新判断,长任务容易漂移;拆得太细,执行路径被写死,系统退化成工作流,灵活性和成本都不划算。一个实用判断是,把必须人工确认的节点、必须调用的系统和可以失败的步骤标出来,其余部分留给模型动态决定。
记忆与状态让 Agent 不在多轮任务里迷路
记忆分两层。短期记忆保存当前会话、任务目标和工具返回,通常放在上下文窗口里;长期记忆保存企业知识、历史案例、用户偏好和稳定规则,通常落在知识库或检索系统里。状态则是任务执行到哪一步、哪些步骤完成、哪些结果待确认、哪些错误待处理。
多轮任务里,状态比对话历史更关键。只保留聊天记录,Agent 可能重复查询、重复执行,或者在人工确认后继续走旧计划。把任务 ID、当前步骤、工具输出、待审批动作和失败原因结构化保存,恢复和审计才有依据。
记忆需要控制范围。存得越多,检索噪声、上下文成本和权限风险越高。企业知识还要解决口径、版本和权限问题,同一指标在不同部门有不同定义时,Agent 需要先确认使用哪一版,不能把检索到的第一段内容当成答案。
工具与执行决定 Agent 能做什么,也决定风险边界
模型本身不能查库、发请求或改业务系统,所有外部动作都要通过工具完成。常见工具包括搜索、数据库查询、代码执行、业务 API 和内部系统操作。MCP,即模型上下文协议,用统一接口把工具和数据源接进来,减少每个 Agent 重复写连接代码。
工具设计要写清用途、参数、返回格式、错误码和适用边界。工具越多,模型选择成本越高,误调用的概率也越大。与其堆很多相似工具,不如按任务阶段收窄工具集,把高频动作做成稳定接口。
执行层要处理权限、超时、重试、幂等和回滚。查询类工具失败可以重试或缩小范围,写入类动作要谨慎,涉及预算、退款、发布、删除等操作时设置人工确认。工具返回错误时,Agent 需要知道这是参数错误、权限不足、数据为空还是服务超时,不同错误对应不同处理,不能统一当成失败重试。
反馈与评估把一次执行变成可校正的闭环
反馈来自环境,包括工具返回、代码执行结果、业务规则校验和人工审核。Agent 每一步都要读取这些结果,判断是否接近目标,是否需要调整计划。缺少反馈,模型只能按原计划往下走,错误会累积。
评估分两层。离线评估看任务成功率、步骤正确率、工具调用准确率和人工接管率;在线监控看真实任务的完成情况、异常率、耗时和成本。评测标准要跟任务绑定,有自动验证条件的任务可以用测试和规则,主观任务需要抽检和人工评分。
护栏放在输入、执行和输出三个位置。输入检查目标是否清楚、权限是否足够;执行检查工具参数、访问范围和调用频率;输出检查事实、格式和合规要求。再加最大轮次、超时和停止条件,避免 Agent 在错误路径上反复尝试。
需要说明的是,自动评估并不能覆盖所有任务。开放任务的成功标准常常需要人来定义,Agent 可以提供证据和建议,最终判断仍由业务负责人承担。
运营异常任务中的模块协同
下面用一个设计示例说明模块如何接力,不对应真实客户案例。场景是运营负责人发现某渠道转化率连续两小时下滑,要求 Agent 查原因并给出处理建议。
- 输入与上下文。Agent 接收目标,读取账号权限、指标口径、当前投放计划、历史活动记录和渠道配置。此时它先确认自己能看哪些数据、哪些动作需要审批。
- 规划。把任务拆成确认指标口径、按渠道和机型对比、检查落地页与投放状态、形成原因假设、给出建议、等待人工确认。计划里标出必须调用的系统和必须人工确认的节点。
- 工具执行。调用数据仓库查询转化数据,调用漏斗分析定位流失环节,调用监控系统查看落地页加载情况。每次调用都带上时间范围、渠道和机型参数。
- 观察与校验。工具返回某机型落地页加载时间明显变长,同时发现指标口径刚更新过。Agent 用知识库确认新口径,排除统计误差;如果两个来源冲突,标记为待确认,不直接下结论。
- 形成建议。Agent 给出两个方向,修复落地页或临时调整投放,并说明每个方向的依据、影响范围和风险。涉及预算变更的动作进入人工确认。
- 执行与记录。人工确认后,Agent 调用运营系统执行调整,记录操作人、时间、参数和返回结果。任务结束后把这次判断写回经验库,供下一次类似问题参考。

图注:一次运营异常任务的设计示例,展示模块接力与人工确认点。
失败分支同样要设计。查询超时,先缩小时间范围重试一次;仍失败就返回已完成的部分和缺失的数据,请运营决定是否继续。权限不足时停止执行并说明缺少哪个权限,不能绕过权限换一个接口。工具返回的数据与知识库口径冲突时,先确认版本和统计范围,无法确认就把冲突暴露给人。
上生产后,权限、日志、监控和人工接管要单独设计
演示环境里,Agent 能跑通一条任务就足够说明问题。生产环境里,还要回答谁授权、做了什么、失败怎么办、成本是否可控。这些能力不属于认知模块,却决定 Agent 能不能承担真实业务动作。
权限控制要落到工具和数据两层。每个 Agent 有自己的身份,只拿到完成当前任务所需的最小权限;查询、写入、审批分开授权;高风险动作设置二次确认。权限按任务动态收回,避免长期持有用不到的权限。
日志要能还原一次任务的全过程,包括用户目标、计划、每次工具调用、参数、返回、人工确认、最终结果和耗时。只记录最终输出,出了问题无法定位是理解错了、工具错了还是数据错了。
监控看四类信号,任务完成率、工具错误率、平均耗时和单次成功任务成本。异常 Trace 要能下钻到具体步骤,看到模型、工具和知识检索之间的调用关系。出现连续失败或权限异常时,系统要能暂停任务并通知负责人。这类能力通常收敛到 Agent 管理模块,包括权限、任务调度和运行监控。
人工接管要设计成流程的一部分。哪些动作必须审批、审批人是谁、超时如何处理、失败如何回滚,都要提前写清楚。Agent 可以准备方案、收集证据、执行低风险步骤,高风险动作由人确认。
企业平台把这些模块变成可管理的能力
企业自己搭一套 Agent,工具连接、知识治理、权限、监控和持续维护往往比模型调用更耗工程资源。平台层把这些公共能力收在一起,业务团队才能把精力放在任务设计上。
ThinkingAI 的企业级 AI Agent 平台 Agentic Engine 提供 Agent 创建与管理、多 Agent 协作、企业知识库、MCP 工具连接和私有化部署等能力。运行侧通过 AI Monitor 采集调用关系、执行状态、耗时和 Token 使用等数据,帮助团队定位失败、长耗时和异常 Trace。目前 ThinkingAI 已服务全球超 1500 家企业,接入产品超 8000 款。
这类平台适合什么样的企业?已经有明确业务场景,数据分散在多个系统,希望把分析、建议和行动串起来,同时对权限、审计和部署方式有要求。选型时仍要回到自己的任务,先确认需要哪些工具、哪些数据、哪些审批,再看平台能否把这些模块管起来。评估维度可以参考 Agent 平台选型指南。
对数据敏感的企业,还要评估私有化部署的运维成本和模型更新方式。数据不出域解决了合规底线,日常运维、版本升级和故障响应仍要有人负责。
常见问题
Agent 系统一定要有记忆吗?
单轮、无状态的任务可以只保留当前上下文。多轮对话、长流程、需要复用企业知识或用户偏好的任务,需要短期状态和长期记忆。记忆范围由任务和权限决定,能少存就少存,能按需检索就不要一次性塞进上下文。
Agent 和工作流怎么选?
看步骤能不能提前穷举。步骤固定、结果容易校验,用工作流更稳、成本更低;步骤依赖执行结果、需要动态选择工具,才用 Agent。很多生产系统会混合使用,固定环节走工作流,开放环节交给 Agent。
多 Agent 是必需的吗?
多 Agent 是一种组织方式,不属于最小组成。任务需要不同角色、不同权限、并行处理或独立评估时,再拆成多个 Agent;单 Agent 能完成的任务,先用单 Agent,调试和评估都更简单。拆分之后还要处理任务分发、上下文共享、冲突消解和成本上升。
Agent 有哪些常见结构?
常见结构包括单 Agent 循环、预定义工作流、编排者加执行者、多 Agent 协作。组成回答的是有哪些模块,结构回答的是模块怎么组织。本文讨论的是组成,结构选择要看任务复杂度和治理要求。
自建 Agent 最少需要哪些模块?
最小闭环包括模型、工具、循环控制和基本日志。规划可以先隐式放在模型决策里,记忆可以先用会话状态,评估可以先用人工抽检。进入生产前,权限、监控、失败处理和人工接管要补齐。
Agent 系统怎么评估效果?
先定义任务成功标准,再看任务完成率、人工接管率、平均耗时、工具错误率、单次成功任务成本和异常 Trace。有自动验证条件的任务用测试或规则,主观任务用抽检和人工评分。评估口径要和上线前一致,否则数字没有可比性。
私有化部署适合哪些企业?
数据敏感、合规要求高、已有内网系统、希望数据不出域的企业更适合私有化部署。选型时要同时看部署架构、权限审计、模型更新、运维成本和故障响应,不能只看能不能装在企业服务器上。
资料来源
以下来源查阅于 2026 年 11 月。
- Anthropic,Building Effective Agents,2024 年 12 月,https://www.anthropic.com/engineering/building-effective-agents
- Google Cloud,选择智能体 AI 架构组件,https://docs.cloud.google.cn/architecture/choose-agentic-ai-architecture-components?hl=zh-cn
- OpenAI,Agents SDK 智能体文档,https://openai.github.io/openai-agents-python/zh/agents/
- ThinkingAI,Agentic Engine 产品介绍,https://www.thinkingai.cn/agent-intro/
- ThinkingAI,企业级 AI Agent 平台,https://www.thinkingai.cn/blog/thinkingai-agentic-engine-enterprise-ai-agent-platform






