AI Agent 体系,指的是把能够自主规划、调用工具并根据结果继续行动的智能体,连同模型、知识、工具、记忆、编排和治理组织起来的一套运行系统。它关心一组 Agent 能否在企业里分工、协作、被管理,并且稳定地把一类任务做完。单个 Agent 的聪明程度只是其中一部分。
这个词在业界没有统一的规范定义。Anthropic 在 2024 年 12 月的工程文章里把这类系统统称为 agentic systems,并区分 workflow 和 agent。workflow 由预定义代码路径编排,agent 由模型动态决定流程和工具使用。放到企业里,这套系统就变成一套企业级 AI Agent 体系,还会加入角色分工、知识供给、权限治理和成本核算。
理解这套体系,能帮企业判断三件事。哪些任务值得交给 Agent,需要补哪些基础能力,以及什么时候应该停在上一个更简单的方案。
AI Agent 体系是什么
把 AI Agent 体系拆开看,有三个判断标准。
- 目标由人给出,路径由 Agent 自己走。人定义任务、边界和成功标准,Agent 在运行中决定先做什么、调用哪个工具、什么时候请求帮助。
- 能力来自模型之外的系统。模型负责理解和决策,知识决定它答得对不对,工具决定它能不能做事,记忆决定它能不能延续上下文,权限决定它能碰到哪些数据和动作。
- 结果要能被管理。身份、权限、审计、评估和成本核算,决定这套体系能不能从演示走到生产。
单个 Agent 解决一次任务,Agent 体系解决一类任务能不能稳定复制。 这也是为什么同样叫 Agent,演示和生产之间往往差着一整套基础设施。
一个 Agent 和一套 Agent 体系,差别在哪里
单个 Agent 的结构可以很简单。OpenAI 在 Agents SDK 文档里把 Agent 描述为配置了指令、工具和可选运行时行为的大语言模型,运行时行为包括任务转移、安全防护和结构化输出。这个定义适合理解一个 Agent 的骨架。
| 维度 | 单个 Agent | Agent 体系 |
|---|---|---|
| 任务 | 一次具体任务 | 一类业务任务 |
| 组成 | 模型、指令、工具、记忆 | 多角色 Agent、共享知识、工具连接、编排、治理 |
| 决策 | 自己决定下一步 | 在统一规则和权限内决定下一步 |
| 失败处理 | 重试或人工接管 | 检查点恢复、降级、审计 |
| 成本 | 单次调用成本 | 任务级成本核算与预算 |
| 适用 | 试点、单点任务 | 跨系统、跨角色、长期运行 |
骨架之外,企业还要解决共享知识、工具接入、权限隔离、故障恢复和成本归因。这些问题不会因为模型变强自动消失,反而会随着 Agent 数量增加而放大。
一套 AI Agent 体系通常由哪些层组成
不同厂商的划分不完全一样。下面这种六层分法,适合企业用来检查自己缺哪一块。
1. 模型与指令层
模型负责理解任务、推理和生成动作。指令定义角色、目标、边界和输出格式。模型可以更换,指令和业务约束要能沉淀,不能散落在每个人的提示词里。
2. 知识与记忆层
企业知识决定 Agent 答得对不对。文档、指标口径、业务规则和历史工单需要被整理成 Agent 能调用的形态。记忆解决跨轮次、跨任务的上下文延续,长期记忆要能更新、清理和追溯。对指标多的企业,统一指标口径往往比换模型更先见效。
3. 工具与连接层
工具让 Agent 能查数据、发消息、建工单、执行代码。MCP 这类协议把工具接入标准化,降低每接一个系统就写一套适配的成本。工具描述要写清适用场景、输入输出和错误处理,描述含糊会直接把 Agent 带偏。
4. 编排与协作层
Agent 编排层负责把目标拆成任务,把任务交给合适的 Agent 或模型,保存中间状态,处理失败恢复,并在关键动作前让人确认。Anthropic 把由模型动态决定流程的系统称为 agent,把由预定义代码路径控制的系统称为 workflow,两者的控制权不同。
5. 身份、权限与治理层
企业要让 Agent 碰真实业务,身份、权限、审计和回滚不能缺。每个 Agent 应该有独立身份,权限按任务申请,敏感动作需要审批,调用链要能追溯。只读、写入和不可逆动作要分级管理,退款、发券、删数据这类动作必须留人工确认。
6. 观测、评估与成本层
上线后要看任务完成率、人工介入率、单个成功任务成本、权限违规次数和故障恢复时间。还要能看见 Agent 的调用链和决策依据。没有这些指标,体系是否有效只能靠感觉。
它怎么把一件事做完
一个任务进入体系后,通常走一条循环。
- 接收目标,确认边界和成功标准。
- 拆解任务,判断需要哪些知识和工具。
- 调用工具,读取返回结果。
- 根据结果调整下一步,遇到阻塞时请求人工判断。
- 完成或停止,留下过程记录和结果。
这条循环听起来简单,难点在每一步都可能出错。工具返回错误、知识过期、权限不足、子 Agent 重复劳动,都会让任务偏离。体系的价值,是让这些错误被看见、被限制、被恢复。
以客服退款为例。Agent 先确认订单和用户身份,再判断退款政策,调用订单系统执行退款,最后把结果和依据回给用户。知识层提供政策,工具层连接订单系统,治理层限制退款额度,观测层记录整个过程。任何一层缺失,任务都很难稳定完成。
任务复杂到单窗口放不下,或者可以并行探索时,才会用到多 Agent 协作。Anthropic 在 2025 年 6 月的工程文章里披露,其多智能体研究系统在内部研究评测中比单 Agent 高 90.2%,token 消耗约为普通对话的 15 倍。这个结果说明多 Agent 有能力上限,也有成本上限。高价值、可并行、需要多个工具的任务更适合;强依赖共享上下文的任务,单 Agent 往往更稳。
多 Agent 不是默认答案。 任务三步就能完成,硬拆成五个 Agent,增加的往往是故障点。
AI Agent 体系和工作流、RPA、聊天机器人有什么区别
这些概念经常被混着用。区别主要看控制权,也就是下一步由谁决定。
| 类型 | 谁决定步骤 | 主要能力 | 适合场景 | 边界 |
|---|---|---|---|---|
| 聊天机器人 | 人提问,模型回答 | 对话、问答 | 咨询、知识查询 | 通常不执行跨系统动作 |
| 工作流 | 预先写好的代码路径 | 按固定步骤调用模型和工具 | 流程稳定、异常少 | 路径变化时需要改流程 |
| RPA | 规则和脚本 | 模拟界面操作、搬运数据 | 重复、规则明确的录入 | 界面或规则变化时容易失效 |
| 单个 Agent | 模型动态决定 | 规划、调用工具、根据反馈调整 | 路径不确定的单点任务 | 复杂任务受上下文和治理限制 |
| Agent 体系 | 模型在统一规则内决定,编排层协调 | 多角色协作、共享知识、治理和运营 | 跨系统、跨角色、长期运行 | 建设和治理成本更高 |
这张表里最值得看的是控制权。工作流把步骤写在代码里,Agent 把下一步交给模型判断。RPA 更依赖界面和规则,聊天机器人主要输出内容。企业落地时经常混用,固定步骤交给工作流,需要判断和调整的环节交给 Agent。体系的作用,是让这些方式在同一个权限和审计框架下配合。
企业什么时候需要一套 Agent 体系
判断是否需要体系化,可以看三个条件。
- 任务路径不稳定。每次处理都要根据中间结果调整,很难提前写死步骤。
- 任务要跨系统完成。需要查数据、改状态、发通知、走审批,单靠对话完成不了。
- 结果可验证,风险可控制。成功标准清楚,出错能发现、能回滚、能追责。
三个条件同时成立,体系化才有价值。只满足一个,先用更简单的方案。
三种情况不必上重体系。任务短、低风险、单点使用,比如会议纪要、文档摘要,一个模型加几个工具就够。流程高度固定、异常很少,传统工作流加规则引擎可能更便宜、更稳。场景还没跑通时,先做一个高频场景,再考虑平台化。
确定要做之后,先把权限控制与审计的底线划出来。哪些工具只读,哪些可以写入,哪些动作不可逆;哪些数据不能出内网;每个 Agent 代表谁,权限多久失效;出问题能否一键停掉。把这些说清楚,再谈多 Agent 和规模化。
从体系视角看 ThinkingAI 的实践
ThinkingAI 的企业级 AI Agent 平台 Agentic Engine,提供的是体系里的运行底座。企业可以在平台上创建和管理各类 Agent,支持多 Agent 协作,具备全域感知能力,支持私有化部署,并把从感知到行动的闭环放在同一个平台里。ThinkingAI 已服务全球超过 1500 家企业,接入产品超过 8000 款。
体系能否稳定,知识和治理是两个容易被低估的部分。ThinkingAI 的企业级知识库把文档、报表和业务规则加工成结构化、关联化、版本化的知识,用 SSOT 这一单一事实来源保证同一概念只有一处定义,用 ChangeSet 变更集记录变更,让 Agent 调用知识时可追溯、可回滚。对指标口径多的企业,这项基础工作往往决定 Agent 的回答能不能被业务信任。
这些能力解决的是体系里的知识和治理问题,不改变一个前提。Agent 体系的价值取决于业务任务是否清楚、权限边界是否明确、结果是否能验证。平台能提供能力,判断仍要由企业自己做。
如果企业的约束是数据不出内网,私有化部署就是选型时要确认的条件之一。私有化版本的身份、网关、审计和恢复能力是否完整,比演示效果更值得核对。
常见问题
AI Agent 和 AI 助手有什么区别?
AI 助手通常以对话为主,回答一个问题或给出建议。AI Agent 会围绕目标规划步骤、调用工具、根据结果继续行动。助手可以是一个 Agent 的交互界面,Agent 的能力范围取决于它能用的工具和权限。
AI Agent 体系一定要多智能体吗?
不一定。单 Agent 加知识、工具和治理也能构成一套体系。多 Agent 适合高价值、可并行、信息量超过单窗口的任务。任务短、依赖共享上下文时,单 Agent 更稳,成本也更低。
小企业需要自建 Agent 体系吗?
看任务,不看规模。任务简单、风险低时,先用成熟平台或现成工具跑通一个场景。出现跨系统调用、权限审计和多角色协作时,再考虑平台化。自建需要长期工程投入,采购要看私有化、集成和退出成本。
Agent 体系会取代 RPA 和工作流吗?
三者会长期配合。规则明确、界面固定的流程适合 RPA。步骤稳定、异常少的流程适合工作流。需要判断、调整和跨系统执行的任务适合 Agent。体系负责把它们放进统一的权限、审计和成本框架。
怎么判断一套 Agent 体系能不能上生产?
看五件事。任务完成率、人工介入率、单个成功任务成本、权限违规次数、故障恢复时间。再看每个 Agent 是否有独立身份、工具调用是否经过统一网关、长任务能否从检查点恢复。指标和机制都能说清楚,才值得进入概念验证。
参考资料
- Anthropic,Building effective agents,2024 年 12 月 18 日,https://www.anthropic.com/engineering/building-effective-agents
- Anthropic,How we built our multi-agent research system,2025 年 6 月 13 日,https://www.anthropic.com/engineering/multi-agent-research-system
- OpenAI,Agents SDK 文档,智能体,访问日期 2026 年 11 月 5 日,https://openai.github.io/openai-agents-python/zh/agents/






