AI Agent如何工作？

AI Agent 是一套以目标为输入、由大模型决定下一步动作、通过工具与外部环境交互，并在循环中把任务推进到结果的系统。用户给出目标、边界和成功标准，Agent 判断先做什么、调用什么工具、结果是否达标，必要时调整路线或请人确认。

理解 Agent 的原理，关键是看它如何把一次任务跑完。一次模型调用可以写出答案，Agent 还要读取数据、执行操作、检查结果，并在中途修正。这也是企业级 AI Agent 平台与单点 AI 工具的分界线。

AI Agent 和聊天机器人差在哪

讨论 AI Agent 和聊天机器人的区别，先看控制权在谁手里。

Anthropic 在 2024 年 12 月发布的《Building Effective Agents》中把两类系统分开。工作流由预定义代码路径编排模型和工具，Agent 由模型动态决定自己的流程和工具使用。这个区别决定了系统的灵活性和风险。

Agent 的自主性更高，延迟、成本和错误累积的风险也更高。Anthropic 的建议是先用最简单的方案，只有简单方案不够时才增加 Agent 的复杂度。判断是否需要 Agent，可以看三个条件：任务步骤无法提前写死，中间结果会改变下一步，环境能提供可读取的反馈。三个条件都满足，Agent 才有发挥空间。 如果流程稳定、规则明确，工作流更便宜，也更好排查。微软在 Agent Framework 文档里给了一条更直接的判断，如果任务能写成一个函数处理，就用函数，不必上 Agent。

一次任务从输入到完成，Agent 经历了什么

AI Agent 的工作原理，可以拆成一次任务从输入到完成的运行过程。以分析退款率上升为例，一次完整的 Agent 任务大致经过以下阶段。

第一阶段常被低估。目标要能验收，边界要能执行。比如“把退款率降下来”不够清楚，改成“找出本周退款率上升的主要原因，列出三个可执行动作，并标明数据口径”，Agent 才知道什么算完成。同时要说明权限范围、不能操作的系统、需要审批的动作。

第二阶段决定后续判断的质量。Agent 需要知道业务规则、指标定义和对象范围。比如退款率按支付时间还是退款时间统计，是否包含取消订单，不同渠道的口径是否一致。这些前提缺失，后面的分析越完整，偏差可能越大。

第三阶段是规划。Agent 把目标拆成子任务，判断哪些能并行、哪些有依赖、每一步用什么工具。规划可以是一份明确的步骤清单，也可以边做边判断。计划需要保留修改空间，工具返回的结果往往会推翻最初的假设。

第四阶段是行动。模型提出工具调用请求，程序负责实际执行和参数校验。查数据库、调用内部 API、运行代码、检索文档、发送消息，都属于这一层。模型负责选择，执行权和权限控制在程序与平台一侧。

第五阶段是观察。Agent 读取工具返回、报错信息、耗时和数据变化，用真实结果校正自己的判断。Anthropic 把这步称为从环境获得 ground truth，也就是让每一步判断都有真实结果作依据。缺少这一步，Agent 只能沿着想象往下写。

第六阶段是校验与停止。Agent 对照成功标准检查结果，达标就交付，不达标就重规划，遇到权限不足或高风险动作就请人确认，达到最大轮次就停止。

这套流程运行时是一个循环，第五阶段的结果会回到第三阶段。 以退款率分析为例，按渠道拆分后如果发现某个渠道的退款集中在支付失败后，Agent 需要继续查该渠道的支付规则和近期变更，再决定是否调整分析方向。如果查询返回空结果，它要先判断筛选条件是否写错，不能直接把零当成结论。

规划、工具、记忆、反馈分别在做什么

规划决定下一步，计划可以改

常见的规划方式有两种。ReAct 让模型在每一轮交替进行推理和行动，适合信息需要逐步获取的任务。Plan-and-Execute 先生成结构化计划，再由执行器逐项完成，适合步骤较多、依赖较清楚的任务。两种方式可以组合，先给出大致计划，再根据执行结果重规划。

计划需要保留修改空间。 环境证据变化时，继续执行原计划会把小错误放大。规划质量取决于目标清晰度、业务知识完整度和工具可见性。目标含糊，计划容易发散；工具描述不清，规划会选错动作。

工具决定 Agent 能做什么

工具是模型之外的接口，封装了查询数据、调用系统、执行代码、发送消息等能力。模型负责选择工具和参数，程序负责执行。AI Agent 工具调用的质量，取决于工具描述、参数结构和错误返回。

工具数量增加会占用上下文，也会增加选择难度。把工具按任务收窄，比一次性提供几十个工具更稳。MCP 协议提供了一种连接工具和数据的通用方式，企业可以把内部系统封装成 Agent 可调用的能力，减少每个场景重复对接的成本。

记忆决定任务能不能接上

短期记忆保存当前目标、已完成的步骤、工具结果和未解决的问题。长任务需要结构化状态，不能只靠聊天记录。把任务进度、关键文件、假设和待确认问题写进状态，Agent 在中断、重试或换人接手时才能继续。

长期记忆保存企业知识、指标口径、用户偏好、历史案例和可复用技能。记忆需要版本、权限和时效。 过期、冲突、无权限的信息进入上下文，会拖慢推理并放大错误。企业记忆还要记录来源、时间、租户和有效期，否则很难判断一条信息能不能用。

企业知识库的价值在这里体现。它把文档、报表和指标定义加工成 Agent 可调用的结构，用统一指标口径保证同一概念只有一处定义。知识经过治理，Agent 才能在不同业务线得到一致的答案。

反馈决定 Agent 能不能发现自己错了

反馈有三个来源。环境反馈包括工具返回、代码测试、数据校验和页面状态。人工反馈包括检查点、审批和异常升级。系统反馈包括日志、调用链和评测结果。

反馈要能改变下一步。 测试失败要触发修复，数据对不上要触发重查，权限不足要触发审批。如果反馈只是被记录下来，Agent 继续按原计划执行，错误会留在结果里。

运行监控把模型、工具、技能调用、耗时和 Token 使用记录下来，团队可以回放到具体步骤，判断失败发生在理解、规划、执行还是校验。运行监控和调用链记录，是排查 Agent 问题的起点。

为什么 Agent 有时会出错

Agent 的错误会被后续步骤继承。假设每一步独立且正确率 99%，连续 100 步全部正确的概率约为 36.6%；单步正确率 99.9%，100 步全对的概率约为 90.5%。这是简化计算，现实任务还有依赖、重试和人工纠错，但它说明长任务对单步可靠性的要求很高。

常见错误来源可以分成五类。

• 目标与验收标准不清，Agent 不知道什么算完成。
• 业务知识缺失或口径冲突，计划和判断建立在错误前提上。
• 工具选错、参数写错、返回结果被误读。
• 上下文丢失或记忆过期，前面的约束没有带进后面的步骤。
• 环境变化、权限不足、接口不稳定，行动没有产生预期结果。

Anthropic 提醒，Agent 的自主性会带来更高成本和错误累积风险，建议在沙箱环境充分测试，并设置护栏。代码类任务较早成熟，原因是结果可验证，测试能跑、日志能查。数据分析也具备类似条件，数据能对、口径能查，验收标准更容易设计。开放式的战略判断缺少稳定验收标准，更适合人机协作。

企业落地时，先选可验证的任务。 可验证意味着结果能被独立检查，错误能被发现，失败能回滚。这个条件比任务听起来是否高级更重要。

企业要让 Agent 稳定工作，需要补齐什么

Agent 能不能稳定工作，取决于模型周围的一整套系统。模型提供能力上限，工具、知识、权限、状态和观测决定能力能不能稳定兑现。

Agent 稳定运行需要六类条件，缺一项都会在某个环节暴露出来。

• 知识可治理。指标、规则和文档要有唯一口径和版本记录。原始数据直接喂给模型，价值密度低，容易产生事实错误和幻觉。
• 权限可控制。Agent 要有独立身份，按最小权限访问系统，敏感动作要审批，所有操作要留痕。私有化部署有助于满足数据不出域的要求。
• 运行可观测。记录每次模型调用、工具调用、耗时、Token 和失败原因，能回放到具体步骤。
• 结果可评测。用真实任务集和成功标准验收，覆盖正常路径、异常路径和权限边界，不只看演示效果。
• 边界可停止。设置最大轮次、超时、预算和人工检查点，不可逆动作先审批。
• 组织有分工。业务负责人定义目标和验收标准，技术团队维护工具、知识和运行环境，安全团队负责权限和审计。

图：六类条件共同支撑 Agent 稳定运行，连线表示支撑关系，不表示执行顺序。

ThinkingAI 的 Agentic Engine 提供 Agent 创建与管理、多 Agent 协作和私有化部署，企业知识库为 Agent 提供结构化、可溯源的知识，运行观测能力记录调用关系和执行状态。截至目前，ThinkingAI 已服务全球超过 1500 家企业，接入产品超过 8000 款。这些能力分别落在知识、权限和运行过程上，目标是让 Agent 的行动有依据、过程可检查、结果可验收。

落地可以从一个小场景开始。 选高频、边界清楚、结果可验证、失败可回滚的任务，先跑通一条链路，再扩展到相邻场景。Agent 落地路线图可以作为规划参考。

AI Agent 的工作方式可以记成一句话。它在目标、工具、记忆和反馈之间反复做出下一步决定，直到结果可以验收。

FAQ

AI Agent 和 Copilot 有什么区别？

Copilot 以辅助为主，人在流程中做决定，AI 提供建议或生成内容。Agent 可以自己选择工具、执行动作并检查结果，承担更长的任务链路。两者的边界会随产品能力变化，判断时看谁决定下一步、谁对结果负责。

Agent 的记忆会保存所有对话吗？

取决于设计。短期记忆通常只保存当前任务需要的信息，任务结束后清理。长期记忆保存企业知识、偏好和经验，需要权限、时效和版本管理。把所有历史都存下来并向量化，不等于得到可靠记忆。

多 Agent 一定比单 Agent 效果好吗？

不一定。多 Agent 适合任务能拆成不同专业角色，并且角色之间需要协作的场景。角色越多，通信、状态同步和错误传递的成本越高。单 Agent 能完成的任务，先用单 Agent 或固定工作流。

企业第一个 Agent 应该选什么场景？

优先选高频、规则清楚、结果可验证、失败可回滚的任务，例如客服问答、数据查询、报表生成、代码检查和运营动作执行。避免一开始就选跨部门、强依赖人工判断、错误代价高的任务。

Agent 能完全自动运行吗？

能力上可以连续执行多步，是否完全自动取决于任务风险和验收条件。不可逆动作、资金操作、对外发布和敏感数据访问，建议设置人工检查点。可逆、可验证、低风险的任务可以提高自动化比例。

没有技术团队能落地 Agent 吗？

平台化工具可以降低搭建门槛，但知识治理、工具接入、权限配置和评测仍需要人负责。业务团队可以主导场景和验收，技术团队负责系统连接和运行保障。完全无人负责的 Agent，很难稳定运行。

参考资料

• Anthropic，Building Effective Agents，2024 年 12 月，https://www.anthropic.com/engineering/building-effective-agents
• Microsoft，Agent Framework Overview，https://learn.microsoft.com/en-us/agent-framework/overview/