AI Agent人机协同，是指企业把一项工作任务拆成若干步骤，由 AI Agent 在设定的权限和范围内执行，人负责设定目标、确认关键依据、处理异常，并对最终结果负责。它要回答的核心问题是行动权怎么分配，以及人与 Agent 在哪些节点交接。
这个词常被用来描述两种状态。一种是人使用会回答问题的助手，人做主线，AI 提供建议。另一种是 Agent 已经能调用工具、修改数据、发起流程，人的角色转为定目标、划边界、看证据、做决定。这里讨论后者，也就是企业级 AI Agent进入真实业务流程后的人机协同。人机协同在不同领域有不同用法，这里采用企业 AI Agent 落地语境下的含义。
一个简单的判断标准是：Agent 只输出文字时，协同重点在内容质量；Agent 能执行动作时，协同重点在授权、证据和责任。后一种情况更接近企业当前遇到的难题，也更需要流程设计。
AI Agent 人机协同，协同的是什么？
人机协同要处理三个对象。
任务分工回答哪些步骤交给 Agent，哪些留在人手里。资料检索、摘要、初稿、分类、常规比对，通常适合 Agent 先做；目标设定、价值取舍、异常判断和关系协调，通常由人保留。
行动授权回答 Agent 能读什么、能写什么、能调用哪些工具、单笔影响范围有多大。授权越具体，协同越稳定。只写一句可以处理退款，没有金额、条件和审批规则，Agent 和人都会无所适从。
责任归属回答出问题时谁解释、谁批准、谁修正。Agent 可以执行动作，责任仍由企业里的人承担。把责任写进角色和流程，协同才有可操作性。
很多团队只做了任务分工，再在流程末尾加一个确认按钮。审批人看不到依据，没有时间判断，也没有权限改变结果，这个按钮就只剩形式。
与传统 Copilot 相比，Agent 的协同对象从内容扩展到行动。Copilot 的主要价值在生成和建议，人仍然是操作主线；Agent 能规划步骤、调用工具、跨系统执行，人的工作转向设定边界和验收结果。与固定自动化相比，Agent 会在目标下选择路径，遇到异常时更需要明确的升级机制。
| 协同对象 | 要回答的问题 | 常见做法 |
|---|---|---|
| 任务分工 | 哪些步骤交给 Agent | 先做检索、摘要、初稿、分类 |
| 行动授权 | Agent 能做什么、做到什么程度 | 按工具、字段、金额、影响范围设限 |
| 责任归属 | 谁批准、谁处理异常、谁审计 | 明确角色、交接条件和留痕要求 |
为什么 Agent 开始做事后，人机协同变难了？
Agent 的行动链条更长，错误会沿链条传递。一次取数口径错了，后面的分析、策略、触达都会跟着错。人看到的是一份完整报告，很难从结果反推哪一步出了问题。
Agent 会改变系统状态。发券、退款、改配置、发消息，这些动作有外部后果，撤销成本各不相同。文字答错可以重写，已经发给客户的通知很难收回。
模型输出带有不确定性。它能给出看起来合理的方案，但未必理解组织里的隐性约束，比如某类客户为什么需要优先处理，某项调整会对一线团队造成什么影响。
责任也无法转移给模型。监管、客户和内部管理最终找的是企业里的人。协同设计要让责任落到具体角色，避免停在由 AI 负责这种说法上。
Gartner 2025 年 6 月发布的预测显示，到 2027 年底，超过 40% 的 agentic AI 项目会被取消，原因包括成本上升、业务价值不清和风险控制不足。这是预测，尚未成为结果，但它提醒企业，Agent 进入生产阶段后，治理和协同设计与模型能力同样重要。
欧盟《人工智能法案》第 14 条对高风险 AI 系统提出人类监督要求。系统要能被指定人员有效监督，监督者要理解系统能力和限制，能监测异常、正确解释输出，并在需要时忽略、覆盖、反转输出，或让系统安全停止。该条款适用于欧盟的高风险 AI 系统，不能直接套到所有企业场景，但它给出了一份可操作的检查清单。
把这两条放在一起看，人机协同要解决的是让 Agent 的行动可授权、可观察、可纠正、可追责。做到这四点，Agent 才有机会从演示走进生产。
人负责什么，Agent 负责什么？
Agent 适合承担这些工作：
- 检索和归纳大量资料，整理成可读的摘要。
- 按统一口径取数、比较方案、生成初稿。
- 在授权范围内调用工具，完成分类、提醒、工单流转、内容发布等动作。
- 监测异常，按预设条件升级给人。
- 记录执行过程和依据，供人复核。
人需要保留这些职责：
- 设定任务目标、优先级和不可接受的风险。
- 定义口径、规则和边界，尤其是涉及钱、客户权益和合规的部分。
- 判断价值取舍和利益冲突。
- 在高后果、难逆转的动作前批准。
- 处理异常、关系问题和没有先例的情况。
- 对结果负责，复盘并更新规则。
这个分工不按岗位写死。同一个运营人员，在低风险任务里可能是监督者，在高风险任务里是审批者，在异常处理时是兜底者。组织可以把角色归为三类：业务负责人定义目标和风险，审核人负责关键节点判断，系统负责人维护权限、工具和日志。规模小的团队可以一人兼多角，职责仍要写清楚。
人的判断要有效，需要三个条件：看得到证据，有足够时间，有权限改变结果。缺一个，审批就容易变成走过场。
四种协同深度
授权程度可以按动作来分，不必给整个公司定一个统一答案。同一个流程里，不同步骤可以用不同方式。
| 授权方式 | Agent 做什么 | 人做什么 | 适合场景 |
|---|---|---|---|
| 辅助 | 查资料、做摘要、起草方案 | 完成任务并决定是否采用 | 判断权主要在人的工作，例如策略初稿、客户沟通准备 |
| 行动前审批 | 提出具体动作和依据，等待批准 | 审核后允许执行 | 高后果、难逆转、需要明确责任人的动作，例如大额退款、合同条款变更 |
| 行动后复核 | 在允许范围内先执行，记录结果 | 复核结果或抽样 | 可逆、可检测、规则相对清楚的任务，例如低风险工单分类、标准报表生成 |
| 边界内自主 | 在目标、额度和权限内处理多步任务 | 设定边界，处理异常 | 路径会变化、单步风险可控的工作，例如跨系统排查数据异常、按策略执行用户分群触达 |
这四种方式可以同时存在于一个流程。以电商退款为例，小额且符合政策的退款可以由 Agent 直接处理；超过额度进入人工审批；政策和订单信息冲突时升级给客服主管；每周抽样复核，发现异常再收紧权限。
自主程度高不代表协同水平高。判断标准是授权与风险是否匹配，以及人是否保留了有效的判断能力。审批加满，流程会变慢；权限放开却不给证据和审计，风险会变大。协同设计要按动作后果调整授权，并保留人的复核能力。
人机协同的六个设计要素
把协同落到流程里，可以用六个要素检查。
| 要素 | 要写清什么 |
|---|---|
| 1. 任务分级 | 按后果、可逆性、可检测性和责任归属分级。后果越大、越难撤销、越难发现，越需要前置审批。规则清楚、错误容易发现的任务，可以放宽到事后复核。 |
| 2. 角色与权限 | 写清楚谁设定目标、谁批准、谁处理异常、谁审计。权限要落到工具、数据字段和动作范围，不能只写在提示词里。Agent 能读哪些表、能写哪些字段、单笔额度多少，都要在系统层限制。 |
| 3. 证据展示 | Agent 给出结论时，同时给出数据来源、时间范围、计算口径、关键假设和备选方案。审核人看到的是可判断的材料，而不是一句请确认。 |
| 4. 交接与升级 | 定义触发条件，例如金额超限、数据缺失、来源冲突、政策例外、连续失败。升级后要有明确负责人和响应时限，任务状态要显示为已暂停或已转交，避免用户以为 Agent 还在处理。 |
| 5. 执行与留痕 | 记录输入、模型版本、引用资料、建议、人工修改、批准人和执行结果。留痕的价值在于事后能还原判断过程，支持审计、复盘和责任界定。 |
| 6. 复盘与沉淀 | 定期看人工介入率、驳回率、异常类型、返工率和错误造成的损失。介入率上升可能说明边界过宽，也可能说明业务规则变了。把稳定的判断沉淀为规则、知识或技能，让下一次协同更稳定。 |
这六个要素里，最容易被忽略的是证据和交接。审批按钮可以很快加上，但让审批人看得懂、来得及、改得动，需要产品和流程一起设计。
三个场景里的协同边界
客服退款
Agent 读取订单、支付和售后政策，判断是否符合退款条件。小额且规则清楚的退款可以自动处理；超过额度进入人工审批；政策与订单信息冲突时升级给主管；每一笔处理都记录依据和结果。
人负责例外判断、客户情绪、恶意退款识别和关系修复。这样分工后，Agent 处理可规则化的部分，人处理需要判断和关系协调的部分。
经营分析
Agent 按统一指标口径取数，找出异常，生成原因假设和备选方案。人确认口径、补充业务背景，决定要不要采取行动。
如果指标定义不统一，Agent 越勤奋，错误传播得越快。统一指标口径和业务语义层属于协同的基础设施，能让人和 Agent 看到同一套数据含义，也让人更容易复核结论。
营销触达
Agent 圈选人群、生成文案、给出发送时间和渠道建议。人审核品牌口径、合规要求和敏感人群，高风险活动在发送前审批，发送后监测退订、投诉和转化。
触达动作一旦发出就很难完全撤回，所以发送前审批比事后复核更合适。低风险的常规触达可以用事后抽样，高风险活动要提高审批级别。
常见误区
把人工确认当成协同的全部。 只在最后加审批，不定义任务分级和升级条件，审批会变成瓶颈。协同要按风险配置不同深度。
把全自动当成目标。 自动化程度是手段。企业要的是稳定完成任务、控制风险，人工介入多少由任务决定。
只给权限，不给证据和审计。 Agent 能执行但没人看得懂过程，出了问题无法定位。权限、证据和日志要一起设计。
用使用次数衡量成效。 调用次数多不代表价值高。更值得看的是完成时间、错误率、返工率和异常处理质量。
企业应该从哪里开始
先选一个高频、规则相对清楚、结果可验证、错误可撤销的场景。客服问答、报表生成、低风险工单分类、常规内容初稿，通常比直接改造核心交易流程更容易起步。
第一步画任务链，先不急着选工具。把任务拆成步骤，标出每一步的输入、输出、会改变什么、出错后能不能撤回。
第二步定授权。给每一步选辅助、事前审批、事后复核或边界内自主，并写明升级条件。
第三步小范围运行。用四到六周收集介入率、错误类型和返工情况，再决定扩不扩。
第四步把有效做法沉淀下来。规则、知识、调用方式，能复用的部分固化成企业资产，减少对个别人员的依赖。
如果企业希望把协同规则放到平台层，ThinkingAI 的 Agentic Engine 支持企业创建和管理各类 Agent，支持多 Agent 协作，也支持私有化部署。平台化的价值在于把权限、工具调用、运行监控和知识供给放在同一套机制里，减少每个场景各自搭建的成本。
企业级知识库是另一块基础。它把业务知识加工成 Agent 可直接调用的形态，并通过变更集机制保证知识可追溯、可对比、可回滚，让不同 Agent 在回答同一指标时使用同一套定义。对需要复核和审计的场景，这能减少口径争议，也方便人找到依据。ThinkingAI 已服务全球超过 1500 家企业，接入产品超过 8000 款，这些经验可以作为评估平台时的参考。
当多个 Agent 参与同一任务时，协同边界还要落到 Agent 之间。谁负责拆解目标，谁负责执行，谁负责校验，哪些结果必须回到人这里确认，都需要提前约定。这类多 Agent 协作场景，比单个 Agent 的权限设计更复杂。
常见问题
人机协同和人在回路有什么区别？
人在回路通常指人参与具体决策或审批的一种模式，人机协同的范围更宽，包含辅助、事前审批、事后复核、边界内自主等不同深度。人在回路可以看作人机协同的一种实现方式。
每个环节都要人工审批吗？
不需要。审批强度应与风险匹配。低风险、可逆、可检测的动作可以事后复核或抽样；高后果、难逆转的动作才需要事前审批。每个环节都审批会制造瓶颈，也会让审批人形成习惯性点击。
哪些任务适合让 Agent 自主执行？
可以先用四个条件判断：后果是否可控，动作是否可逆，错误是否容易被发现，责任是否清楚。四项都满足，适合在边界内自主；有一项明显不满足，就应该增加前置审批或人工处理。
人机协同会拖慢效率吗？
设计不当会。把审批加在所有动作上，流程可能比纯人工更慢。按风险分级、把审批放在少数关键节点，效率通常更好。可以用任务完成时间、人工介入率和返工率一起判断。
怎么衡量人机协同是否有效？
衡量重点放在结果指标上：任务完成时间、错误率、人工介入率、异常升级的准确率、返工率和审计可追溯率。使用次数只能作为参考。还要看人是否能把时间转到更复杂的判断上。
中小企业需要专门设计人机协同吗？
需要，规模可以小。先从一条高频流程开始，写清三类规则：Agent 能做什么，什么情况必须转人工，出了问题谁负责。跑顺后再扩展到相邻流程。
参考资料
- 欧盟《人工智能法案》第 14 条，Human Oversight，https://artificialintelligenceact.eu/article/14/
- Gartner，Over 40% of Agentic AI Projects Will Be Canceled by End of 2027，2025 年 6 月 25 日，https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027
- 范长俊，《人机协同不是机器替人：让AI成为组织的超级助手》，科普中国，2026 年 11 月 4 日，https://cloud.kepuchina.cn/h5/detail?id=7517350013437648896
- Hassan Djirdeh，Understanding Human-Agent Collaboration Patterns，Telerik，2026 年 10 月，https://www.telerik.com/blogs/understanding-human-agent-collaboration-patterns
