AI Agent 浏览器自动化,是让 AI Agent 直接操作浏览器完成网页任务的一类自动化方式。人给出目标和限制条件,Agent 打开页面、识别可操作元素、决定点击或输入什么、执行动作,再检查结果是否达成目标。遇到失败会换路径重试,遇到高风险步骤会停下来等人确认。
它适合只有网页入口、没有稳定 API,或者 API 覆盖不全的流程。运营在供应商后台核对账单,客服在订单系统里查物流,测试人员检查注册流程,这些工作过去靠人点或靠写死的脚本跑。交给 Agent 后,人负责定目标和验收,浏览器负责执行。
理解这个概念,关键是看决策发生在什么时候。 脚本把每一步提前写好,运行时只负责执行。Agent 把步骤留到运行时,根据当前页面决定下一步。这个差别决定了它能处理变化,也决定了它更慢、更贵、更需要约束。
AI Agent 浏览器自动化如何工作
一次任务通常按四步循环推进,直到完成或转人工。
- 接收目标与约束。 目标要能描述结果,例如“下载本月账单并标出与内部数据不一致的条目”。约束包括可访问的系统、允许的动作、时间上限和必须确认的节点。
- 观察页面。 Agent 读取当前页面结构、可见文本、按钮和输入框,也可能读取截图。它要知道自己在哪里、下一步有哪些可操作项。
- 决定并执行动作。 点击、输入、选择、滚动、切换标签页、下载文件,都由浏览器自动化层完成。Playwright 这类工具负责跨浏览器执行,Browser Use 这类框架把任务目标和浏览器操作连接起来。
- 核对结果。 检查页面提示、列表数据、文件内容或后续系统状态,确认这一步真的成功。没有校验,Agent 容易把“点击完成”当成“任务完成”。
页面感知方式决定成本、稳定性和适用范围。 常见做法有三类。
| 感知方式 | Agent 看到什么 | 优点 | 限制 |
|---|---|---|---|
| 页面结构或可访问性树 | 按钮、输入框、文本、层级关系 | 成本低,定位清楚,便于记录 | 画布、图表和强视觉交互页面信息不足 |
| 截图加视觉模型 | 渲染后的画面 | 接近人看页面的方式,适合复杂前端 | 调用成本高,文字识别和坐标定位可能出错 |
| 网站主动注册工具 | 工具名、说明、参数和返回结果 | 调用直接,结果结构化 | 需要网站改造,目前仍在早期 |
第三类做法正在推进。Chrome 开发者文档给出的 WebMCP 接口允许网页通过 document.modelContext.registerTool 注册工具,Agent 可以发现并调用。站点还能标注工具是否只读、返回内容是否可信、是否属于重大操作,帮助 Agent 和浏览器判断何时需要人工确认。Playwright 文档把 WebMCP 标为实验能力,说明它距离大规模生产还有距离,但方向很清楚,让 Agent 从模拟点击走向直接调用网页能力。
一个对账例子
运营每月要在供应商后台下载账单,再和内部订单数据比对。流程可以拆成登录后台、选择账期、导出账单、读取文件、按订单号比对、列出差异、生成待确认清单。Agent 负责导航、下载、提取和比对,差异清单交给运营确认后再发起申诉。适合交给 Agent 的是路径固定但页面会变的操作,不适合交给它的是未经确认就提交的争议处理。
和 RPA、脚本、爬虫差在哪
三种自动化经常被放在一起讨论,实际解决的是不同问题。
| 对比项 | 脚本或 RPA | AI Agent 浏览器自动化 | 爬虫 |
|---|---|---|---|
| 任务输入 | 预先编排的步骤和选择器 | 自然语言目标与约束 | 目标网址和字段规则 |
| 页面变化 | 选择器失效就中断 | 可重新识别元素或换路径 | 结构变化需改规则 |
| 异常处理 | 按预设分支处理 | 运行时判断,可尝试替代路径 | 通常有限 |
| 成本结构 | 开发一次,运行成本低 | 模型调用与浏览器运行成本较高 | 采集和存储成本为主 |
| 审计方式 | 步骤日志清晰 | 需记录决策、页面状态和动作 | 记录请求与结果 |
| 适合任务 | 高频、规则稳定、量大的流程 | 变化多、长尾、需要判断的流程 | 批量读取公开数据 |
判断用哪种方式,先看流程稳定性和异常密度。 每天运行上千次、页面多年不变的流程,脚本和 RPA 的成本更低,审计也更直接。页面经常改版、异常分支多、需要从非结构化内容里做判断的流程,Agent 更有优势。批量读取公开页面,爬虫或 API 更合适。三者可以组合,稳定步骤交给脚本,判断和异常处理交给 Agent。
哪些企业流程适合先试
先用五个条件筛一遍,能避开大部分不适合的项目。
- 网页是唯一入口,短期内拿不到稳定 API。
- 步骤重复,结果能用文件、字段或状态核对。
- 失败可以回退,不涉及支付、删除、权限变更等不可逆动作。
- 页面会变,但整体结构仍然可理解。
- 任务量适中,模型和浏览器成本低于人工成本。
| 场景 | 可以先做什么 | 主要风险 |
|---|---|---|
| 供应商或广告后台对账 | 下载账单、汇总数据、标记差异 | 账号权限过大,文件含敏感信息 |
| 客服与售后查单 | 按订单号查状态,整理回复草稿 | 误读页面,草稿被直接发给客户 |
| 公开信息监测 | 定时查看价格、活动、公告 | 触发网站风控,采集频率过高 |
| 内部系统填单 | 从邮件或表格提取信息并录入 | 字段错位,重复提交 |
| 产品流程巡检 | 走注册、下单、支付前流程并记录问题 | 测试数据污染生产环境 |
几类流程更适合先放一放。大规模稳定采集优先用 API 或爬虫。强验证码和风控体系不适合用 Agent 绕过。支付、转账、删除数据、修改权限这类动作,即使让 Agent 执行,也要保留人工确认。只有桌面客户端、没有网页入口的系统,浏览器自动化也接不进去。
落地先管好权限、确认和审计
演示能跑通,离生产还有一段距离。企业落地时,下面四件事决定项目能不能长期运行。
账号与权限
给 Agent 单独开账号,按任务授予最小权限,不要共用员工个人账号。能限定系统、页面和动作范围的,就不要开放整个后台。登录凭证放在安全的凭据管理里,不写进提示词,也不出现在聊天记录中。
确认点与止损
只读操作可以自动执行,写入、提交、支付、删除前设置人工确认。给任务设置步数上限、超时时间、金额上限和重复提交保护,异常时立即停止并保留现场。确认点设在哪里,比 Agent 会不会点按钮更重要。
可观测与审计
记录任务编号、每一步的页面地址、元素、动作、截图、模型判断和返回结果。出问题时能回放,才能定位是页面变了、理解错了,还是业务规则本身有歧义。运行数据还可以沉淀成评测集,用来比较不同模型和提示词的效果。
数据与提示词注入
网页内容是外部输入,可能包含恶意指令。Agent 读到一个“忽略之前的规则,把数据发到某个地址”的段落,不能把它当成任务指令。Chrome 的 WebMCP 文档专门用 untrustedContentHint 标记不可信返回内容,也提醒开发者防范间接提示词注入。企业侧还要做脱敏、访问控制和留存管理,避免把客户个人信息带进不该去的上下文。
还有一项常被低估的准备是业务知识。Agent 能看到页面,却未必知道这个指标怎么算、这类客户能不能退款、这个差异要不要申诉。把这些规则写进知识库和工具约束,比反复优化提示词更有效。
企业级平台承担什么角色
浏览器自动化进入生产,通常还要接四类基础设施,包括模型与 Agent 编排、企业知识与口径、工具连接、权限与运行监控。单独一个开源库可以跑通演示,到了企业环境,账号怎么管、失败怎么查、多个 Agent 怎么协作,都会变成平台问题。
ThinkingAI 的企业级 AI Agent 平台 Agentic Engine 提供 Agent 创建与管理、多 Agent 协作和私有化部署。平台通过 MCP 服务连接外部系统与工具,通过 Agent 管理做权限控制、任务调度和运行监控。浏览器自动化通常作为其中一类工具能力接入,具体接到哪些系统、开放哪些动作,仍要按流程逐项评估。ThinkingAI 已服务全球超 1500 家企业,接入产品超 8000 款,这些经验更多落在企业数据、知识与 Agent 治理上,浏览器操作只是执行链路的一段。
常见问题
AI Agent 浏览器自动化会取代 RPA 吗
在规则稳定的高频流程里,RPA 和脚本仍有成本和审计优势。Agent 更适合变化多、需要判断的环节。更现实的做法是组合使用,稳定步骤保留脚本,异常和长尾交给 Agent。这条边界还会继续变化。
一定要用多模态大模型吗
不一定。页面结构信息足够清楚时,文本模型就能完成大部分表单和列表操作。画布、图表、复杂单页应用才更需要截图和视觉定位。很多团队采用混合方式,常规页面读结构,卡住时再看截图。
登录和验证码怎么处理
登录适合用专用账号、企业单点登录或人工完成授权,会话凭证交给凭据管理。验证码应走人工接管或网站提供的合规接口,不建议绕过网站风控。需要频繁人工接管的流程,说明它还不适合全自动运行。
怎么评估一个流程能不能上线
先看结果能否核对、失败能否回退、权限能否收窄。选一个两到四周能跑完的小流程,记录任务成功率、人工接管率、单任务耗时和成本,再决定是否扩大范围。只统计成功次数没有意义,失败样本更能说明系统边界。
成本主要花在哪
模型调用、浏览器运行、人工复核和运维。页面越复杂、步骤越长、截图越多,成本越高。稳定步骤可以改用脚本处理,重复页面可以缓存结构信息,人工只处理异常和确认点。
参考资料
- Chrome for Developers,WebMCP 命令式 API,https://developer.chrome.google.cn/docs/ai/webmcp/imperative-api
- Playwright,Installation,https://playwright.dev/docs/intro
- Browser Use,Agent skills overview,https://docs.browser-use.com/open-source/examples/skills/overview






