开源 AI Agent 框架，也常被称为开源智能体开发框架，是源代码公开、允许按照许可证使用、修改和再分发的一套开发工具与运行约定。它把大模型、工具、记忆和任务编排组织成能够执行任务的 AI Agent，解决 Agent 怎么搭、怎么跑、怎么管的问题。模型本身、业务数据和最终应用不包含在框架里。
对企业来说，理解这个定义的价值在于少走两步弯路。框架选对了，团队可以把精力放在业务工具和验收标准上。把框架当成开箱即用的平台，或者把开源当成免费，后面往往要在集成、运维和合规上补课。
开源 AI Agent 框架指什么
把三个词拆开看，边界会清楚很多。
开源指源代码公开，并且许可证允许使用、研究、修改和再分发。Open Source Initiative 的定义强调，仅仅能看到源代码还不够，分发条款必须满足自由再分发、允许衍生作品等条件。放到 AI 语境里，还要区分代码、模型权重和训练数据，三者的开放程度可以不同。
AI Agent 指以大型语言模型为决策中枢，能够调用工具、读取环境反馈并推进任务的系统。Anthropic 在 2024 年 12 月发布的《Building effective agents》中把这类系统统称为 agentic systems，也就是代理式系统，并区分两类做法。工作流由预先写好的代码路径编排模型和工具，Agent 由模型动态决定步骤和工具使用。实际项目里，两者经常混用。
框架指一套可复用的抽象和组件，把模型调用、工具定义、上下文管理、状态保存和执行循环等重复工作封装起来。LangChain 官方文档对 Agent 框架的说明是，它提供结构化内容块、Agent 循环和中间件等抽象，让开发者更快开始构建大模型应用。
合起来，开源 AI Agent 框架就是一套公开源代码的开发工具，帮助团队用较少重复代码搭出 Agent，并保留对模型、工具、流程和部署的控制权。它通常以库、SDK 或运行时的形式出现，可以嵌入现有系统，也可以作为独立服务运行。
框架通常包含哪些能力
不同项目的抽象层级不一样，但一套完整的 Agent 框架通常会覆盖下面几类能力。
- 模型接入：统一不同模型提供商的调用方式，支持切换模型、控制上下文长度和处理流式输出。
- 工具调用：把 API、数据库、文件系统、浏览器等能力包装成模型可以调用的工具，并处理参数校验、权限和返回结果。MCP 是近年常见的工具接入协议，框架对它的支持程度会直接影响集成成本。
- 上下文与记忆：管理当前对话的短期状态，保存跨会话的长期信息，处理检索结果和业务知识。
- 任务编排：支持单 Agent 循环、固定工作流、多 Agent 协作、条件分支和人工介入。LangGraph 这类项目把工作流描述成共享状态、节点和边，允许确定性的代码步骤和模型驱动的步骤出现在同一张图里。
- 状态与恢复：保存执行进度，在失败、暂停或人工审批后继续运行。长任务如果没有持久化，一次中断就可能要从头再来。
- 观测与评估：记录调用链、工具结果、耗时和成本，支持回放、评测和问题定位。生产环境里，这部分往往比“能不能跑通”更花时间。
- 安全与治理：控制工具权限、数据访问范围、密钥管理和操作审计。框架可以提供机制，具体策略仍要企业自己定义。
这些能力不必全部来自同一个项目。 常见做法是用一个高层框架快速搭原型，再接入运行时处理持久化和人工介入，最后用企业平台补齐知识库、权限、监控和部署。
Agent、平台、大模型与框架是什么关系
这几个词经常被混着用，实际分属不同层次。
| 对象 | 主要职责 | 与开源框架的关系 |
|---|---|---|
| 大模型 | 提供语言理解、推理和生成能力 | 框架调用模型，但不包含模型权重 |
| AI Agent | 面向一个目标，组合模型、工具、记忆和流程完成任务 | 框架是搭建 Agent 的工具 |
| Agent 框架 | 提供模型接入、工具、记忆和编排等开发抽象 | 本文讨论的对象 |
| Agent 运行时 | 负责持久化、恢复、流式输出和人工介入等运行能力 | 框架可以自带，也可以外接 |
| Agent 平台 | 把模型、知识库、权限、监控、部署和运营界面放在一起 | 平台可能内置框架，也可能兼容多种框架 |
LangChain 的文档把 Agent 框架、运行时和 harness 分开描述。框架提供开发抽象，运行时提供生产执行能力，harness 则指把规划、文件系统、子 Agent 等能力预先组装好的运行外壳。这个划分不是行业标准，但能帮助团队判断自己缺的是哪一层。有些项目同时覆盖框架和运行时，选型时不要只看名字，要看它实际交付了哪些能力。 如果企业要比较不同 Agent 平台的治理和部署能力，可以按平台选型维度逐项核对。
再往下走，开源框架和开源大模型是两件事。框架的许可证覆盖代码。模型是否开源，要看权重、推理代码和训练数据信息是否按开放条款提供。Open Source Initiative 的 Open Source AI Definition对模型、权重和训练数据分别提出了要求。用了开源框架，不等于用了开源模型；用了开源模型，也不等于拿到了可生产的 Agent 系统。
Agent 和工作流的关系也值得说清。Anthropic 的定义里，工作流由预先写好的代码路径编排模型和工具，Agent 由模型动态决定步骤。框架通常两种都支持。Gartner 在 2025 年 9 月发布的调查中访问了 360 位 IT 应用负责人，75% 的受访者已经以某种形式试点或部署 AI Agent，只有 15% 在考虑、试点或部署完全自主的 Agent。这个差距说明，企业大量使用的其实是带工具调用和固定流程的 agentic workflow，离完全自主还有距离。
常见的开源 Agent 框架有哪些
下面几个开源项目常被放在一起讨论，其中既有框架，也有平台。这里只做定位说明，不做排名。
| 项目 | 官方定位 | 更适合的使用情形 |
|---|---|---|
| LangChain | 提供模型、工具、Agent 循环和中间件等抽象的 Agent 框架 | 团队想快速搭出单 Agent 或较直接的多步应用，不希望从零封装基础组件 |
| LangGraph | 面向长时运行、有状态 Agent 的低层编排框架和运行时 | 流程复杂、需要持久化、人工介入，或要把确定性步骤和模型步骤混在一张图里 |
| CrewAI | 用于编排自主 Agent 和多 Agent 工作流的开源框架，核心概念是 Crews 和 Flows | 任务适合按角色拆分，团队希望用接近业务分工的方式组织多个 Agent |
| Dify | 开源 AI 应用开发平台，可创建 Agent、agentic workflow 和聊天机器人，支持自托管 | 团队希望用较低代码量的方式搭建和发布应用，减少从零开发的工作量 |
几点补充。
CrewAI 在 GitHub 上采用 MIT 许可证，官方文档把自己描述为用于编排自主 Agent 和多 Agent 工作流的开源框架。它把 Flow 当作流程骨架，把 Crew 当作执行具体任务的 Agent 团队。
Dify 的定位是平台，覆盖的不只是编排。它把应用搭建、发布和自托管放在一起，适合需要较快看到可用界面的团队。平台和框架的边界，要看它是否把模型接入、知识库、权限、监控和部署一起打包；只提供 Agent 编排，通常还停留在框架层。
AutoGen 是另一个值得注意的案例。它曾经是多 Agent 框架的重要代表，但截至 2026 年 11 月，GitHub 仓库已经归档，微软不再提供缺陷修复、安全修复和新功能，并建议新项目使用 Microsoft Agent Framework。开源项目的维护状态会改变技术选型的结果，评估时要把发布节奏、问题单响应和迁移路径放进同一张表。
开源 AI Agent 框架怎么选
开源 AI Agent 框架怎么选，取决于任务、团队和运行条件，不取决于项目热度。下面六个问题可以在选型前逐项回答。
- 任务是否真的需要 Agent。如果任务可以用一次模型调用、一个固定脚本或一条普通工作流完成，直接做更省成本。微软在 Agent Framework 文档里给了一条直白的判断，如果能写一个函数处理任务，就用函数，不要上 Agent。Anthropic 也建议从最简单的方案开始，只有在简单方案不够时才增加 Agent 的复杂度。
- 团队是否准备承担周边工程。框架解决的是开发抽象，工具接入、权限、评测、日志、告警、故障恢复和版本升级仍要有人负责。没有工程团队，或者业务方希望装好就能用，开源框架往往不是最省事的路径。
- 许可证是否允许你的使用方式。开源不等于免费，也不等于可以无条件商用。 MIT、Apache-2.0 等许可证在修改、分发、专利和声明义务上的要求不同。采用前要读仓库的 LICENSE 和 NOTICE，确认是否允许闭源分发、是否要求保留版权声明、是否涉及网络服务条款。涉及对外提供服务的项目，还要看商标和商业使用限制。
- 项目是否持续维护。看最近发布、提交频率、问题单处理、安全公告和主要维护者。AutoGen 的归档说明，一个曾经流行的项目也可能停止维护。选框架时要把退出成本算进去，包括迁移到其他框架、重写工具适配和重新做评测的工作量。
- 数据和权限能否管住。Agent 会调用内部系统和真实数据，工具权限、数据边界、密钥管理、操作审计和人工审批要在架构里预留。私有化部署、网络隔离和日志留存的要求，最好在选型前就列清楚。
- 总成本是否算全。许可证费用可能为零，模型调用、算力、存储、集成、评测、运维和人员投入仍然存在。长任务和多 Agent 协作会放大调用次数，成本要按任务链路估算，不能只看单次调用价格。
什么情况下适合用，什么情况下不适合
把前面的判断收拢成两组情形，会更容易做决定。
适合使用开源 AI Agent 框架的情况：
- 任务需要多步推理、工具调用和根据中间结果调整路径，固定流程覆盖不了。
- 团队有开发能力，愿意维护工具适配、评测、监控和升级。
- 企业需要把 Agent 嵌入自有系统，或对部署位置、数据边界和模型选择有明确要求。
- 业务差异较大，希望保留对编排逻辑和交互方式的控制权。
- 愿意先用小范围场景验证，再逐步扩大。
不适合直接采用的情况：
- 任务用一次模型调用、规则引擎或固定工作流就能完成。
- 团队没有工程资源，期待开箱即用的业务系统。
- 主要诉求是快速上线一个标准场景，且市场上已有成熟的平台或产品。
- 对权限、审计、数据隔离有严格要求，但还没有相应的治理方案。
- 只能接受零运维，或者无法承担框架升级和迁移成本。
开源框架适合把控制权留在团队手里的场景，企业级平台适合把集成、治理和运维一并交给外部团队的场景。 两条路径可以组合。常见做法是先用开源框架做小范围验证，确认任务价值和工具链路，再把需要长期运行的部分迁到有治理能力的平台上。
如果企业希望减少自建周边工程的投入，把模型接入、知识库、权限审计和部署运维放在同一套平台里，可以评估 ThinkingAI 的 Agentic Engine。它支持私有化部署和多 Agent 协作，ThinkingAI 已服务全球超 1500 家企业、接入产品超 8000 款。选平台时仍要回到自己的任务和验收标准，开源与商业平台都只是实现路径。
常见问题
开源 AI Agent 框架免费吗
代码通常可以免费获取，但免费只覆盖许可证层面。模型调用、算力、存储、集成、评测、运维和人员投入都要单独计算。任务越长、工具越多，调用成本和工程成本越高。
开源 AI Agent 框架可以直接商用吗
要看具体许可证。多数常见许可证允许商用，但可能附带保留版权声明、公开修改、专利授权或网络服务等条件。涉及闭源分发、SaaS 对外服务或商标使用时，建议让法务确认 LICENSE 和 NOTICE，不要只看项目首页的开源标签。
开源 AI Agent 框架和开源大模型有什么区别
框架管的是 Agent 怎么搭、怎么跑，许可证覆盖代码。开源大模型管的是模型权重、推理代码和训练数据信息是否开放。两者可以独立选择。你可以用开源框架调用闭源模型，也可以用开源模型配商业平台。
没有技术团队能用开源 AI Agent 框架吗
能完成简单试用，但很难把生产系统维护好。工具接入、权限、评测、监控和升级都需要工程能力。没有技术团队时，优先评估托管平台或成熟产品，把定制空间留给实际影响业务的部分。
开源 AI Agent 框架能保证生产稳定吗
不能。框架提供的是开发组件和运行机制，稳定性还取决于工具质量、上下文管理、异常处理、评测、监控和人工接管。长任务、多 Agent 协作和写操作会放大风险，上线前需要沙箱测试、权限分级和回滚方案。
LangGraph 和 CrewAI 怎么选
看任务结构。流程需要持久化、人工介入，或要把确定性步骤和模型步骤混在一起时，LangGraph 的低层编排更合适。任务适合按角色拆分、希望用 Crew 和 Flow 组织多个 Agent 时，CrewAI 更贴近这种写法。两者都能做多 Agent，最终要用自己的任务做小规模验证，不能只看功能列表。
