ThinkingAI Logo
返回博客列表

LLM与Agent有哪些研究方向?

从模型能力、智能体系统和共同底座三层,梳理LLM与Agent的主要研究方向,解释规划、记忆、工具、多智能体、评测与安全的重点,并给出企业筛选场景和验收Agent的方法。

2026-11-1116分钟
LLM与Agent有哪些研究方向?

LLM和Agent的研究方向可以先用三层结构理解。LLM研究关注模型如何理解语言、生成内容、进行推理并遵循人类意图。Agent研究关注 AI Agent 如何在真实环境里拆解目标、调用工具、保存记忆并把任务执行完。两层之下还有一组共同底座,包括评测、安全、效率和高质量的任务环境。

这个分层对做企业AI的人有用。它帮助团队判断一项新技术到底改善的是模型能力、系统能力,还是交付保障,也方便把研究语言翻译成采购和验收语言。

先把LLM研究和Agent研究分开看

LLM研究看模型能力,Agent研究看任务结果

LLM是大语言模型,通常指基于Transformer架构、在海量语料上预训练的模型。它的主要产出是文本或多模态内容。A Survey of Large Language Models把LLM研究概括为预训练、适配调优、使用方式和能力评估四个主要方面。这个框架今天仍然适用,只是每个方面都长出了更细的问题。

Agent是以LLM为决策核心的系统。它通常加入规划、记忆、工具调用和反馈循环,能够根据环境返回的结果调整下一步动作。2026年1月发布的综述 Toward Efficient Agents 把Agent的能力特征归纳为三点,多步规划与行动、调用外部工具或环境命令、根据检索或更新的记忆决定后续动作。

两者的评价方式不同。LLM看理解、生成、推理、事实性和安全性。Agent看任务是否完成、步骤是否合理、工具调用是否正确、失败能否恢复、成本是否可接受。一次流畅的回答可以说明模型会表达,不能说明Agent能把事情办完。

两条研究线为什么又合流

Agent把LLM的能力放大,也把LLM的缺陷放大。模型在单轮回答里犯一个小错,用户可能当场发现。Agent连续执行几十步,小错会被后续动作继承,最后变成错误的结果。长任务因此把研究重点推向可靠性、纠错和验证。

反过来,Agent产生的大量任务轨迹又在喂养模型研究。目标如何拆解、选了哪个工具、环境返回什么、哪一步失败、人从哪里接管,这些记录可以用于训练、评测和系统优化。Beyond Pipelines 这篇综述把这一变化描述为从外部编排走向模型原生,规划、工具使用和记忆逐步从外部脚本迁移到模型参数中,强化学习是主要驱动力。

两条线因此形成循环。模型能力提升,Agent能承担更长的任务。Agent在真实环境里暴露问题,又给模型研究提供新的训练信号和评测场景。

LLM的研究方向:能力、对齐、推理与效率

LLM研究的版图比几年前更宽。早期争论集中在参数规模和架构,现在还要同时看数据质量、后训练、推理成本、事实性和安全边界。2026年发表于 Multimedia Systems 的一篇综述用性能、效率、成本三者的权衡来组织这些方向,并提醒同一个模型在不同场景下的最优选择并不相同。

预训练与架构:规模、数据与结构

预训练研究关注如何用更大规模、更高质量的数据和更合适的结构获得通用能力。Transformer仍是主流基础,decoder-only 结构在通用生成任务中应用广泛,encoder-only 和 encoder-decoder 则在特定任务里保留价值。

这条线上常见的问题包括数据配比、数据清洗、合成数据、分词、位置编码、混合专家结构和长上下文。混合专家结构试图用更少的激活参数承载更大的模型容量,长上下文研究则试图让模型在一次推理中处理更多资料。多模态预训练把图像、音频、视频和文本放进同一个表示空间,支撑跨模态理解和生成。

规模仍然影响能力,研究问题也在转向规模之外。数据是否干净、结构是否匹配任务、训练是否稳定,都会改变最终效果。

后训练与对齐:让模型按意图回答,并守住边界

后训练把预训练得到的通用能力调整为可用的助手行为。常见方法包括监督微调、基于人类反馈的强化学习、偏好优化和规则约束。监督微调教模型模仿高质量示例,偏好优化让模型更倾向于人类喜欢的回答,强化学习则可以用结果信号优化行为。

对齐研究处理的不只是礼貌和语气。它还要处理指令冲突、拒答边界、偏见、毒性、越狱攻击和工具使用中的权限问题。一个模型在普通对话里表现稳定,进入企业流程后仍可能因为上下文变化而偏离要求。后训练因此需要和评测、红队测试、线上监控一起设计。

推理与测试时计算:把更多算力花在想清楚上

推理研究关注模型如何分解问题、检查中间步骤、在不确定时回溯。思维链让模型把推理过程写出来,重复采样让模型生成多条路径再选优,自校正让模型检查并修改自己的答案,树搜索则在多个推理分支之间探索。

2026年发表于 Computational Linguistics 的综述 A Survey of Test-time Compute 把这类工作概括为测试时计算扩展。核心问题是,在模型参数不变的情况下,如何通过增加推理阶段的计算提高复杂任务的成功率。代价是延迟和成本上升,所以研究还要回答何时值得多想、如何验证中间结果、怎样避免错误越改越多。

这条方向对企业有直接影响。复杂分析、代码生成、策略推演可以接受更长响应时间,客服问答和实时推荐则对延迟更敏感。同一个模型,配合不同的推理预算,适合的场景并不一样。

知识与工具增强:把模型接到外部世界

检索增强生成把外部知识检索结果放进模型上下文,适合知识更新快、答案需要出处的场景。工具调用让模型可以查询数据库、运行代码、发起业务请求,把语言能力接到真实系统上。

这类研究的关键指标是事实正确、引用可追溯、工具调用成功。Multimedia Systems 的综述把检索增强生成和AI Agent列为LLM的重要扩展方向,同时把幻觉、可扩展性和伦理问题列为仍需处理的挑战。企业落地时,知识库权限、数据新鲜度、检索召回和引用规范都会影响最终效果。

效率、评测与安全:决定研究能不能变成产品

效率研究关注在可接受的成本下达到可用效果。量化、蒸馏、稀疏化、推理加速、缓存和模型路由都属于这条线。Agent场景还会额外产生工具调用、记忆读写和失败重试的成本,系统级优化比单纯压缩模型更重要。

评测研究关注如何测量能力、可靠性和风险。静态基准适合比较模型的基础能力,真实任务评测更接近业务,人工评审和红队测试则用于发现基准覆盖不到的问题。安全研究覆盖幻觉、隐私、版权、有害内容、提示词注入和权限越界。

这组方向经常被放在最后,却决定一项研究能否进入生产。模型分数再高,如果延迟、成本、事实性或合规不达标,企业仍然无法上线。

Agent的研究方向:规划、记忆、工具、协作与可靠性

Agent研究更像系统研究。模型只是其中一个部件,规划、记忆、工具、环境和验证共同决定任务能否完成。Toward Efficient Agents 的综述指出,Agent在一次任务中会反复经历记忆读取、规划、工具调用和观察反馈,成本会随着步数累积。效率因此是系统问题,不能只靠模型压缩解决。

规划:把模糊目标拆成可执行步骤

规划研究关注任务分解、步骤排序、何时重规划和如何避免死循环。用户给出的目标往往不完整,Agent需要补齐信息,判断哪些步骤可以并行,哪些步骤必须先拿到结果。

长任务对规划提出更高要求。步数增加后,单步的小偏差会累积,模型需要在中途检查进度,发现方向错误时回到上一个可用状态。反思、重试、检查点和人工接管都属于这条线的工程化延伸。

记忆:让长任务不丢上下文

记忆研究通常分为三个环节,记忆构建、记忆管理和记忆访问。构建决定存什么,管理决定如何压缩、合并、更新和遗忘,访问决定在什么时机把哪些内容放回上下文。

记忆的形态不止一种。文本记忆包括摘要、任务轨迹、反思记录和外部知识条目。参数化记忆把经验写进模型参数。分层记忆借鉴操作系统的内存管理,把不同重要度的信息放在不同层级。长上下文窗口能缓解记忆压力,仍要面对成本、干扰和检索精度的问题。

工具与环境:从调用API到操作界面

工具研究关注模型如何选择工具、生成参数、读取返回结果并处理失败。真实系统里的工具往往有权限限制、速率限制和复杂返回格式,工具描述不清,模型就容易选错或传错参数。

环境研究把范围扩展到界面操作。GUI Agent需要理解屏幕、定位控件、执行点击和输入,并根据界面变化调整动作。这类任务更接近真实办公场景,也更容易受到页面改版、弹窗和网络延迟的影响。MCP 一类连接协议降低了工具接入的重复工作,权限和审计仍要由平台侧解决。

多智能体协作:分工能带来收益,也会带来协调成本

多智能体协作研究关注角色分配、通信、协商、冲突消解和错误传播。常见结构包括管理者加执行者、多个专家并行、辩论与评审。任务可以分解、子任务之间依赖较少时,分工能缩短时间,也能让不同Agent使用不同的工具和知识。

协调本身有成本。通信会增加token消耗,角色边界不清会产生重复劳动,一个Agent的错误还可能被另一个Agent当成事实继续放大。多智能体适合作为系统设计选项,不应默认成为每个项目的起点。

训练范式:从外部编排走向模型原生

早期Agent多由外部逻辑编排,规划、工具调用和记忆分别由代码控制。模型原生路线试图把这些能力通过强化学习写进模型,让模型在结果反馈中学会何时规划、何时调用工具、何时检索记忆。

Beyond Pipelines 的综述把强化学习放在这一转变的中心,并讨论了深度研究Agent和GUI Agent两类应用。深度研究强调长程推理和信息整合,GUI Agent强调在界面环境中的行动能力。两条线都要求模型具备更长的任务持续能力和更强的错误恢复能力。

工程编排不会消失。权限、状态保存、审计、人工接管和回滚仍需要系统层实现。研究改变的是能力分布,工程决定这些能力能否被安全地交付。

评测与可靠性:从一次演示到稳定交付

Agent评测比模型评测更复杂。同一个任务,换一个用户表达、换一个工具返回、换一个页面版本,结果可能不同。只看一次成功演示,无法判断系统能否在真实流量下稳定工作。

τ-bench 在2024年的实验中设置了用户模拟、领域工具和业务规则,用最终数据库状态判断任务是否完成,并提出 pass^k 指标衡量多次尝试的一致性。论文报告,当时表现领先的函数调用Agent之一 gpt-4o 任务成功率低于50%,零售场景连续8次都成功的比例低于25%。这组数字说明能力演示和稳定交付之间仍有距离。

METR 的研究提供了另一个观察角度。它提出50%任务完成时间跨度,衡量AI能以50%成功率完成多长的人类任务。论文测得 Claude 3.7 Sonnet 的50%时间跨度约为50分钟,并估计2019年以来前沿模型的时间跨度大约每7个月翻一倍。论文同时强调,这一指标受任务集和外部效度限制,50%成功率也不等于生产可用。

对企业来说,更实用的指标是任务成功率、pass^k、人工接管率、平均处理时长和每个成功任务的成本。前三个看稳定性,后两个看经济性。稳定性和经济性合在一起,才能判断一个Agent是否值得扩大流量。

安全与治理:给行动权配上边界

Agent获得了行动权,风险从一句话说错扩展到一件事做错。安全研究要处理目标理解错误、权限越界、提示词注入、记忆污染和多Agent错误放大。企业系统还要处理数据泄露、操作不可逆和审计缺失。

Agent安全与治理的常见做法包括最小权限、工具白名单、沙箱执行、敏感操作人工确认、全链路日志和回滚机制。评测环节需要加入注入攻击、越权请求和异常输入。安全能力越早进入系统设计,后期整改成本越低。

一张表看清各方向的关系

LLM研究、Agent研究与共同底座的三层关系示意图

图:LLM研究、Agent研究与共同底座的关系。

层面研究方向核心问题看什么信号
模型能力层预训练与架构如何获得更强的通用能力基准表现、上下文长度、多模态效果、单位token成本
模型能力层后训练与对齐如何遵循意图并控制风险指令遵循、拒答边界、偏好一致性
模型能力层推理与测试时计算如何用推理算力换复杂任务成功率复杂任务准确率、延迟、推理成本
模型能力层知识与工具增强如何接入外部知识与系统事实正确率、引用可追溯、工具调用成功率
智能体系统层规划如何拆解目标并重规划长任务完成率、步骤数、死循环率
智能体系统层记忆存什么、怎么组织、何时取用上下文命中率、跨会话一致性、记忆污染
智能体系统层工具与环境如何稳定操作API与界面工具选择准确率、失败恢复、权限合规
智能体系统层多智能体如何分工、通信与消解冲突协作收益、通信成本、错误传播
智能体系统层训练范式能力放在模型里还是系统里泛化、可维护性、数据闭环
共同底座评测与可靠性如何证明每次都做对pass^k、任务成功率、人工接管率、每个成功任务成本
共同底座安全与治理如何让行动可控、可查、可停权限边界、审计覆盖率、注入防护、回滚能力
共同底座效率如何控制延迟与调用成本延迟、token消耗、工具调用次数、重试率

表格里的信号可以当作尽调清单。不同场景的权重不同,实时客服更看重延迟,财务操作更看重可审计和可回滚,研究分析更看重长任务完成率。

企业读研究方向时,重点看什么

任务频率与人工成本决定值不值得做

高频、重复、占用大量人力的任务,更容易产生可计算的收益。每天处理上千条工单、每周生成大量报表、持续跟进销售线索,这类任务有稳定的流量,Agent的边际成本才有意义。

低频、一次性的任务,即使演示效果很好,也难以摊薄接入和治理成本。研究方向的成熟度不能替代业务量的计算。

数字化程度、可验证性和可撤销性决定能不能做稳

数字化程度看数据和系统是否可用。任务需要的资料在PDF里、在多个系统里、在员工经验里,接入难度会明显上升。可验证性看结果能否被检查。代码可以跑测试,报表可以核对口径,文案只能靠人判断,验收成本差别很大。

可撤销性看错误能否回滚。发错一条内部提醒可以撤回,转错一笔钱、改错一条生产数据,代价完全不同。风险高的任务需要更严格的权限、审批和人工确认,不能只用模型成功率做判断。

验收时看任务结果,不看演示效果

试点阶段可以看演示,扩大使用必须看结果。建议把验收指标写成业务语言,例如一周内自动完成多少工单、人工接管率降到多少、每个成功任务成本是多少、出现错误后多久能发现和回滚。

这些指标也能反过来指导技术选择。任务需要长程规划,就重点看Agent的规划与记忆能力。任务需要准确引用,就重点看检索和引用溯源。任务涉及敏感操作,就重点看权限和审计。研究方向最终要落到这些具体条件上。

ThinkingAI的实践:把研究方向变成企业可用的Agent系统

从研究到生产,中间隔着工程化。企业需要的不只是一个模型接口,还需要Agent的创建、工具连接、知识接入、权限治理、运行监控和效果验收。

ThinkingAI 成立于2015年,在数据智能领域深耕十年后,于2026年发布企业级 AI Agent 平台 Agentic Engine。平台支持创建和管理各类Agent,支持多Agent协作,具备全域感知能力,并支持私有化部署。目前 ThinkingAI 已服务全球超过1500家企业,接入产品超过8000款。

这些能力对应了前文几条研究方向。多Agent协作对应系统层的分工与协调,全域感知对应知识与上下文接入,私有化部署对应数据主权和合规,Agent管理对应权限、调度和运行监控。平台把这些能力放在同一套体系里,企业可以把精力放在场景选择、数据准备和验收标准上。

规模化服务经验能降低交付的不确定性,具体效果仍取决于业务场景、数据质量、流程复杂度和组织配合。Agent需要和现有流程一起设计,采购本身不会自动产生收益。

常见问题

LLM与Agent是一回事吗?

两者属于不同层面。LLM是模型,Agent是围绕模型构建的任务执行系统。Agent通常包含LLM、规划、记忆、工具和反馈循环。一个模型可以只回答问题而不执行任务,一个Agent则要对外部环境采取行动。

研究Agent是否意味着LLM不重要了?

模型能力仍然重要。Agent的能力上限受模型能力影响。模型原生Agent研究的方向,正是把规划、工具使用和记忆通过训练写进模型。LLM研究和Agent研究在互相推动,没有替代关系。

企业没有算法团队,怎么参与Agent?

不一定从训练基础模型开始。多数企业可以先从场景选择、数据准备、流程梳理和验收指标做起,使用成熟的企业级Agent平台或与外部团队联合建设。内部仍需要有人负责业务规则、数据权限和结果验收。

Agent的可靠性现在够用吗?

要看任务。低风险、可验证、可回滚的任务,已经可以在有人工兜底的条件下使用。高风险、不可逆的任务,需要更严格的权限、审批和回滚设计。METR的50%时间跨度不能直接当作生产可靠性指标,企业应看pass^k、任务成功率和人工接管率。

多智能体是必选项吗?

单Agent配合工具和知识库,已经能覆盖许多流程。任务可以分解、子任务之间依赖较少、需要不同专业知识时,多智能体才更容易体现收益。协调成本高、共享状态多的任务,单Agent往往更稳。

参考资料

准备好构建你的 Agent 团队了吗

立即体验 Agentic Engine, 让 AI 成为真正的团队成员

ThinkingAI Big Logo
电话咨询