Agent 怎么搭才靠谱

7075 字
49 分钟
Agent 怎么搭才靠谱
认知与设计

Agent 怎么搭才靠谱

Agent(智能体)让大模型从「回答问题」走向「自主执行多步任务」。但多数翻车来自盲目追求「全自主」。本篇用 Anthropic 的三层分型(增强型 LLM / 工作流 / 自主 Agent)、五种工作流模式、ReAct 控制流、MCP 工具标准,以及生产级翻车教训,给出一套「该不该上、怎么搭才稳」的判断。

  • 增强型 LLM
  • 工作流 vs 自主 Agent
  • 五种工作流模式
  • ReAct 循环
  • MCP 标准
  • 翻车模式
  • 多智能体
  • 选型边界
logo做个靠谱的产品经理

概念分层:agentic systems 的三层与一条分界线

先把「Agent」这个词拆开,否则选型无从谈起

凡是带工具调用、能多步执行的系统,Anthropic 一律归为 agentic systems(自主智能体类系统),但内部按「流程控制权在谁手里」切成三层。最底的是增强型 LLM(Augmented LLM):一个 LLM 接上检索、工具、记忆三种能力。它正是 RAG(检索增强生成)中被检索增强过的 LLM 本体。往上是工作流(Workflow):LLM 和工具被写死在代码路径里,模型只负责单步推理。再往上是自主 Agent:模型自己动态决定调什么工具、走几步、何时停。三层不是等级,是控制流的归属不同。
图 1 · 三层递进:越往上模型掌握的控制权越多,复杂度与代价也越高
自主 Agent 控制流在模型自身 · 动态决定工具与步数 · 自主循环 工作流 Workflow 控制流在代码 · LLM 只做单步推理 · 五类固定模式 增强型 LLM Augmented LLM 单步调用 · 检索+工具+记忆三种能力 · 无编排层 最灵活最难调 可预测易调试 最便宜最稳 分界线只有一条:这一步的「下一步做什么」由代码定,还是由模型定。代码定=工作流,模型定=自主 Agent。
判断第一问永远是:这个任务「下一步做什么」能不能提前写死?能写死就别上自主 Agent。复杂度是代价,不是勋章。
表 1 · 三层的核心差异
层级控制流归属典型代表可预测性成本 / 延迟
增强型 LLM单步,无编排带检索的问答、单工具调用高最低
工作流代码预定义路径提示链、路由、并行、编排-工作、评估-优化高中
自主 Agent模型动态决定自主循环、多智能体系统低最高
「在大模型领域,成功不在于造出最复杂的系统,而在于为需求造出最合适的系统。从最简单的方案开始,只在确实需要时才增加复杂度。」

选型判据:何时要上 Agent,何时根本不该上

选型逻辑一以贯之:先用最便宜的层,不够再升级

选型是自底向上的:能用单 LLM 调用解决的,绝不上工作流;工作流的固定路径能覆盖的,绝不上自主 Agent。自主 Agent 用「灵活性」换「成本、延迟、可预测性」,只有当任务路径真的无法提前枚举时才划算。对产品经理来说,这意味着先问「这个任务的步骤是可枚举的吗」,而不是先问「能不能做成一个 Agent」。
图 2 · 选型阶梯:每一级只在下一级不够时才升级
自主权 / 复杂度 ① 增强型 LLM 单调用步骤可枚举性:无步骤,一次完成 · 够用就停 ② 工作流 Workflow步骤可枚举:路径写死,模型只填空 · 要一致性选它 ③ 自主 Agent步骤不可枚举:模型动态决定 · 代价最高 升级 升级 升级信号:① 单调用准确率够 → 停;② 需多步且路径固定 → 工作流; ③ 路径随输入大幅变化、需实时应变 → 自主 Agent。
一个常见误判:把「听起来高级」当成「该用 Agent」。自主 Agent 是权衡的产物,不是进阶奖励。
表 2 · 三个维度的选型对照
维度增强型 LLM工作流自主 Agent
步骤可预测性无步骤高(代码写死)低(模型决定)
每步成本 / 延迟最低中最高,且随步数复利增长
调试难度易较易(失败落在单步)难(需沙箱与护栏)
适用单轮问答、单工具边界清晰、可枚举的多步任务开放、路径不可预测的任务

五种工作流模式:控制流在代码,LLM 只填空

这五种是生产里最常用、也最稳的「半自主」形态,每种都标注 LLM 在哪一步参与

工作流的价值是用代码的确定性换可控性。下面五种的「控制流」全在代码里。先走哪步、分几路、何时停都是架构师定死的,LLM 只负责每一步里的「理解 / 生成 / 判断」单点。对 PM 来说,选对模式比堆一个重框架重要得多。
图 3 · 提示链 Prompt chaining:把任务拆成固定子步骤,中间可加程序化检查
LLM 子任务A理解/生成 gate 检查程序化校验 LLM 子任务B基于A输出 gate 检查程序化校验 LLM 子任务C产出 用延迟换准确率:每步更简单 gate 让「跑偏」在中间就被拦下 最终产出 例:电商平台「生成营销文案 → 校验合规 → 翻译成多语 → 校验术语 → 发布草稿」,任一步不达标就停。
LLM 参与 仅在各子任务的「理解与生成」单步;gate 是纯代码校验,不消耗模型。适用:能干净拆成固定子步骤、且每步质量需把关的任务。如先写大纲、校验大纲达标、再写正文。
图 4 · 路由 Routing:先分类,再派给专门路径
LLM 分类判输入类型 专门路径 A专用提示词 专门路径 B专用提示词 专门路径 C专用提示词 例:电商客服工单先分类为「退款 / 物流 / 商品咨询」,再走各自专用流程,互不干扰。
LLM 参与 只在「分类」这一步;下游是固定分支,可为每类单独优化提示词。适用:输入类型差异大、一类优化会拖累另一类的场景。
图 5 · 并行 Parallelization:同时跑多路,再合并或投票
同一输入或任务切片 LLM 路 1切片A LLM 路 2切片B LLM 路 3切片C 合并 / 投票分段 或 表决 统一结果汇总输出 两种用法:分段(sectioning)把大任务切片并行做;投票(voting)同一任务跑多次取多数,抗单点失误。
LLM 参与 在多路「生成 / 判断」;合并步可代码可模型。适用:子任务相互独立(分段),或需降低偶发错误(投票,如风控初审多模型表决)。
图 6 · 编排-工作 Orchestrator-workers:中央 LLM 运行时拆解并派活
编排 LLM运行时拆解任务 Worker 1窄上下文 Worker 2窄上下文 Worker 3窄上下文 合成 例:电商大促复盘,编排 LLM 把「销量 / 退款 / 竞品」拆给三个 worker 各查一块,再合成总报告。
LLM 参与 编排(拆解)与每个 worker(执行)。关键:worker 用各自窄上下文,但不继承编排的对话史。编排必须把每个 worker 需要的事实写进任务里。这是和工作流最像、却最接近自主 Agent 的一档。
图 7 · 评估-优化 Evaluator-optimizer:生成与批评迭代,直到过关
生成 LLM产出初稿 评估 LLM批评·给反馈 未达阈值→带反馈重做 达标→输出 最终结果通过阈值 例:商品详情页文案先生成,评估 LLM 按「合规 / 卖点 / 可读性」打分,不过关就带意见重生成,直到全过。
LLM 参与 生成与评估两个角色。适用:有明确质量阈值、且「批评能改善生成」的任务,如代码生成后自测、文案多轮打磨。
表 3 · 五种工作流模式速查
模式LLM 在哪参与控制流适用场景(电商示例)
提示链每步生成 / 理解顺序 + 中间 gate多步且每步需质检:文案→合规校验→多语翻译
路由仅分类一步分类后定分支工单分类:退款 / 物流 / 咨询各走专线
并行多路生成 / 判断同输入多路、后合并大任务切片、或风控多模型投票表决
编排-工作编排拆解 + 各 worker中央 LLM 运行时派活大促复盘:销量 / 退款 / 竞品分头查后合成
评估-优化生成 + 评估两角色迭代直到阈值商品文案多轮打分打磨、代码自测
五种的公约数:控制流写死在代码。当「拆解方式也想知道运行时才知道」时,就滑向自主 Agent 了。

自主循环机制:ReAct 的 Thought-Action-Observation

自主 Agent 的底层控制流蓝图,几乎所有框架都长这样

自主 Agent「自己决定下一步」的能力,底层几乎都来自 ReAct(Yao 等,2022,arXiv:2210.03629)。它让模型在一圈循环里交替产出思考(Thought)、行动(Action)、观察(Observation):思考决定调什么工具,行动调用工具,观察把真实结果喂回下一轮思考。这同时治好了两个老毛病。纯推理(思维链)的幻觉与错误传播,和纯行动(无推理)的缺乏规划。
图 8 · ReAct 循环:思考、行动、观察交替,直到能回答
Thought 思考计划·追踪·处理异常 决定调什么 Action 行动调用工具·接口 返回结果 Observation真实外部信息 观察结果喂回下一轮思考,斩断幻觉螺旋 能回答 → Final Answer或触发停止条件 判断信息足够 关键:观察来自真实外部源(检索 / 接口 / 环境),替换模型内部猜测——这正是它比纯思维链更不易幻觉的根。
一句话记住:思考负责「为什么这么做、还差什么」,观察负责「用事实纠正思考」。没有观察的循环,只是把幻觉多转几圈。
# ReAct 轨迹(简化伪代码) while not done: thought = llm.reason(context) # Thought:计划下一步 action = llm.select_tool(thought) # Action:选工具+参数 obs = tool.run(action) # Observation:真实返回 context += (thought, action, obs) # 追加进上下文 if llm.can_answer(context): done # 信息够了就收
表 4 · ReAct 解决的两个老毛病(来自原论文基准)
旧范式致命缺陷ReAct 怎么治论文基准体现
纯推理(思维链)事实幻觉、错误传播,靠内部记忆不落地观察从外部取真实信息,替换内部猜测FEVER 事实验证 ReAct 60.9 vs 思维链 56.3
纯行动无推理轨迹,不会规划、不知为何失败思考步记录目标与进度,可人工检查纠正ALFWorld 成功率 71% vs 纯行动 45%
口径说明:上述为论文在 PaLM-540B 上的少样本(few-shot)提示结果,相对「纯思维链」与「纯行动」基线;不代表所有基座模型都复现同等差距。

工具连接标准:MCP 把「接外部能力」变成插头

Agent 要动手就得接工具,MCP 是这套连接的事实标准

自主 Agent 的价值大半来自「能调用外部工具与数据」,但每接一个系统就写一套私有对接,开发与维护成本爆炸。MCP(Model Context Protocol,Anthropic 2024-11 开源)要做的是AI 领域的 USB-C:用一套开放协议,让任何模型都能即插即用地连上任何遵循 MCP 的服务端。对要接知识库、业务系统、专家能力的产品,这意味着能力以标准服务端暴露,主机一次适配、处处可用。
图 9 · MCP 客户端-服务器架构:主机经客户端连多个服务端
MCP 主机 HostAI 应用 / Agent MCP 客户端 Client1:1 连接服务端 服务端 A本地文件 / 数据库 服务端 B远程业务 API 服务端 C专家能力 / 工具 主机经客户端连多个服务端;每个服务端用标准协议暴露「资源 / 提示 / 工具 / 采样」,模型按需取用。
对 PM 的含义:把各路能力(方法论库、案例库、业务系统查询)做成 MCP 服务端,主 Agent 用统一协议调用。新增能力不必改主机代码。
表 5 · MCP 标准 vs 私有 API 对接
维度逐个私有对接MCP 标准服务端
接入成本每系统一套代码主机一次适配,服务端即插即用
跨模型绑定某家模型 / 框架不绑定模型,换模型不重写
能力复用难复用同一服务端多处调用
治理与权限散落各处服务端统一授权与审计
代价:引入协议层与一套服务端开发生命周期,简单场景可能过度设计。这又回到「按需复杂度」。

翻车模式:自主 Agent 比 RAG 更会「自爆」

生产级失败清单,多数来自「把控制权交给模型」的副作用

自主 Agent 把 RAG 的「链路翻车」升级成了「行为翻车」。一类是设计 / 成本层(外在)。从一开始就该用更简单的形态;另一类是运行 / 链路层(内在)。架构选对了但执行没兜住。RAG 链路的四类失效在 Agent 场景演化成四类行为失效:幻觉变「工具误用幻觉」,体验变「循环失控」,时效变「上下文膨胀」,记忆变「多 Agent 协调失控」。
图 10 · Agent 翻车分布:设计层(外在)vs 运行层(内在)
设计 / 成本层(外在)本不该上 Agent 运行执行 结果 设计 / 成本层失败 · 过度设计:简单任务硬上自主 Agent · 成本失控:步数复利,token 爆炸 · 不可预测:同输入不同路径,难验收 这类靠「回到更简单形态」解决, 属外在层——加护栏也救不了。 运行 / 链路层失败 · 无效循环:转圈不收敛、不停止 · 工具误用:调错工具 / 参数错 / 反复重试 · 上下文膨胀:历史越积越长,注意力稀释 · 多 Agent 协调失控:互相干扰、重复劳动 这类靠护栏、停止条件、工具描述质量解决。
判断第一问仍是:这个失败是「不该上 Agent」(外在)还是「没兜住」(内在)?外在退形态,内在加护栏。
表 6 · 五种运行层翻车:成因与解法
翻车成因解法
无效循环停止条件模糊,模型认为信息永远不够明确停止判据、最大步数上限、超时熔断
工具误用工具描述不清,模型调错或反复重试每个工具唯一用途+清晰输入输出说明
成本失控步数与调用数复利增长,无预算闸按复杂度配资源、设 token / 步数预算
上下文膨胀历史全量拼回,关键信号被稀释压缩小结、子 Agent 隔离、只回传要点
多 Agent 协调失控子 Agent 重复劳动、互相干扰明确任务边界、减少冗余更新、编排管控

多智能体系统:更强,但协调复杂度也飙升

真实生产数据。编排-工作形态能把研究准确率抬上去,前提是别踩协调坑

把多个 Agent 编排起来(一个主 Agent 派多个子 Agent 并行)能处理单一 Agent 搞不定的开放任务。Anthropic 公开的研究系统就是这种形态:主 Agent 拆解问题、派子 Agent 并行搜证、再合成带引用的报告。它把研究准确性较单 Agent 抬升约 90%,但早期版本踩过一串协调坑。这些坑对任何想做多 Agent 架构的团队,几乎是必考题。
图 11 · 多智能体编排-工作:主 Agent 派活,子 Agent 并行,回收合成
主 Agent Lead拆解·派活·合成 子 Agent 1隔离上下文 子 Agent 2隔离上下文 子 Agent 3隔离上下文 只回传要点 子 Agent 用独立上下文窗口,只把相关结论回传主 Agent,避免主上下文被无关信息淹没。
两个设计要点:① 子 Agent 隔离上下文,主 Agent 只收要点;② 任务边界必须写清,否则子 Agent 会重复劳动或越界。
表 7 · 多智能体系统的真实教训(来自生产复盘)
踩过的坑表现对策
过度派活简单查询也 spawn 数十个子 Agent按复杂度配资源:事实题 1 个、对比题 2–4 个、开放题才多
无休止搜子 Agent 搜不存在的源、停不下来明确工具与来源范围、设步数上限
互相干扰子 Agent 用过多更新彼此带偏减少跨 Agent 冗余通信、明确职责边界
任务含糊子 Agent 误解或重复搜索给每子 Agent 目标+输出格式+工具指引+边界
口径:上方「+90% 准确性」为 Anthropic 公开研究系统相对单 Agent 的对比口径;「数十个子 Agent」「过度派活」为早期版本观察到的失败现象,后经提示与护栏收敛。

评测与防护:三层把「不可预测」关进笼子

自主 Agent 难调试,靠三层兜底。模拟、护栏、监控

自主 Agent 的调试难点在于「失败落在任意一步」。生产级做法是把防护拆成三层:模拟层在上线前用真实场景和边界用例跑沙箱;护栏层在运行时每步校验、设人审与停止条件;监控层上线后持续度量结果与成本,用真实表现迭代。
表 8 · 防护三层
层做什么关键动作
模拟层上线前沙箱测试真实场景+边界用例、观察 Agent 逐步决策
护栏层运行时每步校验工具白名单、人审节点、明确停止条件
监控层上线后持续度量结果质量+token / 步数成本,按真实数据迭代
三个常见误解:①「自主 Agent 比工作流更先进」。它是权衡不是升级;②「上了 Agent 就自动会干活」。工具描述与停止条件决定成败;③「多 Agent 一定更强」。协调失控会吃掉并行收益。

适用边界与选型决策:什么时候不该上 Agent

把前面所有判断收口成一张「该不该上」的清单

决策的最后一步是划清边界。自主 Agent 不是默认选项,而是「更便宜的形态都不够」时的兜底。下面这张清单用来在立项时快速判死刑。
表 9 · 「不该上自主 Agent」的决策信号
信号说明更合适的形态
步骤可枚举路径能提前写死工作流(提示链 / 路由 / 并行)
单轮能解决无需多步、无需工具增强型 LLM 单调用
一致性优先出错代价高、要可复现工作流+强校验
预算敏感高并发、单价要低尽量下沉到更便宜的形态
无护栏能力做不到人审 / 停止 / 监控暂缓,先补防护三层
反过来说,只有「步骤随输入大幅变化、需实时应变、且能承受成本与不可预测」的任务,才真正落在自主 Agent 的甜区。

决策方法:三条判断 + 案例 + 反例清单

把前述内容收成一张可复用的选型清单。任何「要不要上 Agent」的需求过一遍就有答案

本节把选型收敛成三条递进判断,像漏斗一样逐层收窄:先定层(控制流在谁手里)→ 再定要不要多 Agent 容量 → 最后定内部串并行。每一条都从真实案例与反例里来,不是口号。
图 12 · 三条判断漏斗:递进收窄,从「该不该上」到「怎么编排」
判断一 · 控制流在谁手里 下一步由代码定 → 进工作流层(判断二·三);由模型定 → 直接自主 Agent 判断二 · 单 Agent 容量够吗 够 → 增强型 LLM+工作流;不够且(可并行+装不下+付得起) → 多 Agent 并行容量 判断三 · 子任务独立吗 依赖 → 串行提示链+评估 gate;独立 → 并行(分段/voting)+聚合器 自主 Agent 区 控制流在模型:用灵活性换 成本 / 延迟 / 不可预测 只在步骤无法提前枚举时进 单 Agent 内并行调工具只是提速, 不算多 Agent(容量轴没动) 递进漏斗:先定层(一)→ 再定要不要多 Agent 容量(二)→ 最后定内部串并行(三)。
一句话记住:自主 Agent 是权衡不是奖赏。能写死流程就别交权给模型;需要多 Agent 往往只是为了「容量」,不是为了「自主权」。
并行 ≠ 多 Agent:单 Agent 内并行调工具只为提速,容量轴没动;多 Agent 是独立上下文窗口换并行容量。把「为了快」和「为了容量」混为一谈,是选型最常犯的错。
表 10 · 三个案例:事实 → 三条判断 → 结论
场景关键事实三条判断结论启示
电商中台客服助手(翻车)拆四 Agent 后延迟 0.8→3.5s、成本 4×、准确率 92→88%、质检改崩话术一·代码定;二·不需多 Agent(串行依赖+上下文小);三·串行提示链+评估 gate回退「增强型 LLM+评估 gate」,准确率回到 93%
社交电商种草笔记审核虚假宣传/导流/医疗宣称三维度互相独立一·代码定;二·单 Agent 容量够;三·并行分段+聚合器(投票类)子任务独立 → 可并行提速,不必串行
传统零售竞品深度综述5 竞品×4 维度=20 块独立资料,单 Agent 装不下一·代码定;二·翻转→多 Agent 并行容量(并行工作流分段);三·非自主 Agent容量轴翻转,但控制流仍代码。不上自主 Agent
三个案例跨域(中台/社交/传统零售)仍成立,说明方法是可迁移的判据,不是记场景。
追问三层 · 拿真实需求压测判据(以「季度经营分析报告」为例)

层一 · 逆推落地(MVP):按「代码控制流 + 单 Agent + 门店并行抓取」做,最小落地长什么样?哪些环节真要 LLM(洞察生成、市场结合),哪些 SQL/规则就能搞定(数据汇总、环比)?防「为 AI 而 AI」。

层二 · 边界(什么情况翻转):门店从几十家涨到几千家、或市场动态要实时多轮调研时,单 Agent 还装得下吗?控制流还能钉代码吗?哪条信号先破?

层三 · 跨场景泛化:这套结论换到合规月报、投后管理报告、实时大促战报还成立吗?哪类报告会翻转(如实时战报可能要运行时动态决定分析角度,控制流该交给模型)?

表 11 · 反例清单:每条判断各配反例
编号反例错在哪正确做法
判断一·A动态故障排查硬写成工作流该上 Agent(步骤不可预知)却没上,流程僵死步骤看中间结果才定 → 上 ReAct 自主 Agent
判断一·B客服四 Agent 翻车不该上 Agent(控制流本该代码)却为「先进」上了回退增强型 LLM + 评估 gate
判断二·C竞品综述硬撑单 Agent该用多 Agent 容量(20 块装不下)却没上,资料被截断并行工作流分段,拆 20 块独立窗口
判断二·D季度报告「用了并行就是多 Agent」单 Agent 内并行调工具只为提速,误当多 Agent单 Agent+并行工具调用,容量轴没动
判断三·E种草审核三维度误串行独立任务误串行,慢一倍,浪费并行红利并行分段 + 聚合器
判断三·F意图未知就并行检索依赖任务(先识别意图再按意图检索)误并行,方向错、烧 token串行提示链:先识别,再按意图检索

进阶方向速览

三条值得继续追的线,点到为止

计算机操作(Computer Use):把「操作电脑」本身做成工具(读屏、点按、执行命令),Agent 由此能处理没 API 的旧系统。代价是更不可预测,护栏要求更高。
长期记忆:把跨会话的关键事实、决策、进度外置存储,避免上下文窗口撑爆;它直接对应大模型「记忆」一类失效。装不下时靠外置而非硬塞。
框架对比:Anthropic Agent SDK、LangGraph、开源多 Agent 框架各擅场,选型原则仍是一句。先直接调 LLM API,确需时再上框架,且要懂框架下的提示与响应。
收口一句:Agent 靠谱不靠「多自主」,靠「该简单的绝不复杂、该兜住的绝不裸奔」。把控制权留在代码里能解决的事,就不要交给模型。

支持与分享

如果这篇文章对你有帮助,欢迎分享给更多人或打赏支持!

当前页面没有目录

文章目录

当前页面没有目录