概念分层:agentic systems 的三层与一条分界线
先把「Agent」这个词拆开,否则选型无从谈起
凡是带工具调用、能多步执行的系统,Anthropic 一律归为 agentic systems(自主智能体类系统),但内部按「流程控制权在谁手里」切成三层。最底的是增强型 LLM(Augmented LLM):一个 LLM 接上检索、工具、记忆三种能力。它正是 RAG(检索增强生成)中被检索增强过的 LLM 本体。往上是工作流(Workflow):LLM 和工具被写死在代码路径里,模型只负责单步推理。再往上是自主 Agent:模型自己动态决定调什么工具、走几步、何时停。三层不是等级,是控制流的归属不同。
图 1 · 三层递进:越往上模型掌握的控制权越多,复杂度与代价也越高
判断第一问永远是:这个任务「下一步做什么」能不能提前写死?能写死就别上自主 Agent。复杂度是代价,不是勋章。
表 1 · 三层的核心差异
| 层级 | 控制流归属 | 典型代表 | 可预测性 | 成本 / 延迟 |
| 增强型 LLM | 单步,无编排 | 带检索的问答、单工具调用 | 高 | 最低 |
| 工作流 | 代码预定义路径 | 提示链、路由、并行、编排-工作、评估-优化 | 高 | 中 |
| 自主 Agent | 模型动态决定 | 自主循环、多智能体系统 | 低 | 最高 |
「在大模型领域,成功不在于造出最复杂的系统,而在于为需求造出最合适的系统。从最简单的方案开始,只在确实需要时才增加复杂度。」
选型判据:何时要上 Agent,何时根本不该上
选型逻辑一以贯之:先用最便宜的层,不够再升级
选型是自底向上的:能用单 LLM 调用解决的,绝不上工作流;工作流的固定路径能覆盖的,绝不上自主 Agent。自主 Agent 用「灵活性」换「成本、延迟、可预测性」,只有当任务路径真的无法提前枚举时才划算。对产品经理来说,这意味着先问「这个任务的步骤是可枚举的吗」,而不是先问「能不能做成一个 Agent」。
图 2 · 选型阶梯:每一级只在下一级不够时才升级
一个常见误判:把「听起来高级」当成「该用 Agent」。自主 Agent 是权衡的产物,不是进阶奖励。
表 2 · 三个维度的选型对照
| 维度 | 增强型 LLM | 工作流 | 自主 Agent |
| 步骤可预测性 | 无步骤 | 高(代码写死) | 低(模型决定) |
| 每步成本 / 延迟 | 最低 | 中 | 最高,且随步数复利增长 |
| 调试难度 | 易 | 较易(失败落在单步) | 难(需沙箱与护栏) |
| 适用 | 单轮问答、单工具 | 边界清晰、可枚举的多步任务 | 开放、路径不可预测的任务 |
五种工作流模式:控制流在代码,LLM 只填空
这五种是生产里最常用、也最稳的「半自主」形态,每种都标注 LLM 在哪一步参与
工作流的价值是用代码的确定性换可控性。下面五种的「控制流」全在代码里。先走哪步、分几路、何时停都是架构师定死的,LLM 只负责每一步里的「理解 / 生成 / 判断」单点。对 PM 来说,选对模式比堆一个重框架重要得多。
图 3 · 提示链 Prompt chaining:把任务拆成固定子步骤,中间可加程序化检查
LLM 参与 仅在各子任务的「理解与生成」单步;gate 是纯代码校验,不消耗模型。适用:能干净拆成固定子步骤、且每步质量需把关的任务。如先写大纲、校验大纲达标、再写正文。
图 4 · 路由 Routing:先分类,再派给专门路径
LLM 参与 只在「分类」这一步;下游是固定分支,可为每类单独优化提示词。适用:输入类型差异大、一类优化会拖累另一类的场景。
图 5 · 并行 Parallelization:同时跑多路,再合并或投票
LLM 参与 在多路「生成 / 判断」;合并步可代码可模型。适用:子任务相互独立(分段),或需降低偶发错误(投票,如风控初审多模型表决)。
图 6 · 编排-工作 Orchestrator-workers:中央 LLM 运行时拆解并派活
LLM 参与 编排(拆解)与每个 worker(执行)。关键:worker 用各自窄上下文,但不继承编排的对话史。编排必须把每个 worker 需要的事实写进任务里。这是和工作流最像、却最接近自主 Agent 的一档。
图 7 · 评估-优化 Evaluator-optimizer:生成与批评迭代,直到过关
LLM 参与 生成与评估两个角色。适用:有明确质量阈值、且「批评能改善生成」的任务,如代码生成后自测、文案多轮打磨。
表 3 · 五种工作流模式速查
| 模式 | LLM 在哪参与 | 控制流 | 适用场景(电商示例) |
| 提示链 | 每步生成 / 理解 | 顺序 + 中间 gate | 多步且每步需质检:文案→合规校验→多语翻译 |
| 路由 | 仅分类一步 | 分类后定分支 | 工单分类:退款 / 物流 / 咨询各走专线 |
| 并行 | 多路生成 / 判断 | 同输入多路、后合并 | 大任务切片、或风控多模型投票表决 |
| 编排-工作 | 编排拆解 + 各 worker | 中央 LLM 运行时派活 | 大促复盘:销量 / 退款 / 竞品分头查后合成 |
| 评估-优化 | 生成 + 评估两角色 | 迭代直到阈值 | 商品文案多轮打分打磨、代码自测 |
五种的公约数:控制流写死在代码。当「拆解方式也想知道运行时才知道」时,就滑向自主 Agent 了。
自主循环机制:ReAct 的 Thought-Action-Observation
自主 Agent 的底层控制流蓝图,几乎所有框架都长这样
自主 Agent「自己决定下一步」的能力,底层几乎都来自 ReAct(Yao 等,2022,arXiv:2210.03629)。它让模型在一圈循环里交替产出思考(Thought)、行动(Action)、观察(Observation):思考决定调什么工具,行动调用工具,观察把真实结果喂回下一轮思考。这同时治好了两个老毛病。纯推理(思维链)的幻觉与错误传播,和纯行动(无推理)的缺乏规划。
图 8 · ReAct 循环:思考、行动、观察交替,直到能回答
一句话记住:思考负责「为什么这么做、还差什么」,观察负责「用事实纠正思考」。没有观察的循环,只是把幻觉多转几圈。
# ReAct 轨迹(简化伪代码)
while not done:
thought = llm.reason(context) # Thought:计划下一步
action = llm.select_tool(thought) # Action:选工具+参数
obs = tool.run(action) # Observation:真实返回
context += (thought, action, obs) # 追加进上下文
if llm.can_answer(context): done # 信息够了就收
表 4 · ReAct 解决的两个老毛病(来自原论文基准)
| 旧范式 | 致命缺陷 | ReAct 怎么治 | 论文基准体现 |
| 纯推理(思维链) | 事实幻觉、错误传播,靠内部记忆不落地 | 观察从外部取真实信息,替换内部猜测 | FEVER 事实验证 ReAct 60.9 vs 思维链 56.3 |
| 纯行动 | 无推理轨迹,不会规划、不知为何失败 | 思考步记录目标与进度,可人工检查纠正 | ALFWorld 成功率 71% vs 纯行动 45% |
口径说明:上述为论文在 PaLM-540B 上的少样本(few-shot)提示结果,相对「纯思维链」与「纯行动」基线;不代表所有基座模型都复现同等差距。
工具连接标准:MCP 把「接外部能力」变成插头
Agent 要动手就得接工具,MCP 是这套连接的事实标准
自主 Agent 的价值大半来自「能调用外部工具与数据」,但每接一个系统就写一套私有对接,开发与维护成本爆炸。MCP(Model Context Protocol,Anthropic 2024-11 开源)要做的是AI 领域的 USB-C:用一套开放协议,让任何模型都能即插即用地连上任何遵循 MCP 的服务端。对要接知识库、业务系统、专家能力的产品,这意味着能力以标准服务端暴露,主机一次适配、处处可用。
图 9 · MCP 客户端-服务器架构:主机经客户端连多个服务端
对 PM 的含义:把各路能力(方法论库、案例库、业务系统查询)做成 MCP 服务端,主 Agent 用统一协议调用。新增能力不必改主机代码。
表 5 · MCP 标准 vs 私有 API 对接
| 维度 | 逐个私有对接 | MCP 标准服务端 |
| 接入成本 | 每系统一套代码 | 主机一次适配,服务端即插即用 |
| 跨模型 | 绑定某家模型 / 框架 | 不绑定模型,换模型不重写 |
| 能力复用 | 难复用 | 同一服务端多处调用 |
| 治理与权限 | 散落各处 | 服务端统一授权与审计 |
代价:引入协议层与一套服务端开发生命周期,简单场景可能过度设计。这又回到「按需复杂度」。
翻车模式:自主 Agent 比 RAG 更会「自爆」
生产级失败清单,多数来自「把控制权交给模型」的副作用
自主 Agent 把 RAG 的「链路翻车」升级成了「行为翻车」。一类是设计 / 成本层(外在)。从一开始就该用更简单的形态;另一类是运行 / 链路层(内在)。架构选对了但执行没兜住。RAG 链路的四类失效在 Agent 场景演化成四类行为失效:幻觉变「工具误用幻觉」,体验变「循环失控」,时效变「上下文膨胀」,记忆变「多 Agent 协调失控」。
图 10 · Agent 翻车分布:设计层(外在)vs 运行层(内在)
判断第一问仍是:这个失败是「不该上 Agent」(外在)还是「没兜住」(内在)?外在退形态,内在加护栏。
表 6 · 五种运行层翻车:成因与解法
| 翻车 | 成因 | 解法 |
| 无效循环 | 停止条件模糊,模型认为信息永远不够 | 明确停止判据、最大步数上限、超时熔断 |
| 工具误用 | 工具描述不清,模型调错或反复重试 | 每个工具唯一用途+清晰输入输出说明 |
| 成本失控 | 步数与调用数复利增长,无预算闸 | 按复杂度配资源、设 token / 步数预算 |
| 上下文膨胀 | 历史全量拼回,关键信号被稀释 | 压缩小结、子 Agent 隔离、只回传要点 |
| 多 Agent 协调失控 | 子 Agent 重复劳动、互相干扰 | 明确任务边界、减少冗余更新、编排管控 |
多智能体系统:更强,但协调复杂度也飙升
真实生产数据。编排-工作形态能把研究准确率抬上去,前提是别踩协调坑
把多个 Agent 编排起来(一个主 Agent 派多个子 Agent 并行)能处理单一 Agent 搞不定的开放任务。Anthropic 公开的研究系统就是这种形态:主 Agent 拆解问题、派子 Agent 并行搜证、再合成带引用的报告。它把研究准确性较单 Agent 抬升约 90%,但早期版本踩过一串协调坑。这些坑对任何想做多 Agent 架构的团队,几乎是必考题。
图 11 · 多智能体编排-工作:主 Agent 派活,子 Agent 并行,回收合成
两个设计要点:① 子 Agent 隔离上下文,主 Agent 只收要点;② 任务边界必须写清,否则子 Agent 会重复劳动或越界。
表 7 · 多智能体系统的真实教训(来自生产复盘)
| 踩过的坑 | 表现 | 对策 |
| 过度派活 | 简单查询也 spawn 数十个子 Agent | 按复杂度配资源:事实题 1 个、对比题 2–4 个、开放题才多 |
| 无休止搜 | 子 Agent 搜不存在的源、停不下来 | 明确工具与来源范围、设步数上限 |
| 互相干扰 | 子 Agent 用过多更新彼此带偏 | 减少跨 Agent 冗余通信、明确职责边界 |
| 任务含糊 | 子 Agent 误解或重复搜索 | 给每子 Agent 目标+输出格式+工具指引+边界 |
口径:上方「+90% 准确性」为 Anthropic 公开研究系统相对单 Agent 的对比口径;「数十个子 Agent」「过度派活」为早期版本观察到的失败现象,后经提示与护栏收敛。
评测与防护:三层把「不可预测」关进笼子
自主 Agent 难调试,靠三层兜底。模拟、护栏、监控
自主 Agent 的调试难点在于「失败落在任意一步」。生产级做法是把防护拆成三层:模拟层在上线前用真实场景和边界用例跑沙箱;护栏层在运行时每步校验、设人审与停止条件;监控层上线后持续度量结果与成本,用真实表现迭代。
表 8 · 防护三层
| 层 | 做什么 | 关键动作 |
| 模拟层 | 上线前沙箱测试 | 真实场景+边界用例、观察 Agent 逐步决策 |
| 护栏层 | 运行时每步校验 | 工具白名单、人审节点、明确停止条件 |
| 监控层 | 上线后持续度量 | 结果质量+token / 步数成本,按真实数据迭代 |
三个常见误解:①「自主 Agent 比工作流更先进」。它是权衡不是升级;②「上了 Agent 就自动会干活」。工具描述与停止条件决定成败;③「多 Agent 一定更强」。协调失控会吃掉并行收益。
适用边界与选型决策:什么时候不该上 Agent
把前面所有判断收口成一张「该不该上」的清单
决策的最后一步是划清边界。自主 Agent 不是默认选项,而是「更便宜的形态都不够」时的兜底。下面这张清单用来在立项时快速判死刑。
表 9 · 「不该上自主 Agent」的决策信号
| 信号 | 说明 | 更合适的形态 |
| 步骤可枚举 | 路径能提前写死 | 工作流(提示链 / 路由 / 并行) |
| 单轮能解决 | 无需多步、无需工具 | 增强型 LLM 单调用 |
| 一致性优先 | 出错代价高、要可复现 | 工作流+强校验 |
| 预算敏感 | 高并发、单价要低 | 尽量下沉到更便宜的形态 |
| 无护栏能力 | 做不到人审 / 停止 / 监控 | 暂缓,先补防护三层 |
反过来说,只有「步骤随输入大幅变化、需实时应变、且能承受成本与不可预测」的任务,才真正落在自主 Agent 的甜区。
决策方法:三条判断 + 案例 + 反例清单
把前述内容收成一张可复用的选型清单。任何「要不要上 Agent」的需求过一遍就有答案
本节把选型收敛成三条递进判断,像漏斗一样逐层收窄:先定层(控制流在谁手里)→ 再定要不要多 Agent 容量 → 最后定内部串并行。每一条都从真实案例与反例里来,不是口号。
图 12 · 三条判断漏斗:递进收窄,从「该不该上」到「怎么编排」
一句话记住:自主 Agent 是权衡不是奖赏。能写死流程就别交权给模型;需要多 Agent 往往只是为了「容量」,不是为了「自主权」。
并行 ≠ 多 Agent:单 Agent 内并行调工具只为提速,容量轴没动;多 Agent 是独立上下文窗口换并行容量。把「为了快」和「为了容量」混为一谈,是选型最常犯的错。
表 10 · 三个案例:事实 → 三条判断 → 结论
| 场景 | 关键事实 | 三条判断结论 | 启示 |
| 电商中台客服助手(翻车) | 拆四 Agent 后延迟 0.8→3.5s、成本 4×、准确率 92→88%、质检改崩话术 | 一·代码定;二·不需多 Agent(串行依赖+上下文小);三·串行提示链+评估 gate | 回退「增强型 LLM+评估 gate」,准确率回到 93% |
| 社交电商种草笔记审核 | 虚假宣传/导流/医疗宣称三维度互相独立 | 一·代码定;二·单 Agent 容量够;三·并行分段+聚合器(投票类) | 子任务独立 → 可并行提速,不必串行 |
| 传统零售竞品深度综述 | 5 竞品×4 维度=20 块独立资料,单 Agent 装不下 | 一·代码定;二·翻转→多 Agent 并行容量(并行工作流分段);三·非自主 Agent | 容量轴翻转,但控制流仍代码。不上自主 Agent |
三个案例跨域(中台/社交/传统零售)仍成立,说明方法是可迁移的判据,不是记场景。
追问三层 · 拿真实需求压测判据(以「季度经营分析报告」为例)
层一 · 逆推落地(MVP):按「代码控制流 + 单 Agent + 门店并行抓取」做,最小落地长什么样?哪些环节真要 LLM(洞察生成、市场结合),哪些 SQL/规则就能搞定(数据汇总、环比)?防「为 AI 而 AI」。
层二 · 边界(什么情况翻转):门店从几十家涨到几千家、或市场动态要实时多轮调研时,单 Agent 还装得下吗?控制流还能钉代码吗?哪条信号先破?
层三 · 跨场景泛化:这套结论换到合规月报、投后管理报告、实时大促战报还成立吗?哪类报告会翻转(如实时战报可能要运行时动态决定分析角度,控制流该交给模型)?
表 11 · 反例清单:每条判断各配反例
| 编号 | 反例 | 错在哪 | 正确做法 |
| 判断一·A | 动态故障排查硬写成工作流 | 该上 Agent(步骤不可预知)却没上,流程僵死 | 步骤看中间结果才定 → 上 ReAct 自主 Agent |
| 判断一·B | 客服四 Agent 翻车 | 不该上 Agent(控制流本该代码)却为「先进」上了 | 回退增强型 LLM + 评估 gate |
| 判断二·C | 竞品综述硬撑单 Agent | 该用多 Agent 容量(20 块装不下)却没上,资料被截断 | 并行工作流分段,拆 20 块独立窗口 |
| 判断二·D | 季度报告「用了并行就是多 Agent」 | 单 Agent 内并行调工具只为提速,误当多 Agent | 单 Agent+并行工具调用,容量轴没动 |
| 判断三·E | 种草审核三维度误串行 | 独立任务误串行,慢一倍,浪费并行红利 | 并行分段 + 聚合器 |
| 判断三·F | 意图未知就并行检索 | 依赖任务(先识别意图再按意图检索)误并行,方向错、烧 token | 串行提示链:先识别,再按意图检索 |
进阶方向速览
三条值得继续追的线,点到为止
计算机操作(Computer Use):把「操作电脑」本身做成工具(读屏、点按、执行命令),Agent 由此能处理没 API 的旧系统。代价是更不可预测,护栏要求更高。
长期记忆:把跨会话的关键事实、决策、进度外置存储,避免上下文窗口撑爆;它直接对应大模型「记忆」一类失效。装不下时靠外置而非硬塞。
框架对比:Anthropic Agent SDK、LangGraph、开源多 Agent 框架各擅场,选型原则仍是一句。先直接调 LLM API,确需时再上框架,且要懂框架下的提示与响应。
收口一句:Agent 靠谱不靠「多自主」,靠「该简单的绝不复杂、该兜住的绝不裸奔」。把控制权留在代码里能解决的事,就不要交给模型。