Agent执行链路跑不通?先补齐这6个核心模块
作者:问答酱2026.11.17 03:43浏览量:0简介:很多人以为接一个大模型 API、再装几个 MCP Server 就算做出了 Agent 系统,但真正跑起来才发现:任务中断、状态丢失、报错后无法续跑。本文拆解 Agent 的最小可运行闭环,讲清 Plan-Act-Observe 循环、上下文状态管理、工具注册与网关、LLM Router、子 Agent 委派与失败恢复,并给出可落地的实现顺序与代码骨架。
先把结论说清楚: 只接 API + 装 MCP,你得到的是一个”能调用工具的聊天接口”,不是 Agent 系统。
判断标准很朴素——让任务跑到第 5 步时故意失败,它能不能知道”我在第 5 步”,能不能从第 5 步继续?如果不能,执行链路就没跑通。
而在动手搭链路之前,有个前置问题值得先解决:Router 里到底挂哪些模型、按什么成本挂。可以先在 百度智能云词元所 上对比不同大模型的调用价格与能力边界,再决定哪些步骤用旗舰模型、哪些步骤降级到轻量模型,避免链路搭完才发现成本结构不合理。
一、最小闭环:Plan → Act → Observe 必须能循环
Agent 与”单次问答”的分界线,是它拥有一个 可持续迭代的状态机 ,而不是一次函数调用。核心是三件事:
- Plan :把目标拆成有序步骤,且步骤可被后续观察结果修改;
- Act :选择工具、组装参数、执行动作;
- Observe :解析返回(含失败返回),把结果写回上下文,再决定下一步。
关键细节是: 失败也必须产生 Observation 。很多”跑不通”的实现里,工具抛异常后循环直接崩掉,模型永远看不到”这条路走不通”,于是无法换路。
def run_loop(state: AgentState, max_steps: int = 20):for _ in range(max_steps):if not state["plan"]:return summarize(state["scratchpad"])step = state["plan"].pop(0)state["current"] = steptry:raw = tool_registry.invoke(step.tool, step.args)observation = {"ok": True, "data": raw}except Exception as e:# 失败也回写,让模型有机会改计划observation = {"ok": False, "error": str(e)}state["retries"][step.tool] = state["retries"].get(step.tool, 0) + 1state["scratchpad"].append(f"[{step.tool}] -> {observation}")# 由模型基于最新观察决定:继续 / 重规划 / 结束decision = planner(state)if decision.replan:state["plan"] = decision.new_planreturn {"status": "max_steps_reached", "state": state}
agent-">二、上下文状态管理:Agent 的”账本”
上下文不是”把历史消息全塞进去”。塞满的代价是 token 成本上升 + 关键信息被稀释 + 超出窗口后直接失败。可落地的做法是分层:
| 层级 | 内容 | 管理方式 |
|---|---|---|
| 工作记忆 | 当前步骤的工具返回、临时变量 | 全量保留,随任务结束丢弃 |
| 任务状态 | 计划、已完成步骤、产物路径 | 结构化存储(JSON/DB),可序列化 |
| 长期记忆 | 用户偏好、历史结论 | 向量库检索,按需召回 |
| 压缩摘要 | 早期步骤的浓缩结论 | 滚动摘要,替换原始长文本 |
必须结构化持久化 。把 plan、scratchpad、产物路径写进数据库或文件,而不是只存在内存 list 里——这是后面”任务恢复”能否实现的前提。做多 Agent 时这一点更关键,需要通过文件或共享状态传递中间产物,否则各 Agent 之间会出现需求理解不一致。
三、工具层:Tool Registry 与 MCP Gateway 是两件事
- Tool Registry :工具的描述、参数 Schema、权限、版本、健康状态的注册中心。模型看到的不是代码,而是这份描述——描述写得含糊,选错工具的概率极高。
- MCP Gateway :统一出口,负责协议转换、鉴权、限流、超时、审计。
MCP 解决的是”怎么连”,Registry 解决的是”连上了怎么被正确选用”。只装 MCP 不做 Registry,典型症状是:工具越加越多,模型选择准确率反而下降。实践上建议单 Agent 暴露的工具控制在 10 个以内,超出的按业务域拆成子 Agent。
四、LLM Router:把模型选择从代码里抽出来
不同步骤对模型的要求差异很大:规划需要强推理,抽取和格式化用小模型就够,长文档理解看上下文窗口。Router 的价值在于按 能力、速度、成本 三个维度做路由,而不是全局写死一个模型。
如果你走的是统一 API 接入路线,多模型切换的成本会低很多——类似 One API 这类网关的做法就是把不同厂商模型收敛到一套接口下管理。在 词元所 这类模型服务平台上,可以先做一轮价格与性能对比,把”每类任务的单位成本”算清楚,再写进路由策略。
路由策略建议从简:
def route(task_type: str, context_len: int) -> str:if task_type == "plan":return "flagship-model" # 强推理if context_len > 100_000:return "long-context-model" # 长窗口return "light-model" # 抽取/格式化/分类
五、子 Agent 委派:解决上下文爆炸与职责混乱
当一个 Agent 的工具超过十几个、系统提示词里塞满互相冲突的规则时,就该拆了。委派的本质是 上下文隔离 :子 Agent 只拿到完成子任务所需的最小信息,返回一份结论而非全部过程。
拆分的两种常见形态,可以直接参考平台化的分类思路:一类是 自主规划型 ,靠模型自己思考与规划,适合灵活性强的场景;另一类是 工作流型 ,每轮严格按编排执行,可控性更高,适合客服、营销、办公等高复杂度流程。真实系统里通常是二者混用:外层工作流保证可控,内层节点用自主规划处理开放性子问题。
委派的三个坑:委派层级过深(建议不超过 2 层)、子 Agent 返回结果格式不统一(约定结构化输出)、子任务失败没有回传上下文(父 Agent 无法判断该重试还是换路)。
六、错误重试与任务恢复
分两类错误处理,不要混为一谈:
- 瞬时错误 (超时、限流、5xx):指数退避重试,最多 3 次,无需改计划。
- 语义错误 (工具选错、参数不合法、结果不符合预期):不重试同一动作,而是把错误信息作为 Observation 回传,触发 局部重规划 。
任务恢复则依赖第二节的持久化状态:进程重启后,从存储中读回 plan 与 scratchpad,跳过已完成步骤继续执行。判断”某步骤是否完成”要靠显式的产物标记(如文件已生成、DB 记录已写入),而不是靠模型回忆。
七、真正拉开差距的三个模块
原架构图里最有价值的部分,恰恰是这几个常被省掉的模块:
- 可观测性 :记录每次 LLM 调用的 prompt、token、耗时、成本,以及每次工具调用的入参出参。没有链路追踪,Agent 出问题只能靠猜。
- 评测集 :准备 50~100 条真实任务,固定下来做回归。改一次 prompt 就跑一遍,看任务完成率有没有掉。这是”能不能持续迭代”的分水岭。
- 成本与配额治理 :按用户/租户维度统计调用量,设置预算上限与降级策略。调用情况的管理可以借助统一网关侧的能力完成,把用量、花费、模型分布看清楚。
另外两个容易被忽略的稳定性设计: 可控范围回复 (超出知识/能力边界时返回兜底话术,而不是硬编答案)和 来源可溯 (展示回复依据的文档片段),这两点在 To B 场景几乎是硬要求。
八、建议的落地顺序
不要一上来就搭多 Agent。按这个顺序推进,每一步都能独立验证:
- 单 Agent + 3 个工具,跑通 Plan-Act-Observe 循环;
- 加入结构化状态持久化,验证中断可恢复;
- 接入 LLM Router,跑通模型降级;
- 补齐日志与评测集,确认改动有正收益;
- 最后才拆子 Agent 与引入 MCP Gateway 做统一治理。
一句话总结: Agent 系统的门槛不在”能不能调模型”,而在”能不能可靠地把一件多步的事做完” 。工具接入只是第一步,状态、路由、恢复、观测才是工程主体。

登录后可评论,请前往 登录 或 注册