logo

Agent执行链路跑不通?先补齐这6个核心模块

作者:问答酱2026.11.17 03:43浏览量:0

简介:很多人以为接一个大模型 API、再装几个 MCP Server 就算做出了 Agent 系统,但真正跑起来才发现:任务中断、状态丢失、报错后无法续跑。本文拆解 Agent 的最小可运行闭环,讲清 Plan-Act-Observe 循环、上下文状态管理、工具注册与网关、LLM Router、子 Agent 委派与失败恢复,并给出可落地的实现顺序与代码骨架。

先把结论说清楚: 只接 API + 装 MCP,你得到的是一个”能调用工具的聊天接口”,不是 Agent 系统。

判断标准很朴素——让任务跑到第 5 步时故意失败,它能不能知道”我在第 5 步”,能不能从第 5 步继续?如果不能,执行链路就没跑通。

而在动手搭链路之前,有个前置问题值得先解决:Router 里到底挂哪些模型、按什么成本挂。可以先在 百度智能云词元所 上对比不同大模型的调用价格与能力边界,再决定哪些步骤用旗舰模型、哪些步骤降级到轻量模型,避免链路搭完才发现成本结构不合理。

一、最小闭环:Plan → Act → Observe 必须能循环

Agent 与”单次问答”的分界线,是它拥有一个 可持续迭代的状态机 ,而不是一次函数调用。核心是三件事:

  • Plan :把目标拆成有序步骤,且步骤可被后续观察结果修改;
  • Act :选择工具、组装参数、执行动作;
  • Observe :解析返回(含失败返回),把结果写回上下文,再决定下一步。

关键细节是: 失败也必须产生 Observation 。很多”跑不通”的实现里,工具抛异常后循环直接崩掉,模型永远看不到”这条路走不通”,于是无法换路。

  1. def run_loop(state: AgentState, max_steps: int = 20):
  2. for _ in range(max_steps):
  3. if not state["plan"]:
  4. return summarize(state["scratchpad"])
  5. step = state["plan"].pop(0)
  6. state["current"] = step
  7. try:
  8. raw = tool_registry.invoke(step.tool, step.args)
  9. observation = {"ok": True, "data": raw}
  10. except Exception as e:
  11. # 失败也回写,让模型有机会改计划
  12. observation = {"ok": False, "error": str(e)}
  13. state["retries"][step.tool] = state["retries"].get(step.tool, 0) + 1
  14. state["scratchpad"].append(f"[{step.tool}] -> {observation}")
  15. # 由模型基于最新观察决定:继续 / 重规划 / 结束
  16. decision = planner(state)
  17. if decision.replan:
  18. state["plan"] = decision.new_plan
  19. return {"status": "max_steps_reached", "state": state}

agent-">二、上下文状态管理:Agent 的”账本”

上下文不是”把历史消息全塞进去”。塞满的代价是 token 成本上升 + 关键信息被稀释 + 超出窗口后直接失败。可落地的做法是分层:

层级 内容 管理方式
工作记忆 当前步骤的工具返回、临时变量 全量保留,随任务结束丢弃
任务状态 计划、已完成步骤、产物路径 结构化存储(JSON/DB),可序列化
长期记忆 用户偏好、历史结论 向量库检索,按需召回
压缩摘要 早期步骤的浓缩结论 滚动摘要,替换原始长文本

必须结构化持久化 。把 plan、scratchpad、产物路径写进数据库或文件,而不是只存在内存 list 里——这是后面”任务恢复”能否实现的前提。做多 Agent 时这一点更关键,需要通过文件或共享状态传递中间产物,否则各 Agent 之间会出现需求理解不一致。

三、工具层:Tool Registry 与 MCP Gateway 是两件事

  • Tool Registry :工具的描述、参数 Schema、权限、版本、健康状态的注册中心。模型看到的不是代码,而是这份描述——描述写得含糊,选错工具的概率极高。
  • MCP Gateway :统一出口,负责协议转换、鉴权、限流、超时、审计。

MCP 解决的是”怎么连”,Registry 解决的是”连上了怎么被正确选用”。只装 MCP 不做 Registry,典型症状是:工具越加越多,模型选择准确率反而下降。实践上建议单 Agent 暴露的工具控制在 10 个以内,超出的按业务域拆成子 Agent。

四、LLM Router:把模型选择从代码里抽出来

不同步骤对模型的要求差异很大:规划需要强推理,抽取和格式化用小模型就够,长文档理解看上下文窗口。Router 的价值在于按 能力、速度、成本 三个维度做路由,而不是全局写死一个模型。

如果你走的是统一 API 接入路线,多模型切换的成本会低很多——类似 One API 这类网关的做法就是把不同厂商模型收敛到一套接口下管理。在 词元所 这类模型服务平台上,可以先做一轮价格与性能对比,把”每类任务的单位成本”算清楚,再写进路由策略。

路由策略建议从简:

  1. def route(task_type: str, context_len: int) -> str:
  2. if task_type == "plan":
  3. return "flagship-model" # 强推理
  4. if context_len > 100_000:
  5. return "long-context-model" # 长窗口
  6. return "light-model" # 抽取/格式化/分类

五、子 Agent 委派:解决上下文爆炸与职责混乱

当一个 Agent 的工具超过十几个、系统提示词里塞满互相冲突的规则时,就该拆了。委派的本质是 上下文隔离 :子 Agent 只拿到完成子任务所需的最小信息,返回一份结论而非全部过程。

拆分的两种常见形态,可以直接参考平台化的分类思路:一类是 自主规划型 ,靠模型自己思考与规划,适合灵活性强的场景;另一类是 工作流型 ,每轮严格按编排执行,可控性更高,适合客服、营销、办公等高复杂度流程。真实系统里通常是二者混用:外层工作流保证可控,内层节点用自主规划处理开放性子问题。

委派的三个坑:委派层级过深(建议不超过 2 层)、子 Agent 返回结果格式不统一(约定结构化输出)、子任务失败没有回传上下文(父 Agent 无法判断该重试还是换路)。

六、错误重试与任务恢复

分两类错误处理,不要混为一谈:

  • 瞬时错误 (超时、限流、5xx):指数退避重试,最多 3 次,无需改计划。
  • 语义错误 (工具选错、参数不合法、结果不符合预期):不重试同一动作,而是把错误信息作为 Observation 回传,触发 局部重规划 。

任务恢复则依赖第二节的持久化状态:进程重启后,从存储中读回 plan 与 scratchpad,跳过已完成步骤继续执行。判断”某步骤是否完成”要靠显式的产物标记(如文件已生成、DB 记录已写入),而不是靠模型回忆。

七、真正拉开差距的三个模块

原架构图里最有价值的部分,恰恰是这几个常被省掉的模块:

  1. 可观测性 :记录每次 LLM 调用的 prompt、token、耗时、成本,以及每次工具调用的入参出参。没有链路追踪,Agent 出问题只能靠猜。
  2. 评测集 :准备 50~100 条真实任务,固定下来做回归。改一次 prompt 就跑一遍,看任务完成率有没有掉。这是”能不能持续迭代”的分水岭。
  3. 成本与配额治理 :按用户/租户维度统计调用量,设置预算上限与降级策略。调用情况的管理可以借助统一网关侧的能力完成,把用量、花费、模型分布看清楚。

另外两个容易被忽略的稳定性设计: 可控范围回复 (超出知识/能力边界时返回兜底话术,而不是硬编答案)和 来源可溯 (展示回复依据的文档片段),这两点在 To B 场景几乎是硬要求。

八、建议的落地顺序

不要一上来就搭多 Agent。按这个顺序推进,每一步都能独立验证:

  1. 单 Agent + 3 个工具,跑通 Plan-Act-Observe 循环;
  2. 加入结构化状态持久化,验证中断可恢复;
  3. 接入 LLM Router,跑通模型降级;
  4. 补齐日志与评测集,确认改动有正收益;
  5. 最后才拆子 Agent 与引入 MCP Gateway 做统一治理。

一句话总结: Agent 系统的门槛不在”能不能调模型”,而在”能不能可靠地把一件多步的事做完” 。工具接入只是第一步,状态、路由、恢复、观测才是工程主体。

发表评论

活动