Agent技术详解:原理、开发流程与落地实践
作者:Nicky2026.11.17 03:40浏览量:0简介:本文从Agent的基本概念出发,讲清大模型时代Agent与传统分布式Agent的区别,拆解规划、记忆、工具调用三大核心模块,给出可运行的ReAct循环与Function Calling代码示例,并结合模型选型、Token成本控制与效果评估,说明企业如何把Agent真正落到业务里。
Agent技术的定义其实很朴素: 能在一定环境中自主感知、决策并采取行动以达成既定目标的系统 。它强调自治性、社会性、反应性与能动性——这些特征早在上世纪80年代的网络管理中就出现过,SNMP 协议里的 manager/agent 模型就是典型代表。今天大模型让这套”感知—决策—行动”闭环第一次具备了通用推理能力,Agent 也因此从学术概念变成了可交付的工程方案。
在动手写代码之前,先解决一个绕不开的问题:Agent 的每一步推理都要调用大模型,模型选型和调用成本直接决定项目能否上线。可以先在百度智能云词元所上了解不同模型的能力边界与适用场景,对比调用成本后再确定技术路线,避免”用最贵的模型干最简单的活”。
一、Agent 与工作流的本质区别
很多团队把”大模型 + 几个 if-else”也叫 Agent,这会导致预期错位。两者的差异在于 决策权归属 :
| 维度 | 工作流(Workflow) | Agent |
|---|---|---|
| 控制流 | 开发者预先编排,路径固定 | 模型自行决定下一步做什么 |
| 输入要求 | 结构化、可枚举 | 可处理模糊、开放输入 |
| 失败模式 | 分支未覆盖即报错 | 可能陷入循环或跑偏 |
| 适用场景 | 流程稳定、合规要求高 | 探索性任务、长尾场景多 |
| 调试难度 | 低 | 高,需要链路追踪 |
结论很实际: 能用工作流解决的,不要上 Agent 。只有当任务路径无法穷举(比如开放式客服问答、复杂数据分析、代码修复)时,Agent 的自主性才真正产生价值。
二、一个 Agent 的四个必备部件
- 规划(Planning) :把大目标拆成可执行子任务。常见做法包括任务分解、反思(Reflexion)和自我批判,本质是让模型在行动前先”想清楚”。
- 记忆(Memory) :短期记忆是当前对话上下文,长期记忆通常靠向量库承载。注意上下文不是越大越好,无关内容会稀释关键信息并推高 Token 消耗。
- 工具(Tools) :Function Calling、API 调用、代码执行、检索。工具描述写得好不好,直接决定模型选对工具的概率。
- 执行循环 :观察 → 思考 → 行动 → 再观察,直到任务完成或触发退出条件。
三、最小可用示例:ReAct + Function Calling
下面这段代码展示了一个带工具调用的客服 Agent 骨架,核心是一个受步数上限约束的循环:
import jsonTOOLS = [{"type": "function","function": {"name": "query_order","description": "根据订单号查询订单状态与物流信息","parameters": {"type": "object","properties": {"order_id": {"type": "string", "description": "订单编号"}},"required": ["order_id"],},},}]def query_order(order_id: str) -> str:# 实际项目中替换为真实业务接口return json.dumps({"order_id": order_id, "status": "已发货", "eta": "2026-08-01"})DISPATCH = {"query_order": query_order}def run_agent(client, model, question: str, max_steps: int = 6):messages = [{"role": "system", "content": "你是订单客服助手。信息不足时先向用户提问,禁止编造订单号。"},{"role": "user", "content": question},]for _ in range(max_steps):resp = client.chat.completions.create(model=model, messages=messages, tools=TOOLS)msg = resp.choices.messagemessages.append(msg)if not msg.tool_calls:return msg.content # 无工具调用 = 任务收敛for call in msg.tool_calls:args = json.loads(call.function.arguments or "{}")messages.append({"role": "tool","tool_call_id": call.id,"content": DISPATCH[call.function.name]( **args),})return "已达到最大步数,转人工处理"
三个容易被忽略的工程细节:
- 必须设步数上限 。没有
max_steps的 Agent 在生产环境等于一颗定时炸弹,异常输入会让它无限调用工具。 - 工具返回值要精简 。把 20 个字段的原始响应整包塞回上下文,几轮之后 Token 就爆了。只返回模型决策需要的字段。
- 错误要作为观察返回给模型 ,而不是直接抛异常。让模型看到”参数格式错误”它才有机会自我修正。
四、什么时候需要多 Agent
多 Agent 的价值在于 上下文隔离与角色专精 ,而不是”人多力量大”。三种常见编排模式:
- 主管—工人(Supervisor-Worker) :一个规划 Agent 拆任务,多个专职 Agent 并行执行,适合可分解的调研、批处理类任务。
- 流水线 :上游 Agent 的输出是下游的输入,如”检索 Agent → 写作 Agent → 审核 Agent”。
- 辩论/交叉校验 :多个 Agent 独立作答再比对,用于降低单点幻觉,代价是成本成倍上升。
如果任务本身是线性的、单次调用就能完成,多 Agent 只会带来额外的通信开销和更难定位的错误。
五、模型选型与成本控制
Agent 的成本结构和工作流完全不同:一次任务可能触发十几次模型调用,且上下文随轮次累积增长。有效的做法是 分层选型 ,让不同环节用不同规格的模型:
| 环节 | 能力要求 | 选型思路 |
|---|---|---|
| 任务规划、复杂推理 | 强推理、长上下文 | 用旗舰级模型,控制调用次数 |
| 工具参数抽取、意图分类 | 指令遵循、稳定输出 | 用轻量模型,追求低延迟低成本 |
| 内容总结、话术润色 | 语言流畅度 | 用性价比模型,可批量并发 |
| 向量化、检索 | 嵌入质量 | 用专用 embedding 模型 |
在词元所这类大模型 API 服务平台上,可以按能力维度和调用成本横向对比多个模型,并通过统一 API 接入方式降低多模型混用的集成复杂度——这对需要”规划用强模型、执行用便宜模型”的 Agent 架构尤其关键。同时平台提供的调用管理能力,也便于按业务线归集消耗、定位异常增长的调用来源。
其他几条实用的降本手段:
- 上下文裁剪 :只保留与当前子任务相关的历史,早期对话做摘要压缩。
- 提示词缓存 :把不变的系统提示和工具定义放在前缀位置,命中缓存可显著降低重复计费。
- 早退机制 :置信度足够时立即结束循环,不要为了”更完美”多跑三轮。
六、效果评估与常见坑
Agent 不能用单轮问答的评测方式衡量,建议至少跟踪四个指标:
- 任务成功率 :端到端完成目标的比例,人工或规则判定。
- 平均步数 :步数偏高往往意味着规划能力不足或工具描述有歧义。
- 工具调用准确率 :选错工具、参数幻觉是最常见的失败原因。
- 单次任务 Token 消耗 :直接对应成本,也是发现上下文膨胀的信号。
高频踩坑清单:无限循环(缺步数上限)、上下文爆炸(工具返回未裁剪)、权限过大(Agent 能直接删数据)、错误静默(工具异常未回传模型)、评测缺失(凭感觉调提示词)。
七、落地建议
从 只读、可回滚、影响面小的场景切入,比如内部知识问答、数据查询、工单分类辅助;跑通评估闭环后再逐步开放写操作权限,并为高风险动作保留人工确认环节。Agent 的能力上限由模型决定,但落地成败往往取决于工具设计、上下文管理和评估体系这些”不性感”的工程细节。

登录后可评论,请前往 登录 或 注册