logo

通用模型、智能体与上下文工程对比

作者:渣渣辉2026.11.16 11:12浏览量:0

简介:本文对比通用模型、智能体与上下文工程的职责边界:模型负责概率推理,智能体负责行动与流程,上下文工程负责把任务所需信息组织进有限窗口。读者可据此判断何时只调用模型、何时引入工具与流程,以及怎样做可维护的上下文设计。

对比背景

开发者常把“把提示写好”“给模型接工具”和“做一套智能体”混为一谈。三者都围绕大语言模型展开,但解决的问题并不相同。通用模型负责根据当前输入预测后续内容;智能体把模型推理和外部行动组织成可重复执行的任务;上下文工程则决定单次调用里模型究竟看见什么。

如果边界不清,常见后果是:提示越来越长却不可维护,工具很多却选不准,流程写得很复杂,结果仍不稳定。本文从开发视角对比这三层能力,说明相同点、差异、适用场景和选型时要注意的边界。

对象定义

通用模型指以自回归方式工作的大语言模型。它根据当前上下文计算下一个片段的概率分布,输出后再把新内容纳入后续预测。除训练阶段已经吸收的知识外,它对当前用户、当前任务和外部世界的了解,都来自这一次调用提供的上下文窗口。因此模型本身是无状态的:上一次对话里发生过什么,只要没有再次放进输入,就不会自动保留。

智能体是在模型之外增加行动手段和执行逻辑的系统。模型相当于推理中枢,工具相当于可调用的外部能力,流程相当于任务如何拆分、何时调用工具、失败后如何重试或交还人工。智能体不是另一种模型,而是“模型 + 工具 + 流程”形成的应用形态。没有恰当上下文,工具和流程也只是空转。

上下文工程是为每一次模型调用构造恰当输入的系统工作。它包括任务说明、相关事实、历史摘要、工具返回、约束与输出格式,也包括哪些信息必须省略。提示词、标准化的工具描述、可复用的技能说明,本质上都是在帮助模型获得更合适的上下文,而不是替代模型本身。

相同点

三者目标一致:让系统在不确定环境中给出可用结果。它们都依赖模型的概率预测,都不能保证每一步绝对正确;都受上下文窗口长度、延迟和成本约束;都需要清晰的任务定义和可验证的输出。工具返回、检索片段和历史对话,最终仍要变成模型能读懂的文本或结构化片段。因此,智能体的上限往往不是“接了多少工具”,而是关键信息是否在正确的时机、以正确的粒度进入窗口。

核心差异

架构与系统边界

通用模型的边界在单次推理:输入进入,输出离开,调用结束即遗忘。智能体的边界在任务生命周期:可能包含多轮推理、多次工具调用和状态保存。上下文工程的边界在信息治理:决定状态存在哪里、如何压缩、何时注入、如何避免过期或互相冲突。

可以把关系看成分层而不是替代:

  • 通用模型提供推理能力,不负责长期记忆和外部行动。
  • 智能体提供行动和流程,但不自动保证输入质量。
  • 上下文工程连接两者,把记忆、检索结果和工具观察整理成当次可用的输入。

功能覆盖与使用限制

只调用通用模型,适合问答、改写、分类、草稿生成等封闭任务。它不主动查库、不改外部系统,幻觉只能靠提示约束和事后校验缓解。

智能体适合需要分步行动的任务,例如查询后汇总、按规则更新记录、多来源核对。限制在于:工具描述不清会导致误调用;流程过死会无法处理例外;流程过松则步数膨胀、成本上升。

上下文工程覆盖信息选择、排序、压缩、冲突消解和权限过滤。它不直接执行业务动作。再好的上下文也不能突破模型能力边界,例如窗口装不下的全量数据、未提供的实时事实,模型都无法可靠知道。

接入与改造成本

直接调用模型的改造量最小:准备输入、解析输出即可。智能体要定义工具契约、错误码、超时、幂等和人工接手点。上下文工程往往改动更“隐形”但更关键:要设计记忆存储、检索策略、摘要规则和提示模板版本。三者可以渐进引入,不必一开始就做完整智能体。

性能、稳定与成本

本文不给出具体数值,只比较影响因素。单次模型调用的延迟和费用主要受输入输出长度影响。智能体的总延迟是多步之和,任一步失败都会放大不稳定性。上下文工程通过减少无关标记、只注入相关片段,通常有助于降低费用并提高命中率;过度检索或把全部历史原样拼接,则会同时损害速度、成本和准确性。

稳定性上,模型输出具有随机性;智能体把随机性分布到多次决策;上下文工程用固定结构、明确约束和可复现的信息源来收窄随机性,但不能消除它。

安全、权限与运维

模型看不到的数据不会被它直接泄露,但一旦写入上下文就进入推理范围。智能体还能通过工具改写外部状态,风险高于纯生成。上下文工程必须做权限过滤:只注入当前主体有权看到的片段,工具返回要脱敏,日志中避免保存完整敏感上下文。

运维上要能回答:某次失败时模型看见了什么、调用了哪个工具、摘要是否丢了关键约束。没有这些追踪,智能体很难排障。

对比表

维度 通用模型 智能体 上下文工程
核心职责 按当前输入做概率预测 组织推理、工具与流程完成任务 为每次调用准备恰当上下文
状态 调用内无状态 可有任务状态与外部副作用 决定状态如何进入窗口
典型输入 指令与少量材料 目标、工具结果、中间结论 指令、记忆、检索、约束、格式
主要风险 幻觉、忽略未提供事实 误调用、步骤失控、副作用 噪声、遗漏、冲突、越权信息
成本驱动 单次长度与输出 步数、重试、工具延迟 检索量、摘要质量、模板长度
适合问题 封闭生成与判断 需要外部行动的多步任务 信息多、约束多、要可复现
不适合 依赖实时外部状态 一步即可完成的简单生成 替代模型能力或业务规则本身

好的上下文工程应当怎样

好的上下文工程不是把所有材料塞进窗口,而是让模型在有限篇幅里看到完成当前一步所必需、且彼此一致的信息。

  1. 任务与约束先行。 先写清目标、成功标准、禁止事项和输出结构,再补充事实。约束若埋在长文末尾,容易被中间噪声淹没。
  2. 信息按相关性分层。 系统指令、当前目标、最近观察、检索片段、历史摘要应分区,并标明来源与时间。模型需要知道哪段是事实、哪段是推测。
  3. 只保留决策所需粒度。 长对话应摘要;工具返回应截取字段而不是整页原文;多文档只保留支持当前子问题的片段。
  4. 冲突要显式处理。 新旧规则、用户原话与系统策略不一致时,应在上下文中声明优先级,而不是指望模型自行调和。
  5. 与工具和流程对齐。 工具说明要包含用途、参数含义、失败形态和何时不该调用。流程每一步只注入该步需要的上下文,避免把全程材料重复粘贴。
  6. 可测试、可回放。 模板版本化;用固定样例检查“该出现的事实是否出现、不该出现的是否被过滤”。排障时能复原当次输入。
  7. 权限与最小化。 上下文是数据边界。无权限的记录不应进入提示,敏感字段默认不记录到调试日志。

示意性的单步输入结构可以是:

  1. [角色与硬约束]
  2. [当前子目标与完成标准]
  3. [已验证事实:来源、时间]
  4. [本步工具观察:仅相关字段]
  5. [历史摘要:已完成/未完成]
  6. [输出格式与禁止事项]

这不是某种专有接口,只是说明分区原则。具体字段随业务变化。

典型场景如何选

  • 一次性改写、翻译、头脑风暴: 通用模型加简短指令即可。引入完整智能体通常增加延迟却不提升结果。
  • 答案依赖少量内部文档: 先做检索,再把少量片段写入上下文。这是上下文工程,不必立刻做多工具循环。
  • 必须查询、计算或修改外部系统: 需要智能体或至少“模型 + 工具”的受控流程,并由上下文工程管理每步观察。
  • 长周期、多角色协作: 重点在状态摘要、权限隔离和流程检查点。模型仍只负责每一步推理。
  • 强合规、可审计: 优先收紧上下文与工具权限,保留决策痕迹;不要用更长提示替代权限控制。

若团队运维能力有限,可先把单次调用的上下文做稳定,再增加一到两个边界清晰的工具,而不是同时上线复杂流程。托管化的模型推理、检索和日志能力可以降低基础设施负担,但信息该不该进入窗口,仍须由应用自己定义。

迁移与使用注意

从“长提示”迁到“上下文工程 + 智能体”时,建议评估:

  • 数据: 历史对话如何摘要,摘要是否丢失数字、时限和否决条件。
  • 接口: 工具参数是否稳定,失败是否可重试且幂等。
  • 权限: 检索与工具是否按调用者身份过滤,而不是按系统最高权限取数。
  • 兼容: 旧提示中的隐含规则要显式写入新模板,避免行为突变。
  • 稳定: 为关键步骤设置最大步数、超时和人工确认,防止循环调用。
  • 观测: 记录步骤、工具名和上下文版本,避免在日志中保存完整敏感原文。

迁移期可双轨对比:同一批样例分别走旧提示和新流水线,只比较任务成功率和违规率,不预设新方案必然更好。

总结

通用模型是无状态的概率推理器;智能体用工具和流程把推理变成可执行任务;上下文工程决定模型在每一步真正依据什么做判断。提示、工具说明和可复用技能都是上下文的组织方式,不是独立于模型的另一种智能。选型时先问任务是否需要外部行动和多步状态:不需要则保持模型调用;需要则引入受控流程,并把质量押在上下文的相关性、一致性和权限边界上。条件满足时再增加复杂度,比一开始追求“完整智能体”更稳妥。

发表评论

活动