通用模型、智能体与上下文工程对比
作者:渣渣辉2026.11.16 11:12浏览量:0简介:本文对比通用模型、智能体与上下文工程的职责边界:模型负责概率推理,智能体负责行动与流程,上下文工程负责把任务所需信息组织进有限窗口。读者可据此判断何时只调用模型、何时引入工具与流程,以及怎样做可维护的上下文设计。
对比背景
开发者常把“把提示写好”“给模型接工具”和“做一套智能体”混为一谈。三者都围绕大语言模型展开,但解决的问题并不相同。通用模型负责根据当前输入预测后续内容;智能体把模型推理和外部行动组织成可重复执行的任务;上下文工程则决定单次调用里模型究竟看见什么。
如果边界不清,常见后果是:提示越来越长却不可维护,工具很多却选不准,流程写得很复杂,结果仍不稳定。本文从开发视角对比这三层能力,说明相同点、差异、适用场景和选型时要注意的边界。
对象定义
通用模型指以自回归方式工作的大语言模型。它根据当前上下文计算下一个片段的概率分布,输出后再把新内容纳入后续预测。除训练阶段已经吸收的知识外,它对当前用户、当前任务和外部世界的了解,都来自这一次调用提供的上下文窗口。因此模型本身是无状态的:上一次对话里发生过什么,只要没有再次放进输入,就不会自动保留。
智能体是在模型之外增加行动手段和执行逻辑的系统。模型相当于推理中枢,工具相当于可调用的外部能力,流程相当于任务如何拆分、何时调用工具、失败后如何重试或交还人工。智能体不是另一种模型,而是“模型 + 工具 + 流程”形成的应用形态。没有恰当上下文,工具和流程也只是空转。
上下文工程是为每一次模型调用构造恰当输入的系统工作。它包括任务说明、相关事实、历史摘要、工具返回、约束与输出格式,也包括哪些信息必须省略。提示词、标准化的工具描述、可复用的技能说明,本质上都是在帮助模型获得更合适的上下文,而不是替代模型本身。
相同点
三者目标一致:让系统在不确定环境中给出可用结果。它们都依赖模型的概率预测,都不能保证每一步绝对正确;都受上下文窗口长度、延迟和成本约束;都需要清晰的任务定义和可验证的输出。工具返回、检索片段和历史对话,最终仍要变成模型能读懂的文本或结构化片段。因此,智能体的上限往往不是“接了多少工具”,而是关键信息是否在正确的时机、以正确的粒度进入窗口。
核心差异
架构与系统边界
通用模型的边界在单次推理:输入进入,输出离开,调用结束即遗忘。智能体的边界在任务生命周期:可能包含多轮推理、多次工具调用和状态保存。上下文工程的边界在信息治理:决定状态存在哪里、如何压缩、何时注入、如何避免过期或互相冲突。
可以把关系看成分层而不是替代:
- 通用模型提供推理能力,不负责长期记忆和外部行动。
- 智能体提供行动和流程,但不自动保证输入质量。
- 上下文工程连接两者,把记忆、检索结果和工具观察整理成当次可用的输入。
功能覆盖与使用限制
只调用通用模型,适合问答、改写、分类、草稿生成等封闭任务。它不主动查库、不改外部系统,幻觉只能靠提示约束和事后校验缓解。
智能体适合需要分步行动的任务,例如查询后汇总、按规则更新记录、多来源核对。限制在于:工具描述不清会导致误调用;流程过死会无法处理例外;流程过松则步数膨胀、成本上升。
上下文工程覆盖信息选择、排序、压缩、冲突消解和权限过滤。它不直接执行业务动作。再好的上下文也不能突破模型能力边界,例如窗口装不下的全量数据、未提供的实时事实,模型都无法可靠知道。
接入与改造成本
直接调用模型的改造量最小:准备输入、解析输出即可。智能体要定义工具契约、错误码、超时、幂等和人工接手点。上下文工程往往改动更“隐形”但更关键:要设计记忆存储、检索策略、摘要规则和提示模板版本。三者可以渐进引入,不必一开始就做完整智能体。
性能、稳定与成本
本文不给出具体数值,只比较影响因素。单次模型调用的延迟和费用主要受输入输出长度影响。智能体的总延迟是多步之和,任一步失败都会放大不稳定性。上下文工程通过减少无关标记、只注入相关片段,通常有助于降低费用并提高命中率;过度检索或把全部历史原样拼接,则会同时损害速度、成本和准确性。
稳定性上,模型输出具有随机性;智能体把随机性分布到多次决策;上下文工程用固定结构、明确约束和可复现的信息源来收窄随机性,但不能消除它。
安全、权限与运维
模型看不到的数据不会被它直接泄露,但一旦写入上下文就进入推理范围。智能体还能通过工具改写外部状态,风险高于纯生成。上下文工程必须做权限过滤:只注入当前主体有权看到的片段,工具返回要脱敏,日志中避免保存完整敏感上下文。
运维上要能回答:某次失败时模型看见了什么、调用了哪个工具、摘要是否丢了关键约束。没有这些追踪,智能体很难排障。
对比表
| 维度 | 通用模型 | 智能体 | 上下文工程 |
|---|---|---|---|
| 核心职责 | 按当前输入做概率预测 | 组织推理、工具与流程完成任务 | 为每次调用准备恰当上下文 |
| 状态 | 调用内无状态 | 可有任务状态与外部副作用 | 决定状态如何进入窗口 |
| 典型输入 | 指令与少量材料 | 目标、工具结果、中间结论 | 指令、记忆、检索、约束、格式 |
| 主要风险 | 幻觉、忽略未提供事实 | 误调用、步骤失控、副作用 | 噪声、遗漏、冲突、越权信息 |
| 成本驱动 | 单次长度与输出 | 步数、重试、工具延迟 | 检索量、摘要质量、模板长度 |
| 适合问题 | 封闭生成与判断 | 需要外部行动的多步任务 | 信息多、约束多、要可复现 |
| 不适合 | 依赖实时外部状态 | 一步即可完成的简单生成 | 替代模型能力或业务规则本身 |
好的上下文工程应当怎样
好的上下文工程不是把所有材料塞进窗口,而是让模型在有限篇幅里看到完成当前一步所必需、且彼此一致的信息。
- 任务与约束先行。 先写清目标、成功标准、禁止事项和输出结构,再补充事实。约束若埋在长文末尾,容易被中间噪声淹没。
- 信息按相关性分层。 系统指令、当前目标、最近观察、检索片段、历史摘要应分区,并标明来源与时间。模型需要知道哪段是事实、哪段是推测。
- 只保留决策所需粒度。 长对话应摘要;工具返回应截取字段而不是整页原文;多文档只保留支持当前子问题的片段。
- 冲突要显式处理。 新旧规则、用户原话与系统策略不一致时,应在上下文中声明优先级,而不是指望模型自行调和。
- 与工具和流程对齐。 工具说明要包含用途、参数含义、失败形态和何时不该调用。流程每一步只注入该步需要的上下文,避免把全程材料重复粘贴。
- 可测试、可回放。 模板版本化;用固定样例检查“该出现的事实是否出现、不该出现的是否被过滤”。排障时能复原当次输入。
- 权限与最小化。 上下文是数据边界。无权限的记录不应进入提示,敏感字段默认不记录到调试日志。
示意性的单步输入结构可以是:
[角色与硬约束][当前子目标与完成标准][已验证事实:来源、时间][本步工具观察:仅相关字段][历史摘要:已完成/未完成][输出格式与禁止事项]
这不是某种专有接口,只是说明分区原则。具体字段随业务变化。
典型场景如何选
- 一次性改写、翻译、头脑风暴: 通用模型加简短指令即可。引入完整智能体通常增加延迟却不提升结果。
- 答案依赖少量内部文档: 先做检索,再把少量片段写入上下文。这是上下文工程,不必立刻做多工具循环。
- 必须查询、计算或修改外部系统: 需要智能体或至少“模型 + 工具”的受控流程,并由上下文工程管理每步观察。
- 长周期、多角色协作: 重点在状态摘要、权限隔离和流程检查点。模型仍只负责每一步推理。
- 强合规、可审计: 优先收紧上下文与工具权限,保留决策痕迹;不要用更长提示替代权限控制。
若团队运维能力有限,可先把单次调用的上下文做稳定,再增加一到两个边界清晰的工具,而不是同时上线复杂流程。托管化的模型推理、检索和日志能力可以降低基础设施负担,但信息该不该进入窗口,仍须由应用自己定义。
迁移与使用注意
从“长提示”迁到“上下文工程 + 智能体”时,建议评估:
- 数据: 历史对话如何摘要,摘要是否丢失数字、时限和否决条件。
- 接口: 工具参数是否稳定,失败是否可重试且幂等。
- 权限: 检索与工具是否按调用者身份过滤,而不是按系统最高权限取数。
- 兼容: 旧提示中的隐含规则要显式写入新模板,避免行为突变。
- 稳定: 为关键步骤设置最大步数、超时和人工确认,防止循环调用。
- 观测: 记录步骤、工具名和上下文版本,避免在日志中保存完整敏感原文。
迁移期可双轨对比:同一批样例分别走旧提示和新流水线,只比较任务成功率和违规率,不预设新方案必然更好。
总结
通用模型是无状态的概率推理器;智能体用工具和流程把推理变成可执行任务;上下文工程决定模型在每一步真正依据什么做判断。提示、工具说明和可复用技能都是上下文的组织方式,不是独立于模型的另一种智能。选型时先问任务是否需要外部行动和多步状态:不需要则保持模型调用;需要则引入受控流程,并把质量押在上下文的相关性、一致性和权限边界上。条件满足时再增加复杂度,比一开始追求“完整智能体”更稳妥。

登录后可评论,请前往 登录 或 注册