logo

上下文工程是什么:解析Agent长任务的核心瓶颈

作者:半吊子全栈工匠2026.11.16 11:26浏览量:1

简介:本文系统解析上下文工程(Context Engineering)的定义与价值,说明为什么上下文腐化会成为长时间运行Agent的核心瓶颈,并拆解卸载、摘要、技能按需加载、子Agent、长期记忆这五类机制的工作原理,配合典型场景与选型注意事项,帮助开发者理解如何构建在长任务中依然可靠、准确、可维护的智能体系统。

当讨论“Agent目前最大的瓶颈是什么”时,行业逐渐形成的共识并不指向模型本身的推理能力,而是指向模型外围的信息组织方式——也就是上下文工程(Context Engineering)。它研究的核心问题是:在一个长时间运行、不断接收新信息的智能体系统中,如何保证模型在每一轮推理时真正“看到”的是当前任务最相关的内容,而不是被大量历史材料、工具输出和中间过程所淹没。本文将围绕这一概念,系统说明它是什么、为什么重要、由哪些机制构成、如何运作,以及在选型和使用时需要注意的问题。

一、概念定义:什么是上下文工程

从技术视角看,可以把一个Agent简化为两部分:中间是一个大语言模型(Large Language Model,LLM),负责推理并生成下一步动作;外围包围着模型的是一套编排程序,通常称为 harness(可理解为“执行外壳”或“运行时框架”)。模型本身并不直接持有全部任务状态,真正决定每一轮调用能“看到什么”的,是外围程序如何组织消息、提供工具、执行工具调用、保存结果,以及下一轮究竟把哪些内容放进上下文窗口。

上下文工程,指的就是对这套外围信息组织过程的系统性设计。它关注的不是单次提示词(prompt)的措辞,而是贯穿整个任务生命周期的信息管理策略:哪些内容应该进入上下文,哪些应该被移出,哪些应该在需要时再取回。换句话说,上下文工程回答的是“在一个持续运行的过程中,如何让模型的注意力始终聚焦在正确的地方”。

与之直接相关的核心概念是上下文腐化(context rot)。它描述的是这样一种现象:随着任务推进,Agent不断接收指令、工具返回结果、文件内容、搜索信息和历史对话,这些材料逐渐逼近上下文窗口的容量。即使token数量还没有触达硬上限,模型的表现也可能开始下降——因为真正有用的信息被埋没在大量旧材料和冗余中间过程里,历史、噪声和过时的工具输出会干扰判断,拉低推理质量。

一个贴切的类比是“临时突击复习的人”:新内容越积越多,越是往后学,前面学过的东西反而越容易混乱、越容易记串。长任务中的Agent面临同样的困境。因此,上下文腐化才是很多长任务Agent表现不稳定的深层原因,而不是模型“不够聪明”。

二、背景与价值:为什么上下文工程如此重要

早期构建Agent时,一种常见做法是把所有历史信息全部塞进上下文:完整对话、全部工具结果、每一步的中间推理。这在短任务中往往没问题,但一旦任务需要跨越较长时间、调用多次工具、处理多个文件,问题就会集中暴露。

主要有三类痛点:

第一,准确性随信息积累而下降。这是上下文腐化的直接后果。相关信息被无关内容稀释后,模型更容易产生遗漏、混淆或前后矛盾。

第二,成本与延迟上升。上下文越长,每轮调用需要处理的token越多,既增加推理开销,也拉长响应时间,且冗余信息本身并不产生价值。

第三,跨会话能力缺失。如果关键信息只存在于某一次会话的临时上下文中,那么任务中断、模型切换或跨会话复用时,此前积累的成果就无法被有效利用。

上下文工程的价值,正在于通过一套明确的策略系统性地缓解这些问题:在不牺牲“事后可重新取回”能力的前提下,把不需要的内容移出当前活跃窗口,让模型始终只携带当前任务真正需要的信息。

三、核心组成:应对上下文腐化的机制

一套成熟的上下文工程方案,通常会在模型外围部署多种互补机制,各管一类问题。归纳起来,可以分成五大类:

  1. 卸载(Offloading)
    针对大块工具结果。当某次工具调用返回的内容非常庞大时,先把完整结果保存到文件,只给模型一个摘要或预览。模型看到关键信息即可继续推进,需要细节时再去读取对应文件。

  2. 摘要(Summarization)
    针对逐渐累积的历史。把较早阶段的对话与过程压缩成结构化摘要,保留结论、已完成步骤和关键决策,同时让近期消息保持原样以便连续执行。这样既控制了长度,又保住了必要脉络。

  3. 技能按需加载(Skills)
    针对专业操作说明。将某个专业领域的操作手册、规范或流程说明做成可按需加载的“技能”模块,只在真正需要该能力时才把完整说明引入上下文,平时只保留一句索引式描述。

  4. 子Agent(Subagents)
    针对过程繁杂的子任务。把某些步骤繁多、中间过程冗长的工作交给独立的子Agent去完成,子Agent在其自己的上下文中处理细节,最终只把精简结果返回主Agent,从而避免中间过程污染主上下文。

  5. 长期记忆(Long-term Memory)
    针对值得跨会话复用的信息。将需要长期保留的内容以普通文件的形式保存在用户可控的存储中,供后续会话再次取用。由于记忆与具体模型解耦,更换模型或模型提供商时,这些积累依然可以继续使用。

这五种机制共享同一个设计原则:系统整体可以保存很多内容,但模型在任一时刻只“看”到当前任务需要的那部分。

四、工作原理:两个方向与一次完整流程

从实现逻辑上看,上下文工程的所有手段可以归为两个基本方向:

方向一:阻止不必要的信息进入上下文窗口。典型手段是卸载和技能按需加载——大工具结果先落文件、只给预览,完整技能文档只在需要时加载。这相当于在信息“进门”之前先做一次筛选。

方向二:管理和过滤已经进入上下文窗口的信息。典型手段是摘要和历史压缩——把早期消息压缩成摘要,保留近期消息继续执行。这相当于对已经“进门”的内容做定期整理。

在每轮模型调用前后,外围程序都会围绕这两个方向执行一次“整理循环”:先决定把哪些已有信息压缩或归档,再决定本轮把哪些内容组织进上下文,然后调用模型获得下一步动作,执行工具并把结果按策略保存或摘要,随后进入下一轮。可以示意为如下伪代码:

  1. loop:
  2. 整理历史:压缩早期消息为摘要,归档大结果到文件
  3. 组装上下文 = 系统提示 + 必要技能 + 相关摘要 + 近期消息 + 任务状态
  4. action = 模型推理(上下文)
  5. 结果 = 执行工具(action)
  6. 若结果过大: 保存到文件,仅在上下文中放入预览
  7. 否则: 追加到近期消息
  8. 若任务完成: 返回

需要强调的是,上下文工程不能只靠一段精心设计的系统提示词实现。真正的效果来自外围程序在每一轮调用前后持续、动态的信息治理。

五、典型场景

上下文工程的设计,尤其适合以下几类长时间、多步骤、信息密集的Agent应用:

  • 需要连续调用大量工具、处理成批文件的自动化流程,例如批量数据处理、日志分析与运维排障;
  • 需要跨多个步骤维护任务状态的研究型或规划型Agent;
  • 需要在多次会话之间延续上下文、逐步积累成果的知识型应用;
  • 在云端构建的Agent服务中,可结合对象存储、消息队列、日志服务、监控告警等通用云产品能力,来承载记忆文件、结果归档与运行观测,从而提升系统的可靠性。

对于百度智能云上的开发者而言,这类设计思路可与通用云产品类目配合使用,构建可长期运行、可观测、可扩展的智能体系统。

六、与相关概念的区别

容易与上下文工程混淆的,主要有三个概念:

  • 提示工程(Prompt Engineering):侧重单次请求中输入的措辞与结构优化,是静态的;上下文工程是贯穿任务全生命周期的动态信息管理,范围更大。
  • 上下文窗口(Context Window):这是模型的容量边界,是一个客观限制;上下文工程是应对这一限制的方法论和工程手段,二者是“问题”与“对策”的关系。
  • 检索增强(RAG):常被视为上下文工程的一种具体手段(把外部知识按需引入上下文),但上下文工程涵盖的远不止检索,还包括摘要、卸载、子任务分解与长期记忆等更广泛的策略。

七、使用注意事项

在实践中引入上下文工程,需要关注以下几点:

  • 摘要的信息损失需要权衡。压缩能显著控制长度,但过度压缩可能丢失关键细节,应根据任务重要性设计摘要粒度。
  • 记忆存储的安全与权限。长期记忆涉及用户数据,应做好访问控制、加密与生命周期管理,避免敏感信息泄露。
  • 子Agent的结果收敛。子Agent必须只回传精简、结构化的结论,否则仍可能把中间噪声带回主上下文。
  • 可观测性。应记录每轮上下文的变化、压缩与取回行为,便于定位“为什么模型漏掉了某个信息”这类问题。
  • 避免过度工程。并非所有Agent都需要全部五种机制,短任务强行引入完整harness反而增加复杂度,应按任务时长与信息密度选择合适组合。

八、总结

回到最初的问题:Agent目前最大的瓶颈,很大程度上是上下文工程,而非单纯的模型能力。上下文腐化决定了长任务能否稳定运行,而上下文工程通过“阻止无关信息进入”和“管理已进入的信息”两个方向,配合卸载、摘要、技能按需加载、子Agent和长期记忆等机制,让模型在持续运行中始终聚焦当前任务真正需要的信息。理解并善用这套方法,是构建可靠、高效、可维护的长任务智能体的关键。它并非万能,也不适用于所有场景,但为长时间运行的Agent提供了一条清晰、可落地的工程路径。

发表评论

活动