长任务Agent上下文策略:全量累积与分层卸载对比
作者:很酷cat2026.11.16 11:06浏览量:0简介:本文对比长任务Agent的两种上下文处理方式:把全部历史和工具输出持续累积在窗口中的全量方案,与通过卸载、摘要、按需加载、子Agent和长期记忆分层管理的方案。文章从架构、准确性、接入与运维成本等维度说明差异,并给出按任务长度、工具输出规模和团队能力选择的判断思路,帮助读者确定适合自己的方案。
本文比较的是长任务Agent处理上下文的两种方式。第一种是全量累积方案:Agent每轮把指令、工具返回的全部结果、文件内容和对话历史原样追加到同一个上下文窗口中,由模型自行筛选。第二种是分层卸载方案:在模型外围增加一层运行时控制程序(下称harness),通过卸载大体积结果、压缩历史、按需加载专业说明、拆分子任务和保存长期记忆,只把当前一步需要的信息交给模型。两者都能完成任务,差异主要在任务变长之后显现。
一、对比背景
Agent执行复杂任务时,要不断接收用户指令、工具返回值、检索到的文档和自己的推理记录。短任务中这些内容很少,全量累积通常没有明显问题。任务变长后,同一窗口里会堆积大量旧材料,其中很多对当前步骤已经无用。
这里需要区分两种情况。token数超过模型的硬上限时,请求会直接失败,问题显而易见。token数远未到上限时,模型仍可能给出偏差的答案,因为相关信息被大量无关内容稀释。业界常把这种现象称为上下文腐化(context rot)。因此,选择上下文策略时,不能只看窗口能容纳多少内容,还要看内容的相关密度。
二、对象定义
全量累积方案:所有中间结果都进入主上下文,不做外部存储和压缩。实现简单,模型能直接看到全部历史,适合步骤少、单次工具输出小的任务。
分层卸载方案:把上下文拆成几个层次,每层有不同的管理方式。
- 卸载:大体积工具结果写入文件或外部存储,窗口中只保留预览,需要时再读取。
- 压缩摘要:较早的对话历史被压缩成摘要,近期消息保留原文。
- 按需加载:专业操作说明或领域规则只在相关步骤加载。
- 子Agent隔离:过程繁杂的子任务交给独立的执行单元,只把结论返回主Agent。
- 长期记忆:跨会话仍有价值的信息保存到普通文件或数据库,由用户控制存储位置。
这五种机制各解决一类问题。卸载解决单次结果过大,压缩解决历史累积,按需加载解决常驻说明过多,子Agent解决过程噪声,长期记忆解决跨会话复用。
三、相同点分析
两种方案有几处共同基础。
- 目标一致:都要让模型在有限窗口内拿到完成任务所需的信息。
- 推理依赖同一个模型:模型负责推理并决定下一步动作,两种方案都不改变模型本身的能力边界。
- 都依赖工具调用流程:Agent通过工具获取外部信息,并把结果写回上下文或存储。
- 适用场景有交集:多步骤任务、代码辅助、文档分析和数据处理都可能用到两者。
差异在于由谁决定哪些内容进入窗口。全量累积交给模型在每轮自行判断,分层卸载则由harness在每轮调用前完成整理。
四、核心差异分析
4.1 技术架构
全量累积的系统边界很简单,即模型加一个消息列表。分层卸载需要额外组件:文件或对象存储用于保存大结果,摘要模块用于压缩历史,技能加载器用于按需注入说明,子Agent调度器用于隔离任务,长期记忆层用于跨会话检索。资源压力也不同。全量方案的压力集中在窗口长度上,分层方案把压力分散到存储、检索和调度中。
4.2 功能能力
全量累积保留完整原始信息,模型可以直接引用任意一条旧结果。分层卸载依赖检索和摘要的质量。如果摘要丢掉了关键约束,或检索没有找回正确文件,模型就无法恢复该信息。因此,分层方案的功能上限取决于存取机制的设计质量。
4.3 准确性与上下文腐化
任务较短时,全量方案的准确性通常更稳定,因为没有信息丢失。任务变长后,无关历史和噪声占比上升,相关信息更难被模型注意到。分层方案通过减少窗口内的无关内容,降低了这一风险,但引入了压缩损失和检索遗漏两类新风险。两者的准确性差异取决于任务长度、工具输出大小和摘要质量,具体数值需要通过自己的任务集测量。
4.4 接入方式
全量方案接入成本低,几行消息管理代码即可运行。分层方案需要定义卸载规则(何时落盘、保留多少预览)、摘要触发条件(按轮数还是按token占比)、技能目录结构、子Agent的输入输出格式,以及记忆的读写接口。这些都会增加开发改造量。下面是一段通用伪代码,用于说明harness每轮的处理逻辑,其中的函数均为示意,并非某个具体框架的接口:
```python
def run_step(state, model, tools, storage):
# 1. 大结果落盘,只把预览放入上下文for result in state.pending_results:if len(result.text) > PREVIEW_LIMIT:path = storage.save(result.text)result.text = make_preview(result.text) + f"\n[完整内容: {path}]"# 2. 历史

登录后可评论,请前往 登录 或 注册