logo

Agent开发:全量上下文管理与选择性工程对比

作者:渣渣辉2026.11.16 11:03浏览量:0

简介:本文对比 Agent 开发中的两类上下文管理思路——被动式全量存储与主动式选择性上下文工程。围绕技术架构、检索策略、token 利用、记忆机制、运维成本等维度剖析二者差异,帮助开发者理解各自适用边界,并给出条件化选型建议与迁移注意事项,快速判断哪种上下文方案更适合自身业务场景。

agent-">一、对比背景:为什么上下文管理会成为 Agent 效果的关键变量

构建一个 Agent,核心无非三块:模型、工具、编排。但在真实项目中,这三块往往是”可替换的成熟组件”,而不是决定成败的地方。

  • 模型层面:主流可选的大模型方案并不多,团队基本集中在使用少数几个通用大模型上;微调(finetune)需求并不普遍,多数场景把检索增强生成(RAG)做扎实就够了。问题在于,很多 RAG 设计还停留在”能检索”而非”检索得准”的阶段。
  • 工具层面:工具通常围绕业务需求触发开发,多数是公司内部已经沉淀的接口封装,属于按需接入的固定项。
  • 编排层面:主流方案无外乎两类——链式调用(线性/顺序执行)与有向无环图编排(复杂分支与并行),也都是业内成熟模式。

这三块在同类项目中差异有限,更接近”固定因子”。真正拉开 Agent 效果差距的变量因子,是上下文工程(Context Engineering):模型在每一步究竟”看到什么”,直接决定了它的判断质量。

于是问题变成了:既然都叫上下文管理,那么“把能塞的都塞进去”和”精准地只给模型该看的”,到底有什么区别?本文就围绕这两类上下文管理方案展开对比。

二、对象定义:两种上下文管理方案是什么

方案 A:被动式全量上下文管理

其典型做法是”记录即上下文”:把用户与模型的完整对话、检索到的所有片段,尽量原样拼进 prompt 交给模型。它解决的是最基础的问题——让模型”记得发生过什么”。

  • 短期记忆:把当前会话历史直接拼进 prompt;
  • 长期记忆:把历史落盘到数据库或文件介质,下次进来再读出来塞回上下文。

优点是接入极简、几乎零额外设计成本;缺点是随着轮次和检索内容增长,上下文会迅速膨胀且缺乏取舍。

方案 B:主动式选择性上下文工程

它在”记录”之上增加了选择与压缩的一层,把上下文构建当成一项”特征工程”来做:

  • 只保留与当前任务相关的信息(特征选择);
  • 对冗长历史做摘要/剪枝,而不是全量回灌;
  • 区分短期与长期记忆,按需召回而非一股脑索引;
  • 对结构化与非结构化数据分别处理,避免互相污染。

它的核心思想可概括为一句话:选择性上下文剪枝 ≈ 特征选择。目标是让模型在有限 token 预算内,始终看到”信息密度最高”的那部分。

三、相同点:二者本质上都是”喂给模型什么”

尽管思路不同,两种方案在底层逻辑上有共同目标,也共享一些基础能力:

  1. 目标一致:都是为了让模型在多轮、多任务交互中保持连贯、可用的信息支撑,减少”失忆”和”跑题”。
  2. 都受 token 上限约束:即便上下文窗口已支持到百万级 token,随着对话轮次与检索内容累积,仍有超限风险,二者都必须面对”窗口管理”这一共同难题。
  3. 都依赖记忆分层理念:短期记忆(会话内)与长期记忆(跨会话)的区分,是两者共同承认的基础框架。
  4. 都与检索质量强相关:无论是全量还是选择性,底层都建立在检索增强之上,检索召回的相关性直接决定上限。

也就是说,差异不在于”要不要管理上下文”,而在于如何决定上下文里到底放什么。

四、核心差异:从架构到运维的多维剖析

1. 架构与数据流

  • 方案 A:数据流接近”旁路拼接”——会话记录 + 检索结果 → 直接拼接 prompt。链路短、组件少。
  • 方案 B:数据流多了一层”上下文组装器”,负责检索、排序、剪枝、摘要、结构化/非结构化分离。系统边界更清晰,但组件更多。

2. 上下文取舍策略(最关键的差异)

方案 A 的核心风险正是 Agent 常见的失败模式:

索引过多 → 检索到过多信息 → 模型无法判断重点 → 产生混淆

反过来,索引过少又会让模型缺乏有效信号,同样答非所问。方案 A 天然处于”要么全给、要么不给”的两难,很难命中中间的甜点区。方案 B 则通过相关性排序与剪枝,主动把上下文调到”信号足、噪声低”的区间。

此外,混合结构化与非结构化数据(例如把表格、代码、自然语言混在一起随意拼接)会破坏嵌入表示或稀释关键结构,方案 B 通常会对其做分离处理,而方案 A 往往直接混装。

3. Token 利用效率

  • 方案 A:token 消耗随历史线性增长,容易在长会话中触顶,且大量 token 花在低相关信息上,性价比低。
  • 方案 B:通过摘要压缩与选择性召回,在同等窗口下保留更多有效信息,token 利用率更高。

4. 效果稳定性

方案 A 的效果对输入高度敏感——同一问题在不同检索命中下可能表现差异很大。方案 B 通过稳定的上下文构建逻辑,降低了这种波动,行为更可预期。

5. 接入与开发成本

  • 方案 A:几乎零额外开发,适合快速验证与轻量场景。
  • 方案 B:需要额外的组装、剪枝、摘要与评估逻辑,前期投入更高,但换来的是可控性与可扩展性。

6. 运维与成本结构

  • 方案 A 的隐性成本在”模型侧”:上下文越臃肿,推理成本越高、延迟越大。
  • 方案 B 的显性成本在”工程侧”:更多组件需要监控、告警与调优,但推理侧成本更可控。两者的成本只是从”模型账单”转移到了”工程投入”。

五、对比表格

维度 方案 A:被动式全量上下文 方案 B:主动式选择性上下文工程
上下文取舍 全量拼接,基本不取舍 相关性排序 + 剪枝 + 摘要
token 利用 随历史线性膨胀,易触顶 高密度保留有效信息,利用率高
效果稳定性 对检索命中敏感,波动大 构建逻辑稳定,行为可预期
记忆机制 会话记录 + 落盘回灌 分层记忆 + 按需召回
结构化/非结构化 常直接混装 分离处理,避免污染
接入成本 极低,快速上线 需额外工程投入
主要成本来源 推理侧(token/延迟) 工程侧(组件/调优/运维)
适用阶段 原型验证、短会话 长会话、生产级 Agent

六、典型场景选择

  • 优先方案 A 的场景:早期原型验证、单轮或短轮次问答、检索命中已经足够精准的简单任务。这类场景追求”快速跑通”,上下文复杂度不是主要矛盾。
  • 优先方案 B 的场景:长周期多轮对话、需要跨会话记忆的助手、工具调用链较长、检索内容体量大且噪声多的生产系统。这类场景对稳定性和可控性要求高,上下文取舍直接决定成败。

需要强调的是,二者并非互斥。实践中常见的是渐进式演进:先用方案 A 打通链路,随着会话变长、效果出现退化,再逐步引入方案 B 的剪枝、摘要与分层召回。

七、选型建议(条件化)

  1. 若团队处于验证阶段、会话较短、检索质量已经可控,可先用方案 A 降低复杂度。
  2. 当出现”token 频繁逼近上限””模型答非所问””检索越全越乱”等信号时,应转向方案 B,重点补上层叠剪枝与摘要能力。
  3. 无论选哪种,都应先审视检索的相关性——检索不准,任何上下文策略都是事倍功半。
  4. 若团队运维能力有限,可优先借助云平台上通用的托管化能力(如对象存储、数据库、消息队列、日志服务、监控告警等)来承载记忆存储与上下文组件,减少自建负担;若团队工程能力强、追求极致可控,则可自建上下文组装层。

八、迁移与使用注意事项

从方案 A 迁移到方案 B 时,需重点关注:

  • 数据兼容:历史记录、摘要与召回数据要有清晰的 schema,结构化与非结构化内容分表或分桶存储。
  • 接口改造:在 prompt 组装前插入一层”上下文组装器”,其输入输出需与原有链路解耦,便于回滚。
  • 权限与隔离:跨会话记忆涉及用户数据边界,需做好身份认证、数据隔离与访问控制,避免串用他人上下文。
  • 效果评估:上线前用固定的评测集对比两种方案的召回质量与最终答案正确率,用数据而非感觉做决策。
  • 稳定性与回退:新组件(剪枝、摘要)需有降级开关,异常时能回退到全量拼接,避免单点故障影响主链路。

一段示意性的上下文组装伪代码如下(通用示例,不涉及任何具体工具):

  1. def build_context(query, history, retrieved):
  2. # 1. 按相关性对检索结果排序
  3. ranked = rank_by_relevance(retrieved, query)
  4. # 2. 控制 token 预算,剪枝低相关信息
  5. selected = fit_token_budget(ranked, budget=MAX_TOKENS)
  6. # 3. 长历史做摘要,而非全量回灌
  7. compressed_history = summarize(history)
  8. # 4. 结构化与非结构化内容分别组装
  9. structured = [x for x in selected if x.is_structured]
  10. unstructured = [x for x in selected if not x.is_structured]
  11. return assemble(query, compressed_history, structured, unstructured)

九、总结

Agent 的模型、工具、编排大多是成熟且可替换的固定因子,真正决定效果的变量是上下文工程。围绕它,形成了两种典型思路:被动式全量上下文管理接入极简、适合快速验证,但容易因信息过载而让模型混淆;主动式选择性上下文工程通过特征选择、剪枝与分层召回,把”信号足、噪声低”作为目标,换来更稳定的效果与更高的 token 利用率,代价是更高的工程投入。

选择的关键不在于”哪个绝对更好”,而在于会话长度、检索噪声、效果稳定性要求与团队工程能力。短会话、原型阶段可从全量入手;长会话、生产级 Agent 则应尽早引入选择性上下文工程,并始终以检索相关性为地基。理解这条演进路径,才能在模型、工具、编排趋同的前提下,把上下文这一决定性变量真正管好。

发表评论

活动