RAG三阶段对比:固定管道到上下文工程
作者:梅琳marlin2026.11.16 10:52浏览量:0简介:本文对比基础RAG、代理式RAG与上下文工程三类架构,从检索机制、上下文组装、数据源与选型边界梳理差异,帮助技术负责人判断何时采用固定管道、何时引入工具调用与多源编排。
检索增强生成正从“按固定步骤查库再拼提示”转向“由模型自主决定检索时机、工具组合与上下文装配”。本文对比的对象是三类递进方案:基础RAG(固定检索管道)、代理式RAG(动态工具调用)以及上下文工程(多工具、多源的智能编排)。三者都服务于同一目标——在有限上下文窗口内为生成提供更相关、更可控的外部信息——但在控制权归属、数据边界和运维复杂度上差异显著。理解这些差异,才能避免在简单问答场景上过度工程化,或在复杂知识任务上仍沿用死板查库。
对比背景
早期落地普遍采用“用户问题 → 向量检索 → 拼接文档 → 生成”的线性管道。该模式实现成本低、行为可预测,但面对多跳推理、异构数据、需要实时外部信息或长期记忆时,固定一次检索往往不够。于是出现由模型决定是否调用检索、调用何种检索的代理式方案;再进一步,检索只是众多上下文来源之一,文件、网络、库表、命令执行结果与记忆被统一编排。对比这三类方案,本质是对比“规则写死流程”与“模型在约束下自主组上下文”的权衡。
对象定义
基础RAG:硬编码管道。用户提问后强制执行语义检索(可理解为一次或固定若干次 similarity 查询),检索源通常是单一向量库或单一文档集合。大模型被动接收检索片段,上下文窗口主要由系统提示、用户消息和检索文档构成。解决的是“知识不在权重里、需要外挂语料”的问题,灵活性最低。
代理式RAG:引入工具调用。模型不再被绑死在单一 semantic_search 路径上,而是根据当前问题决定是否检索、用什么查询改写、是否二次检索。上下文开始包含技能/工具描述、可用工具列表、对话历史以及工具返回结果。解决的是“检索策略应随问题变化”的问题,从被动接结果变为主动调工具。
上下文工程:把检索视为上下文装配的一种手段而非全部。模型可协同使用文件检索、网络检索、结构化查询、命令执行、长期记忆等多种能力,将本地文件、外部资源、历史状态与系统技能融合进同一轮生成。解决的是“答案依赖多源异构证据与过程性信息”的问题,强调编排而非单次召回。
相同点
三者都承认纯参数记忆不足以覆盖私有、实时或长尾知识;都需要在提示侧注入外部证据;都受上下文窗口长度、噪声文档和权限边界约束;都要把检索质量与生成对齐(相关性、时效、引用可追溯)。工程上也都依赖分块、嵌入、过滤、重排序等通用环节,只是这些环节由谁触发、触发几次不同。
核心差异
从控制流看,基础RAG是确定性流水线:入口固定、步骤固定、失败路径也多半固定。代理式RAG把“何时检索、检索什么”交给模型,系统提供工具契约与结果回填。上下文工程进一步把多种工具的结果、记忆切片、技能说明当作可组合材料,由模型(或编排层)决定本轮需要哪些片段、何种顺序、如何压缩。
从数据边界看,基础方案通常绑定单一库;代理式可在同一类检索工具上多次调用或切换查询;上下文工程刻意打破单库,允许文件、库、网络与记忆并存,同时带来来源冲突、权限穿透和污染风险。
从上下文构成看,基础方案窗口内容简单、可审计;代理式增加工具模式与执行轨迹,调试要看调用链;上下文工程窗口是动态拼装产物,需要明确优先级、截断策略和引用规范,否则模型会被过长或矛盾的上下文带偏。
从运维与安全看,固定管道易做缓存、限流、评测集回归;代理增加循环次数与不确定延迟;全域编排还要管工具沙箱、命令副作用、跨源脱敏与审计日志。成本上,基础方案以检索次数和嵌入量为主;后两者额外消耗推理轮次与工具执行资源,需设最大步数与超时。
架构上,基础RAG边界清晰:检索服务 + 生成服务。代理式要增加工具注册、参数校验、结果规范化。上下文工程需要上下文预算管理(按token配额分配记忆/检索/工具输出)、来源标注和冲突消解策略,系统边界从“检完再生成”变成“边规划边取证边生成”。
对比表格
| 维度 | 基础RAG(固定管道) | 代理式RAG(动态工具) | 上下文工程(全域编排) |
| 检索触发 | 每次请求强制检索 | 模型决定是否及如何检索 | 多工具按需组合,检索只是来源之一 |
| 数据源 | 多为单一向量/文档库 | 仍以检索类工具为主,可多次调用 | 文件、网络、库表、命令结果、长期记忆等 |
| 上下文内容 | 系统提示+用户消息+检索片段 | 增加工具列表、调用结果、部分记忆 | 技能配置、多源证据、历史与执行轨迹的受控组装 |
| 控制权 | 规则/流水线 | 模型+工具契约 | 模型作为中枢+编排与预算约束 |
| 可预测性 | 高 | 中 | 相对低,依赖约束设计 |
| 实现与运维 | 简单,易评测 | 中等,需防循环与错误工具参数 | 复杂,需沙箱、审计、截断与冲突策略 |
| 典型短板 | 一次检索不够、无法多跳 | 工具滥用、延迟抖动 | 上下文过载、来源冲突、安全面扩大 |
典型场景选择
知识库问答、FAQ、制度条文且语料结构稳定、延迟敏感:固定管道通常足够,可用重排序和过滤提升精度,不必上代理。
问题需要查询改写、多轮澄清、或“先检索再根据缺口补检”:代理式RAG更合适,把检索做成可调用工具并限制最大步数。
任务依赖本地文档+结构化库+偶发外部信息+会话级记忆,例如复杂分析、运维辅助、跨系统核对:才需要上下文工程级编排,并配套权限与引用。
团队评测能力弱、必须强审计时,优先固定管道或“代理但工具白名单极窄”。数据强隔离、禁止任意命令执行时,不要把高权限执行类工具纳入编排。
选型建议
以问题复杂度与数据异构程度为轴:单源、单跳、高QPS选固定管道;策略多变但源仍以语义检索为主选代理式;多源、过程性证据、需要技能与记忆协同再上上下文工程。用条件化判断:运维人力有限时提高托管化与约束强度,而不是直接上全域工具;合规要求高时把网络检索与命令执行设为默认关闭。不要假设后一阶段必然优于前一阶段——多一轮工具调用会放大延迟和费用,且错误上下文比少检索更伤生成质量。
迁移与注意事项
从固定管道迁到代理:先把原 semantic 检索封装为唯一工具,保持同一索引与权限模型,增加步数上限、空结果处理、查询改写白名单。评测要从“单次召回指标”扩展到“任务成功率与平均调用次数”。
再迁到上下文工程:为每种来源定义schema、可信度与引用格式;实现上下文预算(例如检索片段、记忆、工具输出的token上限);禁止未审计的命令执行;对多源结论做显式冲突提示而非静默拼接。接口上保持“生成仍走同一对话入口”,内部才分编排,降低业务改造面。稳定性上要熔断:工具超时回退为仅用已有片段生成,避免整链失败。
示意性流程(非特定产品接口):
固定:query → retrieve(index, q) → generate(prompt, docs)
代理:generate 循环中 if need_search then tool_search(args) → 回填 → 再生成
编排:plan → 并行或串行 fetch(file/web/db/memory) → budget_truncate → generate_with_citations
总结
三类方案的共同点是用外部信息补模型知识;核心差异是检索与上下文由流水线规定还是由模型在约束下组装,以及数据是否从单库扩展到异构多源。选型应按任务跳数、源种类、延迟与合规收紧或放宽自主度:能固定则固定,需要策略再给工具,需要全域证据再做上下文工程,并始终用预算、审计和回退守住质量与安全边界。

登录后可评论,请前往 登录 或 注册