logo

编程中三类上下文如何选型

作者:半吊子全栈工匠2026.11.16 11:03浏览量:1

简介:本文从可变性与生命周期两个维度,对比静态运行时上下文、动态运行时上下文与跨会话持久上下文的定义、相同点、架构差异、接入成本与适用边界,帮助开发者在智能应用编排中正确注入依赖、管理状态并控制提示规模,避免把运行时依赖与模型提示窗口混为一谈。

在智能应用与工作流编排中,“上下文”常被混用:有人把它理解成传给模型的提示文本,有人把它理解成单次调用里的依赖注入,还有人把它理解成跨会话可复用的记忆。若不先划清边界,很容易把数据库连接、用户标识硬编码进节点,或把本应隔离的会话数据塞进提示窗口,导致权限泄漏、token 膨胀和状态错乱。本文围绕原始问题“编程中什么是上下文”,将常见实践抽象为三类管理方式进行对比,说明它们解决什么问题、何处相同、何处不同,以及如何按场景选型。

对比背景:为何必须拆开三类上下文

智能应用要完成任务,通常需要同时具备三类信息:启动时确定的依赖(用户元数据、连接、工具定义)、单次运行中不断变化的中间结果(对话轮次、工具观察、分支状态),以及跨多次对话仍需保留的偏好与长期记忆。行业常见的图编排或状态机方案,会把“运行时上下文”定义为代码执行所需的数据和依赖,明确它不是模型提示内容,也不是“上下文窗口”这一 token 上限概念。运行时上下文本质是依赖注入:在调用入口把依赖交给节点与工具,再按需把其中一部分提炼进提示,从而优化模型可见信息,而不是把所有依赖原样塞进窗口。

因此,对比的对象不是某家产品,而是三种按“可变性 × 生命周期”划分的通用能力:静态运行时上下文、动态运行时上下文(状态)、动态跨对话上下文(存储)。

对象定义

静态运行时上下文:执行开始时通过调用参数一次性注入、运行期间不可变的数据,例如用户标识、租户信息、数据库或 API 客户端、工具清单。它的作用域通常是单次 invoke/stream。

动态运行时上下文:单次运行内会演变的可变数据,通常建模为图或工作流的状态对象,包括对话历史、中间计算结果、工具调用观察、当前节点产出。一次运行结束后,默认不自动带到下一次独立调用。

动态跨对话上下文:跨多次会话持久存在的可变数据,例如用户偏好、长期记忆、知识片段。需要显式读写存储,并自行处理隔离、过期与一致性。

补充对照:模型提示上下文是最终拼进提示的文本与结构化片段;上下文窗口是模型可接受的最大 token 规模。运行时三类上下文都可以“优化”提示,但本身不是提示,也不是窗口大小。

相同点

三者都服务于“把正确信息、以正确格式、在正确时机交给执行单元”。它们都可以作为依赖或数据源,被节点、工具读取;都可以间接影响提示质量;都需要考虑权限边界,避免把密钥或他人数据暴露给模型。在工程上,三者往往组合使用:静态依赖提供连接,动态状态承载本轮推理,存储提供跨轮记忆,再由编排层决定哪些字段进入提示。

核心差异

从架构看,静态上下文靠近调用边界,类似请求级依赖注入,无内部写回;动态状态是图内共享的可变快照,随边执行而更新;跨会话存储则跨越进程与时间,依赖外部持久化与键空间设计。

从功能看,静态上下文适合不可变配置与客户端;动态状态适合本轮控制流与观察结果;存储适合长期偏好与记忆检索。把可变对话历史塞进“静态 context 参数”会破坏不可变假设;把数据库连接放进可序列化状态,则可能带来序列化失败与连接泄漏。

从接入看,静态上下文改动面最小,只需在入口传入;动态状态需要定义 schema、reducer 与节点读写约定;存储需要设计命名空间、TTL、并发写入与检索策略,改造量和运维成本更高。

从安全与合规看,静态上下文应只含当前调用主体有权使用的依赖;动态状态要防止敏感字段被日志全量打印;跨会话存储必须按用户/租户隔离,并控制哪些记忆允许进入提示。

从性能与成本看,静态数据体量小、无热点写入;动态状态影响单次运行内存与检查点体积;存储影响读写延迟与容量规划。提示窗口成本由“最终送入模型的切片”决定,与三类上下文是否存在无必然等式,但错误地把全量状态或全量记忆拼进提示,会显著推高 token 消耗。

对比表格

| 维度 | 静态运行时上下文 | 动态运行时上下文(状态) | 动态跨对话上下文(存储) |
| 可变性 | 不可变 | 可变 | 可变 |
| 生命周期 | 单次运行 | 单次运行 | 跨对话/跨会话 |
| 典型内容 | 用户元数据、连接、工具定义 | 对话历史、中间结果、工具观察 | 偏好、长期记忆、共享知识 |
| 访问方式 | 调用入口的 context 参数 | 状态对象读写 | 按键读写持久层 |
| 与模型提示关系 | 可提炼进窗口,本身不是提示 | 常是提示的主要来源 | 按需检索后进入提示 |
| 主要风险 | 硬编码依赖、权限过大 | 状态膨胀、序列化失败 | 隔离不足、记忆污染 |
| 改造成本 | 低 | 中 | 高 |

典型场景如何选择

短任务、无多轮记忆、依赖在启动时即可确定(如按用户 ID 读取偏好再写入提示):优先静态运行时上下文,配合一次性查询,不必上存储。

单次会话内多步工具调用、分支与回退:必须用动态状态,把观察结果写回状态,而不是改写静态 context。

需要跨天记住偏好、或同一用户多会话共享画像:引入跨会话存储,按主体隔离,检索后再注入本轮状态或提示。运维能力有限时,可先做“读多写少”的偏好表,而不是通用记忆库。

团队若混淆“运行时上下文”与“上下文窗口”,常见后果是把连接串、全量日志送进模型。正确做法是:运行时持有依赖,提示只放任务所需的最小切片。

选型建议与注意事项

按数据是否在运行中变化、是否需要跨调用存活来选型,而不是按“听起来像上下文”一股脑塞进同一对象。静态数据不要放进可变状态;连接类对象不要进入需要检查点/序列化的结构;跨会话数据必须带主体键与过期策略。迁移时重点检查:原硬编码依赖是否改为入口注入;状态 schema 是否可演进;存储键是否会串租户;提示组装层是否对三类来源做白名单字段过滤。

总结

编程中的上下文,至少应拆成静态运行时依赖、单次运行可变状态、跨会话持久数据,并与模型提示、token 窗口严格区分。三者目标都是让应用“带对信息做事”,但可变性、寿命、访问方式和风险完全不同。先定生命周期与可变性,再决定注入点、状态模型和存储键,才能在智能应用中既完成任务,又控制复杂度与合规边界。

发表评论

活动