logo

Agent Infra与传统基础设施对比解析

作者:渣渣辉2026.11.16 11:08浏览量:0

简介:本文对比Agent Infra与传统应用基础设施在环境、上下文、工具、安全和模型层面的差异,梳理两者的共同基础与核心区别,并从适用场景、接入成本、运维复杂度和迁移风险等角度给出选型思路,帮助技术负责人判断哪些能力可以复用,哪些需要单独建设。

对比背景

越来越多团队让大模型执行任务,而不只是生成文本。能查资料、写代码、调用业务接口的智能体(Agent),需要运行环境、记忆、工具、安全边界和推理能力共同支撑。Agent Infra 指的就是支撑智能体运行的这一整套基础设施层。

团队在规划时通常会问三个问题:Agent Infra 与已有的后端基础设施是什么关系?现有能力能否直接复用?哪些部分必须重新设计?本文围绕这些问题展开对比。

对象定义

本文对比两类对象。

Agent Infra可拆分为五个组成部分,可以用工作间、记忆、手脚、围栏和电力来理解:

  • 环境(Environment):智能体执行动作的工作空间,包括文件系统、进程、浏览器会话和临时沙箱等,负责隔离与生命周期管理。
  • 上下文(Context):智能体的记忆系统,覆盖当前会话状态、历史摘要和长期知识检索。
  • 工具(Tools):智能体调用外部系统的能力,包括接口注册、参数校验、权限绑定和结果回传。
  • 安全(Security):围绕身份认证、权限控制、操作审计、输入输出过滤和提示注入防护构建的边界。
  • 大模型(LLM):提供理解与决策能力的模型服务,直接影响智能体的效果与成本结构。

传统应用基础设施支撑确定性业务系统的运行,典型组件包括计算资源(虚拟机、容器)、存储、网络与负载均衡、数据库、消息队列、日志与监控、身份认证以及持续交付流水线。

相同点分析

两者在底层有大量共通之处。

  1. 资源底座相同:Agent 的环境仍然运行在容器或虚拟机上,依赖计算、存储和网络资源。
  2. 工程目标相同:两者都需要隔离、可观测、弹性伸缩和访问控制。
  3. 组件复用空间大:上下文的长期记忆通常依托数据库或检索类存储;工具调用的目标仍是普通的业务接口。
  4. 运维方法相通:告警、容量规划、版本灰度和故障恢复等经验,大多可以直接迁移。

因此,Agent Infra 更适合被理解为传统基础设施之上的一层能力,而不是另起炉灶的独立体系。

核心差异分析

1. 执行路径的确定性

传统系统的代码路径预先写死,相同输入通常产生可预期的输出。智能体则由模型根据上下文决定下一步调用哪个工具,执行路径在运行时生成。

这一差异带来两个直接影响。第一,测试难以依赖单次断言,通常需要多次采样并对执行轨迹做评估。第二,超时、重试和回滚策略需要按步骤设计,而不能只在接口层面统一配置。

2. 权限的粒度

传统系统的权限多绑定到服务账号或角色,粒度一般在接口级别。智能体在一次任务中可能调用多个工具,且参数由模型生成,因此需要在单次调用层面做校验,包括参数范围、目标资源和操作类型。

安全组件与工具组件必须紧密配合。如果只在账号层面授权,智能体一旦被诱导发起越权请求,就缺少拦截点。

3. 状态与上下文

传统系统的状态主要存放在数据库和缓存中,由业务代码显式读写。智能体的上下文本身就是输入,既有长度上限,也按量计费。团队需要决定哪些历史保留、哪些压缩、哪些写入长期记忆。上下文管理的质量会直接影响回答准确率和 token 消耗。

4. 成本结构

传统基础设施的成本主要来自计算、存储和流量等资源用量,通常可以通过容量规划和缓存降低。智能体新增了模型推理的 token 消耗,单次任务成本与任务复杂度和对话长度相关,波动较大。因此需要设置预算上限,并对用量做细粒度监控。

5. 性能与延迟

传统系统的延迟多来自网络和数据库查询,可以通过缓存和扩容优化。智能体的端到端延迟叠加了模型推理耗时与多轮工具调用,整体更长,也更不稳定。吞吐设计需要考虑并发会话数、沙箱启动耗时以及模型服务的限流情况。具体数值应以团队自身的压测结果为准。

6. 可观测性

传统系统以请求指标、日志和链路追踪为主。智能体还需要记录每一步的模型输入输出、工具调用参数与返回结果,以及当时使用的上下文版本。只有保留完整轨迹,才能复盘一次失败的任务。

7. 接入与改造成本

传统系统的业务代码直接调用接口。接入智能体时,需要把接口描述成模型可以理解的工具定义,补充用途说明、参数约束和错误语义。改造工作主要集中在工具描述和上下文组织两处,而不是重写业务逻辑。

对比表格

维度 传统应用基础设施 Agent Infra
执行路径 预先编写,结果可预期 运行时由模型决定,需轨迹评估
权限粒度 服务账号或角色,接口级 单次工具调用级,需参数校验
状态管理 数据库与缓存,显式读写 上下文窗口与长期记忆,需压缩和取舍
成本来源 计算、存储、流量 增加 token 消耗,单任务波动大
延迟特征 网络与数据库为主 模型推理与多轮调用叠加
可观测重点 指标、日志、链路追踪 增加推理输入输出与工具调用记录
隔离需求 进程、容器、网络隔离 在此基础上增加执行环境的文件与会话隔离
接入改造 直接调用接口 需要工具描述与上下文设计

示意代码

下面的伪代码展示工具调用网关的基本流程。它不依赖特定平台,只用于说明权限校验、沙箱执行与审计的顺序。

  1. function invoke_tool(agent, tool_name, args):
  2. tool = registry.get(tool_name)
  3. if tool is None:
  4. return error("tool not registered")
  5. validate(args, tool.schema)
  6. decision = policy.check(agent.identity, tool, args)
  7. if decision != ALLOW:
  8. audit.log(agent.id, tool_name, args, decision)
  9. return error("permission denied")
  10. result = run_in_sandbox(agent.environment, tool, args, timeout=tool.timeout)
  11. audit.log(agent.id, tool_name, args, "ok")
  12. return truncate(result, agent.context_budget)

这段流程体现了三个设计要点:工具必须先注册才能调用;参数和权限在执行前检查;返回结果在进入上下文前受长度约束。

典型场景选择

  • 内部知识问答:以上下文检索和只读工具为主。安全重点在数据隔离和权限范围。已有的检索服务和权限体系通常可以复用。
  • 代码或数据分析自动化:对环境隔离要求较高,需要沙箱、资源配额和执行时长限制,环境组件的投入占比较大。
  • 业务流程审批辅助:写操作是主要风险点。需要人工确认环节、完整审计,以及对关键操作的二次校验。
  • 文本生成类功能:大部分组件可以精简,主要依赖模型能力和轻量上下文。传统基础设施加上基本的模型接入即可满足需求。

选型建议

选型应基于现有条件做判断,以下为条件化的思路,而非固定结论。

  • 若现有系统已有成熟的身份认证、审计和监控体系,可优先复用,只为智能体补充工具级权限和轨迹记录。
  • 若团队缺少沙箱与隔离的运维经验,可优先考虑托管化程度较高的执行环境,减少自建和维护负担。
  • 若任务量波动明显,应优先评估 token 成本的可控性,包括预算告警和限流能力。
  • 若涉及写操作或敏感数据,安全设计应放在方案前期完成,而不是上线前补救。
  • 若业务对结果稳定性要求很高,应预留人工复核环节,并建立固定的回归评估集。

迁移与使用注意事项

将已有系统接入智能体时,需要关注以下风险。

  • 数据

发表评论

活动