AI工程化五层架构对比:从Prompt到Graph
作者:4042026.11.16 11:11浏览量:0简介:本文围绕AI工程化落地,对比单一Prompt方案与从Prompt、检索增强、流程编排、Agent到Graph的五层架构。通过相同点、核心差异、适用场景、选型依据和迁移注意事项,帮助开发者判断何时继续写提示词,何时升级到可治理、可观测、可演进的工程化体系。
一、对比背景:为什么不能把 AI 当成“会说话的玩具”
很多团队刚开始做 AI 应用时,最容易进入的状态是:打开模型接口,写一段提示词,调用一次,看到输出还算满意,就认为事情已经解决。这个阶段非常适合快速验证,但如果真正进入生产环境,问题会立刻变多:用户输入千变万化,知识可能过期,业务流程可能分叉,模型输出可能不稳定,错误可能无法追踪,权限无法控制,版本升级后效果也可能漂移。
因此,本文对比的核心对象不是某个单点工具,而是两种 AI 应用建设思路:
- 方案 A:单点 Prompt 驱动
主要依靠一段或几段提示词完成角色设定、约束说明、示例引导、输出格式化等工作。 - 方案 B:从 Prompt 到 Graph 的五层 AI 工程化架构
在提示词之上,继续引入检索增强、流程编排、智能体工具调用、图结构组织等能力,形成更完整的工程体系。
这里的“Graph”不是简单画一张图,而是用结构化方式表达节点、关系、状态、条件和跳转。它可以表现为流程编排图、知识图谱、状态图,也可以表现为多节点协作网络。与单纯提示词相比,Graph 层更强调复杂关系的表达、控制流的显式化和运行过程的可追溯。
二、对比对象定义:Prompt 与五层架构分别解决什么问题
1. 单点 Prompt 方案:用自然语言约束模型
单点 Prompt 的核心思想是:把业务规则、角色身份、输出格式、示例答案、禁止事项等写入提示词,让模型按照要求生成结果。
例如,一个售后场景可以写成:
- 你是客服助手;
- 用户咨询退款时,先询问订单号;
- 如果用户情绪激动,先安抚;
- 不要承诺无法兑现的时效;
- 最后输出固定格式。
这种方式的优点是简单、直接、上手快。它适合验证想法,也适合任务边界清晰、流程较短、容错较高的场景。
但它的局限也很明显:
- 知识依赖静态上下文:模型不知道最新政策,除非把所有信息塞进提示词或上下文。
- 流程依赖自然语言描述:提示词再完整,也不是真正的控制流,无法保证每一步一定执行。
- 状态管理能力弱:多轮对话、复杂分支、回退重试、人工接管等难以稳定表达。
- 可观测性不足:一旦输出异常,很难判断是提示词、知识、模型还是流程节点导致。
- 权限与安全控制困难:如果模型能调用系统能力,仅靠提示词约束往往不够。
2. 五层 AI 工程化架构:从提示词走向可控系统
五层架构可以理解为 AI 应用逐步工程化的能力阶梯:
| 层级 | 核心问题 | 主要能力 | 典型局限 |
|---|---|---|---|
| 第一层:Prompt | 怎么让模型理解任务 | 角色设定、约束、示例、输出格式 | 复杂流程不可控 |
| 第二层:Context/Retrieval | 知识从哪里来 | 外部知识检索、文档切分、召回增强 | 检索质量影响效果 |
| 第三层:Workflow | 步骤怎么走 | 固定流程、条件分支、校验、重试 | 过于僵硬,难应对开放问题 |
| 第四层:Agent | 模型如何调用外部能力 | 工具调用、任务规划、结果反馈 | 不确定性高,需要护栏 |
| 第五层:Graph | 复杂关系如何组织 | 节点、边、状态、条件跳转、图谱关系 | 建设与维护成本较高 |
这archive 五层不是互相替代,而是互相叠加。提示词仍然是基础,但生产级 AI 应用往往需要更高层次的约束和组织方式。
三、相同点分析:两者都不是“只靠模型”
虽然单点 Prompt 和五层架构差异明显,但它们并不是完全对立。二者共享一些基础原则。
1. 都依赖大模型作为生成与推理引擎
无论是一段提示词,还是复杂图编排,大模型通常都承担理解、生成、总结、分类、抽取、推理等任务。不同之处在于,五层架构会更明确地把模型放在某个节点中,而不是让所有任务都由一段提示词完成。
2. 都追求更稳定的输出
Prompt 的目标是让输出符合预期;五层架构的目标是让整个系统符合预期。前者关注“这一句回答对不对”,后者关注“整条链路能不能稳定完成业务”。
3. 都需要评测与迭代
单点 Prompt 需要测试集和人工评估;五层架构更需要分层评测:检索是否命中、流程是否走对、工具调用是否成功、最终输出是否合规。
4. 都受安全合规约束
无论采用哪种方式,都可能需要考虑输入输出审核、敏感信息脱敏、权限控制、审计日志、数据隔离等通用要求。复杂架构只是把这些问题拆得更清楚。
四、核心差异分析:从提示词到图编排,差别在哪里
1. 架构差异:单点调用与分层解耦
单点 Prompt 通常表现为一次模型调用,或者少数几次简单拼接。它的系统边界很小,代码量也少。
五层架构则把任务拆成多个模块:
- 输入理解模块;
- 知识检索模块;
- 流程控制模块;
- 工具调用模块;
- 结果校验模块;
- 图编排或状态管理模块。
这种差异带来的直接结果是:前者更容易快速上线,后者更容易长期维护。
2. 知识处理差异:静态上下文与动态知识库
单点 Prompt 的知识往往来自提示词本身。如果业务知识变化频繁,提示词会越来越长,甚至难以维护。
五层架构通常会把知识从提示词中分离出来,交给检索、知识库或图谱系统处理。这样做的好处是:
- 知识更新不需要频繁改提示词;
- 可以控制召回范围;
- 可以加入版本管理;
- 可以针对权限做过滤;
- 可以评估召回准确率。
但检索层也带来新问题:召回不准、切分不合理、索引更新延迟、检索噪声干扰模型判断等,都需要工程化处理。
3. 流程控制差异:自然语言约束与显式控制流
提示词可以说“先问订单号,再查政策”,但这只是自然语言约束。模型是否遵循、是否会跳过、是否会在异常情况下保持流程,并不总是可靠。
五层架构中的 Workflow 和 Graph 会把流程变成显式控制流。例如:
- 先判断意图;
- 再查询订单;
- 再检索政策;
- 再判断是否满足退款条件;
- 若不满足,进入人工确认;
- 若满足,输出最终答复。
这种方式更适合对确定性要求较高的业务,因为每一步都可以被记录、回放和定位。
4. 可观测性差异:黑盒输出与全链路追踪
单点 Prompt 的调试通常围绕输入输出展开:看看用户问了什么,模型回答了什么。问题在于,一旦效果异常,很难定位原因。
五层架构可以把每次执行拆成多个节点:
- 意图识别是否错误;
- 检索是否召回了错误文档;
- 流程是否进入了错误分支;
- 工具调用参数是否正确;
- 工具返回是否超时;
- 最终输出是否被安全策略拦截。
这些节点日志、指标和追踪信息,是复杂 AI 系统稳定运行的重要基础。
5. 安全边界差异:提示词约束与权限控制
提示词可以表达“不要泄露隐私”“不要越权回答”,但如果系统没有权限控制,这种约束并不可靠。
五层架构通常更容易把安全策略落到工程层:
- 工具调用前进行权限校验;
- 敏感字段在检索前脱敏;
- 输出经过审核;
- 不同用户只能访问不同知识范围;
- 高风险动作需要人工确认;
- 全链路日志便于审计。
因此,涉及权限、资金、医疗、法律、政务等场景时,五层架构往往比单点提示词更合适。
6. 运维成本差异:轻量验证与体系化运维
单点 Prompt 的运维成本较低,改文案、改示例、改输出格式都比较快。
五层架构则涉及更多组件:检索服务、流程引擎、状态存储、日志系统、监控告警、权限系统、版本发布、灰度策略等。它的前期建设成本更高,但一旦进入复杂生产场景,长期可维护性通常更好。
7. 成本结构差异:短期快与长期稳
单点 Prompt 的短期成本较低,因为开发周期短、接入简单。
五层架构的成本更分散,可能包括:
- 开发与集成成本;
- 知识库建设成本;
- 流程建模成本;
- 监控告警成本;
- 评测集建设成本;
- 安全与合规成本;
- 长期版本维护成本。
但如果业务复杂、调用频繁、故障影响大,完全不用工程化架构反而可能造成更高的返工成本。
8. 失败处理差异:重新提示与可恢复流程
单点 Prompt 失败后,常见做法是修改提示词、增加示例、增加限制。
五层架构可以设计更完整的失败处理:
- 超时重试;
- 工具调用失败降级;
- 检索为空时进入兜底;
- 模型输出不合规时回退;
- 关键步骤失败后转人工;
- 根据历史状态恢复流程。
这类能力对生产系统非常关键。
五、对比表格:单点 Prompt 与五层架构的关键差异
| 对比维度 | 单点 Prompt 方案 | 从 Prompt 到 Graph 的五层架构 |
|---|---|---|
| 核心思路 | 用自然语言描述任务 | 分层拆解任务,组合工程能力 |
| 架构复杂度 | 低 | 中高 |
| 知识更新 | 常需修改提示词或上下文 | 可通过检索、知识库、图谱更新 |
| 流程控制 | 依赖模型理解提示词 | 可通过 Workflow、Graph 显式控制 |
| 状态管理 | 弱 | 强 |
| 可观测性 | 主要看输入输出 | 可追踪每个节点 |
| 安全控制 | 主要依赖提示词约束 | 可结合权限、审计、脱敏、审核 |
| 适用场景 | 原型验证、简单问答、内容生成 | 复杂业务、多系统协同、强合规场景 |
| 上线速度 | 快 | 相对慢 |
| 长期维护 | 可能越来越难 | 更易结构化维护 |
| 失败恢复 | 通常靠重新生成 | 可设计重试、回退、降级、人工接管 |
| 使用边界 | 不适合高复杂、高可靠场景 | 不适合简单快速验证或预算极有限场景 |
六、五层逐层对比:每一层适合解决什么问题
第一层:Prompt 层
适合:
- 快速验证想法;
- 文案生成;
- 简单问答;
- 固定格式输出;
- 低容错场景。
优势:
- 成本低;
- 上线快;
- 易于修改;
- 不依赖复杂基础设施。
局限:
- 无法可靠表达复杂流程;
- 难以处理多轮状态;
- 对知识和工具能力支持有限。
选型判断:
如果任务简单、输入输出边界清晰,Prompt 层仍然是最合理的第一步。但如果业务规则多、角色多、流程长,就不应只停留在这一层。
第二层:检索增强层
适合:
- 企业知识问答;
- 文档查询;
- 政策解释;
- 商品说明;
- 需要最新信息的场景。
优势:
- 知识可更新;
- 私有数据可接入;
- 减少提示词膨胀;
- 可结合权限做范围控制。
局限:
- 检索不准会影响最终答案;
- 文档切分、索引、召回策略需要持续调优;
- 需要评估知识质量和版本一致性。
选型判断:
如果模型本身不知道业务知识,或者知识经常变化,单靠 Prompt 不够,通常会引入检索增强层。
第三层:流程编排层
适合:
- 订单处理;
- 审批流程;
- 退款判断;
- 工单分派;
- 多步骤业务办理。
优势:
- 步骤明确;
- 可校验;
- 可重试;
- 可记录每个环节;
- easier 定位问题。
局限:
- 对开放性任务不够灵活;
- 流程建模需要前期设计;
- 流程变更需要同步更新。
选型判断:
当业务不是“回答一句话”,而是“按步骤完成一件事”时,流程编排通常比单纯提示词更可靠。
agent-">第四层:Agent 层
适合:
- 需要查询多个系统;
- 需要调用外部服务;
- 需要动态选择动作;
- 需要根据中间结果决定下一步;
- 需要多任务协作。
优势:
- 灵活性强;
- 可连接外部能力;
- 适合复杂决策;
- 可减少硬编码流程。
局限:
- 不确定性较高;
- 需要工具权限控制;
- 需要防止越权调用;
- 需要监控模型决策过程。
选型判断:
Agent 适合开放任务,但必须配合护栏。如果没有权限控制、审计和失败兜底,风险会明显增加。
第五层:Graph 层
适合:
- 复杂流程网络;
- 多状态转换;
- 知识图谱推理;
- 多角色协作;
- 需要可视化编排的系统;
- 需要强审计和可回放的系统。
优势:
- 关系表达清晰;
- 节点和边便于拆解;
- 状态可控;
- 容易可视化;
- 便于定位异常节点。
局限:
- 设计成本高;
- 图结构维护复杂;
- 需要明确节点职责;
- 对团队工程能力要求较高。
选型判断:
Graph 并不是所有场景都需要。它更适合复杂、强状态、强关系、强审计的系统。如果任务只是简单问答,直接上 Graph 往往过重。
七、典型场景选择:什么时候继续用 Prompt,什么时候升级架构
1. 内容生成场景
例如营销文案、摘要、改写、分类草稿。这类场景通常输入输出边界清晰,可以先使用 Prompt 层。如果后续需要批量处理,可以加入流程编排。
2. 企业知识问答场景
如果知识库会更新,建议采用 Prompt 加检索增强。仅靠提示词很难保证知识实时性,也容易造成上下文过长。
3. 多步骤业务办理场景
例如退款、换货、工单处理、资格审核。这类场景更适合流程编排或 Graph。因为它需要明确每一步条件、输出、校验和异常处理。
4. 多系统查询场景
如果模型需要查询订单、库存、物流、发票、权限等不同服务,可考虑 Agent 层。但必须配置工具白名单、权限校验、调用日志和超时策略。
5. 复杂知识推理场景
如果实体之间关系复杂,例如商品关系、用户权益、风险传导、知识依赖,可以引入知识图谱或图结构组织。但前提是数据质量足够,关系定义清楚。
八、选型建议:不要盲目堆架构,也不要只靠提示词
选型的核心不是“越复杂越好”,而是“匹配业务复杂度”。
1. 原型验证阶段
优先使用 Prompt 层,快速验证模型是否能理解任务,输出是否接近预期。
2. 单轮简单任务
如果没有外部知识、没有工具调用、没有复杂状态,继续使用 Prompt 更经济。
3. 需要私有知识
引入检索增强层,把知识与提示词解耦。
4. 需要固定步骤
引入流程编排层,把关键步骤显式化。
5. 需要调用外部能力
引入 Agent 层,但要同步建设权限、审计、护栏和失败兜底。
6. 需要复杂状态与关系
考虑 Graph 层,用于表达节点、边、条件、跳转和状态变化。
7. 团队能力有限时
优先选择托管化程度更高、运维负担更低的通用云上能力,例如通用身份认证、日志服务、监控告警、对象存储、消息队列、容器平台等。这样可以把精力集中在业务逻辑和评测上,而不是基础设施维护上。
九、迁移与使用注意事项
从单点 Prompt 迁移到更高层架构,并不是简单“把提示词变长”,而是系统能力的升级。需要关注以下几点。
1. 数据迁移与知识治理
如果引入检索增强,需要整理文档、切分策略、索引更新机制、权限标签和版本管理。知识质量差会直接拖累模型输出。
2. 接口适配
五层架构通常会连接更多内部或外部服务。需要统一接口规范、超时策略、重试机制、幂等设计和错误码处理。
3. 权限与隔离
涉及用户数据时,必须考虑身份认证、权限控制、数据隔离和最小授权。模型不应绕过业务系统权限。
4. 可观测性建设
建议至少记录:
- 输入请求标识;
- 每个节点开始与结束时间;
- 模型调用摘要;
- 检索结果摘要;
- 工具调用结果;
- 异常堆栈;
- 最终输出状态。
5. 灰度发布与回滚
复杂架构上线前,应准备评测集、影子流量、人工审核、灰度开关和回滚方案。不能只看单次演示效果。
6. 成本评估
不仅要评估模型调用成本,还要评估检索、存储、日志、监控、人力维护、版本迭代等长期成本。
十、示意性伪代码:从提示词到图式流程
下面用伪代码说明复杂任务如何从单点提示词走向图式流程。这里仅表达结构,不依赖具体框架。
state = {"user_input": user_input,"intent": None,"order_info": None,"policy": None,"final_answer": None}node_intent = identify_intent(state)node_order = fetch_order(state)node_policy = retrieve_refund_policy(state)node_condition = check_refund_condition(state)node_reply = generate_final_answer(state)if node_intent.confidence < threshold:state = ask_user_clarify(state)else:state = node_order(state)state = node_policy(state)if node_condition.failed:state = transfer_to_human(state)else:state = node_reply(state)return state.final_answer
这段伪代码的核心不是语言形式,而是表达方式:流程节点、状态字段、条件分支、失败处理和输出责任都被显式定义。相比一段很长的提示词,它更容易维护、测试和追踪。
十一、总结:Prompt 是起点,不是 AI 工程化的终点
AI 工程化的关键变化,是从“让模型像人一样回答”,转向“让系统稳定完成业务”。
单点 Prompt 适合快速验证,也适合简单任务。它的优势是轻、快、低成本。但它的边界也很清楚:当知识需要动态更新、流程需要稳定执行、工具需要安全调用、状态需要完整管理、错误需要可追溯时,仅靠提示词往往不够。
从 Prompt 到 Graph 的五层架构,并不是要求所有团队一开始就建设完整体系,而是提供了一种能力升级路径:
- 先用 Prompt 验证任务可行性;
- 再用检索增强解决知识问题;
- 再用流程编排解决步骤问题;
- 再用 Agent 解决工具调用问题;
- 最后用 Graph 解决复杂关系、状态和协同问题。
因此,合理的选型不是问“哪种架构更先进”,而是问:
- 当前任务是否足够简单?
- 是否依赖实时或私有知识?
- 是否需要多步骤稳定执行?
- 是否涉及外部系统和权限?
- 是否需要审计、追踪和回放?
- 团队是否有足够能力维护复杂系统?
如果这些问题都能被清晰回答,AI 工程化就会从“玩具心态”真正走向“工程方法”。

登录后可评论,请前往 登录 或 注册