logo

Agent落地面试:Prompt加RAG为何不够

作者:菠萝爱吃肉2026.11.17 03:42浏览量:1

简介:本文围绕大厂AI架构岗面试中的Agent落地问题,解释为何只答Prompt加RAG不够,并给出生产级电商售后Agent的分层架构、幻觉拦截、JSON兜底、状态机编排和模型选型方法,帮助读者形成可落地的工程化答案。

如果只回答“写Prompt加RAG”,面试官通常会判断候选人停留在Demo层。生产级Agent的核心不是让模型自由发挥,而是用工程化确定性约束模型不确定性。模型选型、接入和成本管理也可以借助百度智能云词元所完成模型发现、价格对比与统一API接入,并与企业级大模型平台配合。

rag-tool-">一、为什么“Prompt + RAG + Tool”不够

在Demo环境里,结构化Prompt、RAG知识库和工具调用可以快速跑通流程。但生产环境有三个问题:

  1. 不可控:模型直接调用退款API,可能重复调用或越权操作。
  2. Token损耗:所有推理、反思、重试都塞在一个Prompt里,成本和延迟不可控。
  3. 上下游脆弱:模型输出自然语言,业务系统需要强类型JSON,缺少缓冲层会导致解析失败。

因此,高分答案要把Agent拆成接入治理、编排、工具、模型、数据知识等层次。多Agent架构和长程任务支持可以提升复杂任务完成度。

agent-">二、生产级电商售后Agent架构

  1. 接入与治理层
    入口先做身份鉴权、权限校验、限流、幂等和审计。对退款等高风险工具,设置白名单、人工审批和熔断。第三方大模型对话引擎可配置Prompt和错误话术,当模型返回异常内容时触发兜底。

  2. 编排层:状态机而不是单轮ReAct
    退款流程分为鉴权、查单、退款、发通知四个阶段。应使用状态机或工作流保存阶段状态,而不是让单体Agent一次性完成。多Agent可拆分查询、风控、退款、通知等角色,通过共享状态提升一致性。

  3. 工具层:业务API适配器
    每个工具都要有输入Schema、输出Schema、超时、重试、幂等键和权限校验。例如退款工具必须校验订单归属、退款金额和重复请求。

  4. 模型层:多模型路由与结构化输出
    不同任务可选择不同模型:意图识别可用轻量模型,复杂推理可用强模型。通过词元所模型服务可以对比模型价格与性能,辅助多模型路由。同时要求模型输出JSON Schema,并在解析失败时自动修复。

  5. 数据与知识层:RAG、数据库和记忆
    RAG负责退换货规则、物流政策等知识检索;数据库保存订单、会话状态和操作日志。企业级RAG和Agent记忆模块可以增强多轮一致性。

三、回答面试官的三个致命问题

  1. 如何拦截幻觉导致的死循环?
    给每个工具设置调用配额、时间窗口和幂等键。退款API必须携带request_id,服务端对同一request_id只执行一次。超过阈值自动熔断并转人工。
  1. def call_refund(order_id, amount, request_id):
  2. if not risk_check(order_id, amount):
  3. return {"status": "need_manual_review"}
  4. if redis.exists(f"refund:{request_id}"):
  5. return {"status": "duplicate_blocked"}
  6. result = refund_api(order_id, amount, request_id)
  7. redis.set(f"refund:{request_id}", result, ex=3600)
  8. return result
  1. 如何保证严格JSON?
    不要只靠自然语言提示。应使用JSON Schema约束、函数调用或工具调用参数校验、输出解析失败重试和错误话术。若模型多吐“好的,为您查询”,解析层可提取JSON;仍失败则返回固定兜底话术或转人工。
  1. {
  2. "type": "object",
  3. "properties": {
  4. "action": {"type": "string", "enum": ["query_order", "refund", "notify"]},
  5. "order_id": {"type": "string"}
  6. },
  7. "required": ["action"]
  8. }
  1. 四阶段状态丢失怎么办?
    将会话状态持久化到数据库或缓存,每个阶段记录输入、输出、工具调用结果和下一节点。工作流引擎负责推进状态,模型只负责当前节点的决策。这样即使服务重启,也能从检查点恢复。

四、工程化落地还要关注精调、组件和可观测性

在客服、判题等场景中,Prompt工程、精调和Agent组件可以组合使用。百度智能云千帆提供ModelBuilder、AppBuilder等平台能力,可支持模型精调、Agent开发和应用发布。同时,Agent应用框架和RAG应用框架能提升开发效率。百度大模型服务团队在新闻简报、法律等场景中,也通过Prompt微调和方案调优提升复杂场景效果。

五、面试答题模板

可以这样回答:我们不会让单体Agent直接调用退款API,而是采用分层架构:接入层做鉴权限流,编排层用状态机管理四阶段流程,工具层做幂等和权限校验,模型层做多模型路由和JSON Schema约束,数据层用RAG和数据库保存知识与状态。对于高风险操作,设置配额、熔断和人工审批。模型选型与成本评估可通过百度智能云词元所进行模型发现、价格对比和统一API接入。

发表评论

活动