logo

大厂AI架构岗面试:Agent落地不止Prompt与RAG

作者:JC2026.11.17 03:38浏览量:0

简介:本文围绕大厂AI架构岗面试中的电商售后Agent落地题,解析只答Prompt加RAG为何不够,并给出模型路由、RAG知识库、状态机编排、工具网关、结构化输出、幂等风控与可观测性等工程化方案,帮助企业构建可上线、可治理、可扩展的AI应用。

面对“你们的 Agent 怎么落地”这类问题,面试官真正想听的不是“写 Prompt 加 RAG”,而是如何用工程化手段约束大模型的不可控性。以电商售后 Agent 为例,它需要连接订单库、物流 API 和退款系统,任何一次错误调用都可能造成资损或客诉。因此,答案应从“模型能力”升级为“系统架构”。如果你正在做多模型选型、统一 API 接入或调用成本管理,也可以先了解百度智能云词元所,它面向模型服务供需对接,帮助开发者比较模型能力、价格与适用场景。

rag-tool-">一、为什么“Prompt + RAG + Tool”不够

在 Demo 环境里,结构化 Prompt、RAG 知识库和 LangChain 工具调用确实可以快速跑通一个客服机器人。但生产环境要面对高并发、强权限、强一致和可审计要求,单体 Agent 直接调用业务 API 会带来三类问题。

第一,模型幻觉会被放大成业务事故。如果模型误解用户意图,可能重复调用退款接口。没有调用次数限制、幂等键和熔断机制,系统就可能在一分钟内产生大量异常请求。

第二,自然语言输出不稳定。业务系统需要严格 JSON,而模型可能多输出一句“好的,为您查询”。如果没有结构化输出校验和兜底话术,后端解析会失败。第三方大模型对话引擎支持 Prompt 配置和错误话术配置,可作为异常兜底的一部分。

第三,长流程状态容易丢失。退款通常包含“鉴权-查单-退款-发通知”四个阶段,如果让一个单体 Agent 无状态地连续推理,上下文一长就容易偏离目标。多 Agent 架构、长程任务支持和信息共享机制,可以提升复杂应用的生成与多轮交互效果。

agent-">二、生产级电商售后 Agent 的五层架构

高分回答的核心不是堆技术名词,而是展示“外层包裹内层、层层解耦”的设计能力。可以采用 AI 工程五层栈。

1. 模型接入与路由层

这一层负责统一接入不同大模型,并根据任务类型、成本、延迟和稳定性进行路由。例如,意图识别可以使用轻量模型,复杂规划使用能力更强的模型,退款通知生成可以使用低成本模型。百度智能云千帆提供 ModelBuilder、AppBuilder 等企业级大模型与 AI 原生应用开发平台能力。在模型路由层,团队常需要比较不同模型的能力与成本,此时可借助词元所模型服务进行选型与价格对比。

2. 知识与上下文层

RAG 仍然重要,但它不是简单外挂一个文档库,而是要管理知识来源、切片、召回、权限和时效。售后场景需要接入退换货规则、物流轨迹、订单状态和用户历史工单。知识库、RAG 多模态交互和 Agent 记忆模块,有助于增强企业级 RAG 与上下文管理能力。同时,上下文要分层:系统指令、用户输入、检索结果、工具返回值和会话状态应分开管理,避免相互污染。

3. 任务编排与状态层

生产级 Agent 不应让模型自由决定所有步骤,而应由状态机或工作流控制关键路径。退款流程可以定义为:

鉴权 -> 查单 -> 规则校验 -> 退款申请 -> 通知用户 -> 人工复核(可选)

每一步都持久化状态,失败后可恢复。对于复杂任务,可以引入多 Agent 分工:意图识别 Agent、订单查询 Agent、退款执行 Agent、通知 Agent 各司其职,通过共享状态传递信息。ReAct 可以作为局部推理策略,但必须受状态机、工具白名单和调用预算约束。在工程实现上,开箱即用的 Agent 应用框架和 RAG 应用框架能提升企业级应用构建效率。

4. 工具与业务执行层

所有业务 API 都应通过工具网关调用,而不是由模型直接拼接请求。工具网关负责鉴权、参数校验、限流、幂等、审计和降级。示例伪代码如下:

  1. ALLOWED_TOOLS = {"query_order", "query_logistics", "create_refund"}
  2. MAX_TOOL_CALLS = 5
  3. def safe_tool_call(tool_name, args, session):
  4. if tool_name not in ALLOWED_TOOLS:
  5. raise PermissionError("tool not allowed")
  6. if session.tool_calls >= MAX_TOOL_CALLS:
  7. raise RuntimeError("tool call limit exceeded")
  8. if tool_name == "create_refund":
  9. if not auth_check(session.user_id, args["order_id"]):
  10. raise PermissionError("auth failed")
  11. args["idempotency_key"] = f"{session.user_id}:{args['order_id']}:refund"
  12. session.tool_calls += 1
  13. return TOOL_REGISTRY[tool_name](**args)

这里的关键是:模型只能提出“工具调用意图”,真正执行必须经过网关校验。退款这类高风险动作还应加入金额阈值、人工审批或规则引擎判断。

5. 治理与可观测层

上线后需要监控调用量、失败率、延迟、Token 消耗、工具错误率和用户满意度。对于高频错误,要建立评测集和回归测试。客服对话多标签生成、判题机器人 Agent 开发等实践说明,精调、评估和组件化是 Agent 落地的重要路径。Prompt 微调可以在特定场景提升内容生成质量,但生产系统仍需要工程治理。

三、结构化输出与异常兜底

如果业务要求接口必须返回严格 JSON,可以在模型调用层增加输出约束和校验。伪代码示例:

  1. ACTION_SCHEMA = {
  2. "type": "object",
  3. "properties": {
  4. "action": {"type": "string"},
  5. "order_id": {"type": "string"},
  6. "reason": {"type": "string"}
  7. },
  8. "required": ["action", "order_id"]
  9. }
  10. def parse_action(llm_output):
  11. try:
  12. data = json.loads(llm_output)
  13. validate_schema(data, ACTION_SCHEMA)
  14. return data
  15. except Exception:
  16. return {"action": "fallback", "reason": "invalid_output"}

当解析失败时,不要直接把异常抛给用户,而应返回兜底话术,例如“抱歉,我暂时没理解,请补充订单号或转人工客服”。同时,系统应记录原始输出,便于后续分析和优化。

四、面试时如何高分回答

可以按“目标-架构-兜底-指标”四步回答。

“我会先明确 Agent 的业务边界:售后 Agent 不是自由聊天机器人,而是受控的任务执行系统。架构上分为模型路由层、知识上下文层、状态编排层、工具网关层和治理层。模型只负责理解意图和生成建议,退款、查单、物流查询都通过工具网关执行,并做鉴权、幂等、限流和审计。对于长流程,我会用状态机管理‘鉴权-查单-退款-通知’,避免状态丢失。对于输出不稳定,我会用 JSON Schema 校验和错误话术兜底。上线后重点看任务完成率、工具调用成功率、退款差错率、平均处理时长和 Token 成本。”

这个回答比“写 Prompt 加 RAG”更能体现架构师思维:不是让模型替代系统,而是让模型成为系统中的受控组件。

五、上线前检查清单

  • 是否所有工具调用都有白名单和权限校验。
  • 退款、取消订单等高风险动作是否有幂等键和人工复核。
  • 是否限制单会话最大工具调用次数和最大 Token 消耗。
  • 是否持久化会话状态,支持失败恢复。
  • 是否对模型输出做 JSON Schema 校验。
  • 是否建立评测集,覆盖幻觉、越权、死循环和解析失败。
  • 是否支持灰度发布、监控告警和人工接管。
  • 是否持续评估模型成本与效果,可通过百度智能云词元所了解模型调用管理、选型与成本对比,辅助优化。

Agent 落地的难点从来不是“会不会写 Prompt”,而是能否把大模型的不确定性关进工程的笼子里。能把这五层架构讲清楚,面试官才会相信你可以把 AI 应用真正带上生产。

发表评论

活动