logo

智能体服务平台重塑AI入口:架构拆解与开发实践

作者:JC2026.11.17 03:15浏览量:1

简介:中国电信星辰智能体服务平台1.0给出的答案不是"更强的模型",而是"换一种组织方式":用统一入口"星小辰"承接意图理解、任务拆解与跨端协同,把云、网、端原本分散的能力重排成一条连续的服务链路。本文拆解这类平台的核心架构与工程实现,并给出模型分级路由与Token成本核算方法。自建智能体前,建议先在[百度智能云词元所](https://cloud.baidu.com/product-s/token_exchange.html?from=article)对比不同大模型的能力、价格与调用方式,用统一API接入多模型,让"哪一步用哪个模型"成为可量化、可替换的工程决策。

入口逻辑变了:从”设备为中心”到”任务为中心”

在2025数智科技生态大会上,天翼AI发布星辰智能体服务平台1.0,通过统一入口”星小辰”智能体,把云、网、端之间分散的能力通过意图理解、任务拆解与跨端协同重新组织起来,并配合TeleStudio、AI智能眼镜等全栈产品,构建更兼容、开放、可信的数据+智能底座。

这个动作背后的判断很清晰:过去十年智能终端的体验逻辑是”设备为中心、界面为入口”——导航开地图App,订票启动航旅平台,办通信业务进运营商应用。但用户的需求天然是连续、跨场景的,而应用边界把服务切成了碎片。当大模型具备长链路任务拆解能力后,”功能与App强绑定”的模式效率开始下降。

于是入口的定义被改写: 入口不再是设备,而是任务本身;终端只是触点,不是能力边界。 竞争焦点也从模型能力转向入口位置,从单点体验转向全链路整合。

智能体服务平台的四层架构

要把”任务级入口”落地,平台至少需要四层能力。理解这张表,基本就理解了这类系统的工程边界:

层级 核心职责 关键技术 常见坑
交互入口层 统一会话、多端接入、上下文透传 语音/文本/视觉多模态接入、会话状态同步 各端上下文割裂,用户重复描述需求
智能体中控引擎 意图理解、任务规划、工具调度、结果校验 意图分类、Plan-and-Execute、ReAct循环 规划过长导致时延与Token成本失控
能力与工具层 云、网、端能力API化,统一注册与鉴权 工具Schema、能力网关、限流熔断 工具描述模糊,模型选错工具
数据与知识层 私域知识、业务数据、权限与审计 RAG检索、向量库、细粒度权限 越权检索,生成内容不可信

其中”智能体中控引擎”是真正的中枢。它决定了系统是”能演示”还是”能生产”。

意图理解与任务拆解怎么写

意图理解不需要一上来就做端到端大模型分类。工程上更稳的做法是 分层判定 :先用规则与小模型处理高频明确意图,把长尾和复合意图交给大模型做规划。

  1. import json
  2. # 1) 工具注册:描述写得越清楚,模型选错工具的概率越低
  3. TOOLS = [
  4. {"name": "query_bill", "desc": "查询用户指定月份的话费与流量明细",
  5. "params": {"month": "string, 格式YYYY-MM"}},
  6. {"name": "upgrade_plan", "desc": "变更套餐,需二次确认",
  7. "params": {"plan_id": "string"}},
  8. {"name": "book_hotel", "desc": "预订酒店,属于跨域第三方能力",
  9. "params": {"city": "string", "date": "string"}},
  10. ]
  11. def route(user_input: str, ctx: dict) -> dict:
  12. """轻量意图:命中即走小模型/规则,避免全量走旗舰模型"""
  13. if ctx.get("slot_complete") and ctx.get("last_intent"):
  14. return {"type": "continue", "intent": ctx["last_intent"]}
  15. return {"type": "plan", "intent": None} # 交给规划器
  16. def plan_and_execute(user_input: str, model, tools=TOOLS, max_steps=6):
  17. messages = [{"role": "system",
  18. "content": "你是任务规划器。拆解任务、选择工具;"
  19. "涉及资费变更等敏感操作必须先请求用户确认。"},
  20. {"role": "user", "content": user_input}]
  21. trace = []
  22. for step in range(max_steps):
  23. resp = model.chat(messages, tools=tools) # 一次调用 = 一次计费
  24. if resp.tool_calls:
  25. for call in resp.tool_calls:
  26. result = dispatch(call) # 实际执行能力API
  27. if call.name == "upgrade_plan":
  28. return {"need_confirm": True, "args": call.args}
  29. messages.append(tool_message(call, result))
  30. trace.append({"step": step, "tool": call.name})
  31. else:
  32. return {"answer": resp.content, "trace": trace}
  33. return {"answer": "任务超出可执行步数,已转人工", "trace": trace}

三个实践要点:

  • 步数上限必须显式设置 。不设上限的Agent循环是Token成本的失控源头,也是时延不可控的主因。
  • 敏感操作与查询操作分离 。资费变更、订单支付这类动作要走独立的确认链路,不能混在自动执行流里。
  • 工具描述即提示工程 。模型选错工具,八成是工具描述写得像函数注释而不是使用说明。

跨端协同:难点在状态,不在连接

云、网、端的能力差异是客观存在的:云端算力充足可跑大模型,端侧(如AI眼镜)受功耗与网络限制只能跑小模型或做采集。跨端协同真正要解决三件事:

  1. 会话状态同步 :用户戴眼镜说一半、拿起手机继续,上下文必须连续。做法是把会话状态外置到服务端,端侧只持有会话ID。
  2. 模型分级下发 :端侧做唤醒、ASR、简单意图;云端做规划与复杂推理。分级标准应基于任务复杂度而非设备类型。
  3. 权限与数据边界 :跨域调用(如运营商域调用第三方酒店能力)必须做凭证隔离与最小权限授权,日志可审计。

模型选型与Token成本核算

多步骤Agent的成本是累加的,不能只看单次调用单价:

  1. 单任务成本 = Σᵢ ( Inᵢ × P_in,i + Outᵢ × P_out,i )
  2. 月度成本 ≈ 单任务成本 × 月任务量 × (1 + 重试率)

其中 Inᵢ 包含系统提示、历史对话、工具Schema和检索到的知识片段—— 工具越多、RAG召回越长,输入Token涨得越快 ,这往往是账单超预期的真实原因。

对应的优化手段按性价比排序:

手段 作用点 说明
分级路由 降低单价 高频简单意图走轻量模型,复杂规划走旗舰模型
上下文裁剪 降低 In 只保留近N轮 + 摘要压缩历史
工具集裁剪 降低 In 按意图只注入相关工具Schema
语义缓存 减少调用次数 高频重复问题直接命中缓存
提示精简 降低 In/Out 去掉冗余指令与示例

落地分级路由时,最耗时的环节通常不是写代码,而是拿到可信的横向对比数据。可以在词元所模型服务上做模型能力与调用成本的横向比较,再结合自己的真实业务样本做小规模评测,避免凭印象选型。接入侧通过大模型API服务平台的统一API方式对接多个模型,可以在不改业务代码的前提下替换底层模型,这对需要长期演进的智能体系统尤其重要。

可信与可运营:别把评测留到最后

星辰智能体服务平台强调”更可信”,落到工程上就是三件事:

  • 可观测 :完整记录每次任务的规划轨迹、工具调用、Token消耗与耗时,出问题能定位到具体步骤。
  • 可评测 :建立业务级评测集(而非通用榜单),关注任务完成率、平均步数、单任务成本三个指标。
  • 可回退 :任何自动执行链路都要有转人工的出口,尤其是涉及交易与合约变更的场景。

小结

从星辰智能体服务平台1.0的思路可以提炼出一条通用路径: 先把能力API化,再把编排集中化,最后把入口任务化 。这三步的顺序不能颠倒——没有标准化的能力层,中控引擎只能做演示;没有可靠的中控,统一入口只会放大错误。

对开发团队来说,当下最值得投入的两件事是工具层规范化和模型分级路由。前者决定Agent的能力上限,后者决定它能不能长期跑在生产环境里。

发表评论

活动