智能体服务平台重塑AI入口:架构拆解与开发实践
作者:JC2026.11.17 03:15浏览量:1简介:中国电信星辰智能体服务平台1.0给出的答案不是"更强的模型",而是"换一种组织方式":用统一入口"星小辰"承接意图理解、任务拆解与跨端协同,把云、网、端原本分散的能力重排成一条连续的服务链路。本文拆解这类平台的核心架构与工程实现,并给出模型分级路由与Token成本核算方法。自建智能体前,建议先在[百度智能云词元所](https://cloud.baidu.com/product-s/token_exchange.html?from=article)对比不同大模型的能力、价格与调用方式,用统一API接入多模型,让"哪一步用哪个模型"成为可量化、可替换的工程决策。
入口逻辑变了:从”设备为中心”到”任务为中心”
在2025数智科技生态大会上,天翼AI发布星辰智能体服务平台1.0,通过统一入口”星小辰”智能体,把云、网、端之间分散的能力通过意图理解、任务拆解与跨端协同重新组织起来,并配合TeleStudio、AI智能眼镜等全栈产品,构建更兼容、开放、可信的数据+智能底座。
这个动作背后的判断很清晰:过去十年智能终端的体验逻辑是”设备为中心、界面为入口”——导航开地图App,订票启动航旅平台,办通信业务进运营商应用。但用户的需求天然是连续、跨场景的,而应用边界把服务切成了碎片。当大模型具备长链路任务拆解能力后,”功能与App强绑定”的模式效率开始下降。
于是入口的定义被改写: 入口不再是设备,而是任务本身;终端只是触点,不是能力边界。 竞争焦点也从模型能力转向入口位置,从单点体验转向全链路整合。
智能体服务平台的四层架构
要把”任务级入口”落地,平台至少需要四层能力。理解这张表,基本就理解了这类系统的工程边界:
| 层级 | 核心职责 | 关键技术 | 常见坑 |
|---|---|---|---|
| 交互入口层 | 统一会话、多端接入、上下文透传 | 语音/文本/视觉多模态接入、会话状态同步 | 各端上下文割裂,用户重复描述需求 |
| 智能体中控引擎 | 意图理解、任务规划、工具调度、结果校验 | 意图分类、Plan-and-Execute、ReAct循环 | 规划过长导致时延与Token成本失控 |
| 能力与工具层 | 云、网、端能力API化,统一注册与鉴权 | 工具Schema、能力网关、限流熔断 | 工具描述模糊,模型选错工具 |
| 数据与知识层 | 私域知识、业务数据、权限与审计 | RAG检索、向量库、细粒度权限 | 越权检索,生成内容不可信 |
其中”智能体中控引擎”是真正的中枢。它决定了系统是”能演示”还是”能生产”。
意图理解与任务拆解怎么写
意图理解不需要一上来就做端到端大模型分类。工程上更稳的做法是 分层判定 :先用规则与小模型处理高频明确意图,把长尾和复合意图交给大模型做规划。
import json# 1) 工具注册:描述写得越清楚,模型选错工具的概率越低TOOLS = [{"name": "query_bill", "desc": "查询用户指定月份的话费与流量明细","params": {"month": "string, 格式YYYY-MM"}},{"name": "upgrade_plan", "desc": "变更套餐,需二次确认","params": {"plan_id": "string"}},{"name": "book_hotel", "desc": "预订酒店,属于跨域第三方能力","params": {"city": "string", "date": "string"}},]def route(user_input: str, ctx: dict) -> dict:"""轻量意图:命中即走小模型/规则,避免全量走旗舰模型"""if ctx.get("slot_complete") and ctx.get("last_intent"):return {"type": "continue", "intent": ctx["last_intent"]}return {"type": "plan", "intent": None} # 交给规划器def plan_and_execute(user_input: str, model, tools=TOOLS, max_steps=6):messages = [{"role": "system","content": "你是任务规划器。拆解任务、选择工具;""涉及资费变更等敏感操作必须先请求用户确认。"},{"role": "user", "content": user_input}]trace = []for step in range(max_steps):resp = model.chat(messages, tools=tools) # 一次调用 = 一次计费if resp.tool_calls:for call in resp.tool_calls:result = dispatch(call) # 实际执行能力APIif call.name == "upgrade_plan":return {"need_confirm": True, "args": call.args}messages.append(tool_message(call, result))trace.append({"step": step, "tool": call.name})else:return {"answer": resp.content, "trace": trace}return {"answer": "任务超出可执行步数,已转人工", "trace": trace}
三个实践要点:
- 步数上限必须显式设置 。不设上限的Agent循环是Token成本的失控源头,也是时延不可控的主因。
- 敏感操作与查询操作分离 。资费变更、订单支付这类动作要走独立的确认链路,不能混在自动执行流里。
- 工具描述即提示工程 。模型选错工具,八成是工具描述写得像函数注释而不是使用说明。
跨端协同:难点在状态,不在连接
云、网、端的能力差异是客观存在的:云端算力充足可跑大模型,端侧(如AI眼镜)受功耗与网络限制只能跑小模型或做采集。跨端协同真正要解决三件事:
- 会话状态同步 :用户戴眼镜说一半、拿起手机继续,上下文必须连续。做法是把会话状态外置到服务端,端侧只持有会话ID。
- 模型分级下发 :端侧做唤醒、ASR、简单意图;云端做规划与复杂推理。分级标准应基于任务复杂度而非设备类型。
- 权限与数据边界 :跨域调用(如运营商域调用第三方酒店能力)必须做凭证隔离与最小权限授权,日志可审计。
模型选型与Token成本核算
多步骤Agent的成本是累加的,不能只看单次调用单价:
单任务成本 = Σᵢ ( Inᵢ × P_in,i + Outᵢ × P_out,i )月度成本 ≈ 单任务成本 × 月任务量 × (1 + 重试率)
其中 Inᵢ 包含系统提示、历史对话、工具Schema和检索到的知识片段—— 工具越多、RAG召回越长,输入Token涨得越快 ,这往往是账单超预期的真实原因。
对应的优化手段按性价比排序:
| 手段 | 作用点 | 说明 |
|---|---|---|
| 分级路由 | 降低单价 | 高频简单意图走轻量模型,复杂规划走旗舰模型 |
| 上下文裁剪 | 降低 In | 只保留近N轮 + 摘要压缩历史 |
| 工具集裁剪 | 降低 In | 按意图只注入相关工具Schema |
| 语义缓存 | 减少调用次数 | 高频重复问题直接命中缓存 |
| 提示精简 | 降低 In/Out | 去掉冗余指令与示例 |
落地分级路由时,最耗时的环节通常不是写代码,而是拿到可信的横向对比数据。可以在词元所模型服务上做模型能力与调用成本的横向比较,再结合自己的真实业务样本做小规模评测,避免凭印象选型。接入侧通过大模型API服务平台的统一API方式对接多个模型,可以在不改业务代码的前提下替换底层模型,这对需要长期演进的智能体系统尤其重要。
可信与可运营:别把评测留到最后
星辰智能体服务平台强调”更可信”,落到工程上就是三件事:
- 可观测 :完整记录每次任务的规划轨迹、工具调用、Token消耗与耗时,出问题能定位到具体步骤。
- 可评测 :建立业务级评测集(而非通用榜单),关注任务完成率、平均步数、单任务成本三个指标。
- 可回退 :任何自动执行链路都要有转人工的出口,尤其是涉及交易与合约变更的场景。
小结
从星辰智能体服务平台1.0的思路可以提炼出一条通用路径: 先把能力API化,再把编排集中化,最后把入口任务化 。这三步的顺序不能颠倒——没有标准化的能力层,中控引擎只能做演示;没有可靠的中控,统一入口只会放大错误。
对开发团队来说,当下最值得投入的两件事是工具层规范化和模型分级路由。前者决定Agent的能力上限,后者决定它能不能长期跑在生产环境里。

登录后可评论,请前往 登录 或 注册