以星辰为例:智能体架构与企业落地清单
作者:carzy2026.11.17 03:16浏览量:0简介:本文用五层参考架构拆解智能体的工作方式,说明意图决策中枢如何把用户请求拆成可执行任务。文中还给出场景风险分级、模型选型验收方法、Token成本估算和上线前检查清单,并提醒星辰的具体接口与计费以官方文档为准,帮助团队判断哪些场景适合先落地。
以星辰为例,下文讨论的五层结构是一种通用智能体参考架构,用来说明大模型、意图决策、工具调用与治理之间的关系。它不代表中国电信对星辰超级智能体的官方架构说明。具体的接口名称、模型版本、权限配置和计费规则,请以官方产品文档和合同为准。
一、先分清通用架构与星辰的具体实现
评估智能体平台时,常见的误区是把宣传概念直接当成技术细节。判断一个平台是否适合自己,需要先拆出三类信息:基座模型能力、编排与工具机制、治理与运维能力。这三类信息分别对应下面的五层结构。
二、五层参考架构
第一层是基座模型层。模型负责自然语言理解、意图识别、内容生成和多轮对话。它是智能体的语言能力来源,但不直接操作业务系统。
第二层是意图决策中枢。它判断用户要查询、生成、执行还是澄清需求,并决定走哪条处理路径。
第三层是任务规划层。复杂请求会被拆成若干子任务。例如“整理本周项目周报并发给负责人”,可以拆成收集数据、归纳内容、生成格式、确认发送四个步骤。
第四层是工具与插件层。搜索、数据库、CRM、工单、文件处理等能力,通过工具接口接入智能体。工具名称、参数说明和返回格式写得是否清楚,直接影响模型调用的成功率。
第五层是反馈与治理层。它包括结果校验、日志记录、权限控制、敏感信息过滤、人工接管和效果评估。企业场景中,这一层往往占用大量工程投入。
三、意图决策中枢的工作方式
意图决策中枢通常完成五件事:识别用户意图,抽取关键槽位,选择执行路径,生成任务计划,校验执行结果。
槽位是请求中必须明确的参数,例如时间范围、部门、目标系统和文件类型。缺少槽位时,中枢应发起追问,而不是猜测参数后直接执行。
以“查一下华东区本月销售额,并生成简报”为例,流程如下:
用户输入↓意图识别与槽位抽取(地区=华东区,时间=本月,输出=简报)↓任务拆解:查询销售额、生成简报↓调用业务数据接口,获取销售额↓调用文档生成能力,输出简报↓格式检查与权限校验↓返回结果
接口失败时,中枢需要有明确的处理策略。重试次数应设上限,超过上限后返回部分结果并说明缺失项。系统不能用编造的数据补齐空缺。
四、适合先落地的场景
下表按风险等级列出常见场景及建议做法。
| 场景 | 风险等级 | 建议做法 |
|---|---|---|
| 企业知识问答 | 低 | 答案附引用来源,无来源时说明不确定 |
| 会议纪要与周报整理 | 低 | 生成草稿,发送前由人工确认 |
| 客服工单辅助 | 中 | 只生成回复建议,退款和改约由人工确认 |
| 数据分析助手 | 中 | 查询语句可审计,只开放只读权限 |
| 运维与研发辅助 | 高 | 默认只读,执行类操作需审批并留痕 |
财务、法务等高风险场景不建议让智能体自动执行。
五、模型选型的验收方法
选型不能只看参数规模。建议按真实任务准备一组样本,逐个维度打分,再按业务权重加总。
| 评估维度 | 验收方法 | 参考权重 |
|---|---|---|
| 中文理解 | 用50条真实口语化问题测试,统计正确率 | 20% |
| 指令遵循 | 要求输出固定JSON,统计格式合法率 | 20% |
| 工具调用 | 用30个典型任务测试参数正确率 | 25% |
| 长上下文 | 用实际长文档测试关键信息召回率 | 15% |
| 稳定性与延迟 | 记录P95延迟与失败率 | 10% |
| 成本 | 按单次完整任务的Token消耗计算 | 10% |
权重只是示例,应根据业务风险调整。
六、Token成本怎么算
基础公式如下:
总成本 = 输入Token数量 × 输入单价 + 输出Token数量 × 输出单价
计算前要确认单价口径。不同厂商可能按千Token或百万Token计价,输入与输出单价也往往不同,部分服务还提供缓存或批量折扣。具体数字应以官方价格表为准。
智能体的输入Token通常远多于用户的原始提问,包括系统提示词、工具描述、历史对话、知识库召回片段和中间推理结果。每次失败后的重试,以及每一步工具调用触发的模型请求,也都会计入成本。估算时应按一次完整任务统计,而不是只算一轮对话。
常见的优化方式有以下几种:
- 精简系统提示词,保留关键约束,删除重复规则。
- 对历史对话做摘要,只保留与当前任务相关的内容。
- 知识库召回按相关性筛选,不一次塞入大量片段。
- 简单任务用轻量模型处理,复杂任务再升级到更强模型。
- 缓存常见问题和固定模板的结果,并设置缓存有效期。
- 要求结构化输出,减少无效生成和重复调用。
七、上线前检查清单
- 评测集:覆盖常见问题、边界问题、多轮追问和异常输入,每次改动后做回归测试。
- 工具权限:每个工具单独授权,默认只读,写操作需要审批。
- 失败处理:工具超时、返回空结果或参数错误时,各自有对应的回复策略。
- 日志审计:记录用户输入、模型输出、工具调用、耗时和失败原因,敏感字段脱敏后存储。
- 人工接管:高风险场景提供明确的转人工入口,并附带交接摘要。
- 成本监控:按场景统计Token消耗,设置预算告警阈值。
上线前,每条检查项都应有负责人和验收标准。

登录后可评论,请前往 登录 或 注册