logo

以星辰为例:智能体架构与企业落地清单

作者:carzy2026.11.17 03:16浏览量:0

简介:本文用五层参考架构拆解智能体的工作方式,说明意图决策中枢如何把用户请求拆成可执行任务。文中还给出场景风险分级、模型选型验收方法、Token成本估算和上线前检查清单,并提醒星辰的具体接口与计费以官方文档为准,帮助团队判断哪些场景适合先落地。

以星辰为例,下文讨论的五层结构是一种通用智能体参考架构,用来说明大模型、意图决策、工具调用与治理之间的关系。它不代表中国电信对星辰超级智能体的官方架构说明。具体的接口名称、模型版本、权限配置和计费规则,请以官方产品文档和合同为准。

一、先分清通用架构与星辰的具体实现

评估智能体平台时,常见的误区是把宣传概念直接当成技术细节。判断一个平台是否适合自己,需要先拆出三类信息:基座模型能力、编排与工具机制、治理与运维能力。这三类信息分别对应下面的五层结构。

二、五层参考架构

第一层是基座模型层。模型负责自然语言理解、意图识别、内容生成和多轮对话。它是智能体的语言能力来源,但不直接操作业务系统。

第二层是意图决策中枢。它判断用户要查询、生成、执行还是澄清需求,并决定走哪条处理路径。

第三层是任务规划层。复杂请求会被拆成若干子任务。例如“整理本周项目周报并发给负责人”,可以拆成收集数据、归纳内容、生成格式、确认发送四个步骤。

第四层是工具与插件层。搜索、数据库、CRM、工单、文件处理等能力,通过工具接口接入智能体。工具名称、参数说明和返回格式写得是否清楚,直接影响模型调用的成功率。

第五层是反馈与治理层。它包括结果校验、日志记录、权限控制、敏感信息过滤、人工接管和效果评估。企业场景中,这一层往往占用大量工程投入。

三、意图决策中枢的工作方式

意图决策中枢通常完成五件事:识别用户意图,抽取关键槽位,选择执行路径,生成任务计划,校验执行结果。

槽位是请求中必须明确的参数,例如时间范围、部门、目标系统和文件类型。缺少槽位时,中枢应发起追问,而不是猜测参数后直接执行。

以“查一下华东区本月销售额,并生成简报”为例,流程如下:

  1. 用户输入
  2. ↓
  3. 意图识别与槽位抽取(地区=华东区,时间=本月,输出=简报)
  4. ↓
  5. 任务拆解:查询销售额、生成简报
  6. ↓
  7. 调用业务数据接口,获取销售额
  8. ↓
  9. 调用文档生成能力,输出简报
  10. ↓
  11. 格式检查与权限校验
  12. ↓
  13. 返回结果

接口失败时,中枢需要有明确的处理策略。重试次数应设上限,超过上限后返回部分结果并说明缺失项。系统不能用编造的数据补齐空缺。

四、适合先落地的场景

下表按风险等级列出常见场景及建议做法。

场景 风险等级 建议做法
企业知识问答 低 答案附引用来源,无来源时说明不确定
会议纪要与周报整理 低 生成草稿,发送前由人工确认
客服工单辅助 中 只生成回复建议,退款和改约由人工确认
数据分析助手 中 查询语句可审计,只开放只读权限
运维与研发辅助 高 默认只读,执行类操作需审批并留痕

财务、法务等高风险场景不建议让智能体自动执行。

五、模型选型的验收方法

选型不能只看参数规模。建议按真实任务准备一组样本,逐个维度打分,再按业务权重加总。

评估维度 验收方法 参考权重
中文理解 用50条真实口语化问题测试,统计正确率 20%
指令遵循 要求输出固定JSON,统计格式合法率 20%
工具调用 用30个典型任务测试参数正确率 25%
长上下文 用实际长文档测试关键信息召回率 15%
稳定性与延迟 记录P95延迟与失败率 10%
成本 按单次完整任务的Token消耗计算 10%

权重只是示例,应根据业务风险调整。

六、Token成本怎么算

基础公式如下:

  1. 总成本 = 输入Token数量 × 输入单价 + 输出Token数量 × 输出单价

计算前要确认单价口径。不同厂商可能按千Token或百万Token计价,输入与输出单价也往往不同,部分服务还提供缓存或批量折扣。具体数字应以官方价格表为准。

智能体的输入Token通常远多于用户的原始提问,包括系统提示词、工具描述、历史对话、知识库召回片段和中间推理结果。每次失败后的重试,以及每一步工具调用触发的模型请求,也都会计入成本。估算时应按一次完整任务统计,而不是只算一轮对话。

常见的优化方式有以下几种:

  1. 精简系统提示词,保留关键约束,删除重复规则。
  2. 对历史对话做摘要,只保留与当前任务相关的内容。
  3. 知识库召回按相关性筛选,不一次塞入大量片段。
  4. 简单任务用轻量模型处理,复杂任务再升级到更强模型。
  5. 缓存常见问题和固定模板的结果,并设置缓存有效期。
  6. 要求结构化输出,减少无效生成和重复调用。

七、上线前检查清单

  • 评测集:覆盖常见问题、边界问题、多轮追问和异常输入,每次改动后做回归测试。
  • 工具权限:每个工具单独授权,默认只读,写操作需要审批。
  • 失败处理:工具超时、返回空结果或参数错误时,各自有对应的回复策略。
  • 日志审计:记录用户输入、模型输出、工具调用、耗时和失败原因,敏感字段脱敏后存储。
  • 人工接管:高风险场景提供明确的转人工入口,并附带交接摘要。
  • 成本监控:按场景统计Token消耗,设置预算告警阈值。

上线前,每条检查项都应有负责人和验收标准。

发表评论

活动