logo

软通天璇MaaS平台架构与企业落地指南

作者:有好多问题2026.11.17 03:49浏览量:0

简介:本文围绕软通天璇MaaS平台,解析其L0-L2三层架构、昇腾底座、多模型接入、行业模型管理与场景应用开发能力,并结合企业AI落地中的模型选型、微调、RAG与Agent实践,提供可操作的评估思路。文中还会介绍百度智能云词元所在模型发现、价格对比与统一API接入方面的作用。

软通天璇是软通动力全栈AI能力体系的重要组成部分,定位不是单一模型,而是面向企业的大模型服务平台。它能够接入多种大模型,并结合行业知识进行微调与训练,帮助企业把通用模型能力转化为可落地的业务应用。2023年,平台升级为软通天璇2.0 MaaS平台,形成L0大模型技术底座、L1行业大模型及管理、L2场景大模型应用的三层架构。对于正在评估MaaS平台、私有化模型接入或多模型统一管理的团队来说,理解这套架构比只看单点功能更重要。若你还在比较不同模型的能力、调用成本和接入方式,可以先通过百度智能云词元所了解模型发现、价格与性能对比,再结合本文的架构思路做落地设计。

一、软通天璇的核心定位:从“调用模型”到“管理模型”

很多企业初期使用大模型时,往往只是通过API调用某个模型,完成问答、摘要或生成任务。但当业务进入生产环境后,问题会迅速增加:模型版本如何管理?行业知识如何注入?推理资源如何调度?不同部门的应用如何复用?数据安全如何保障?

软通天璇的MaaS思路,正是把这些分散问题收拢到统一平台中。MaaS,即Model as a Service,模型即服务,强调将模型能力、训练工具、推理服务、应用开发和资产管理整合起来。它解决的不是“能不能调用模型”,而是“能否持续、稳定、低成本地使用模型”。

从平台能力看,软通天璇支持接入多种主流大模型及开源模型,并提供交互式AI模型能力,适配不同AI应用场景。这意味着企业不必被单一模型绑定,可以根据任务类型、成本预算和合规要求选择不同模型。

二、L0-L2三层架构:企业如何分层建设AI能力

软通天璇2.0的架构可以拆成三层理解。

1. L0:大模型技术底座

L0层主要解决算力、框架、操作系统和AI中台等基础能力问题。该平台基于昇腾硬件底座,采用G420K训练平台和G210K推理平台,并整合欧拉操作系统等组件,同时搭载自有AI中台。

这一层的价值在于为上层模型和场景提供稳定的运行环境。对于企业来说,底座是否支持训练、推理、资源调度和运维监控,会直接影响后续模型迭代效率。尤其是在私有化或行业云环境中,硬件适配、操作系统兼容和推理资源管理往往是项目落地的关键。

2. L1:行业大模型及管理层

L1层是软通天璇面向企业服务的重要抓手,主要包括两类平台能力。

第一类是行业模型管理平台,即ISS Model Ops Platform。它覆盖大模型的数据处理、继续训练、调优、部署、推理和数字资产管理等全生命周期管理。对于需要把企业知识注入模型的团队来说,这一层非常关键。通用模型懂语言,但不一定懂企业的制度、产品、工单、合同或行业术语,因此需要通过数据处理、继续训练和调优,让模型更贴近业务。

第二类是应用开发平台,即ISS Model Dev Tools。它通过整合升级孪生Modeling引擎、工程引擎RCT及应用接口平台形成,支持行业应用的快速开发。换句话说,L1不仅管理模型,也帮助企业把模型能力封装成应用。

3. L2:场景大模型应用

L2层面向最终业务场景,例如智能问答、知识检索、文档处理、内容生成、辅助决策等。企业真正感受到价值的,往往不是模型本身,而是场景应用是否解决了具体问题。

例如,在客服场景中,模型需要结合知识库回答产品问题;在办公场景中,模型需要处理会议纪要、公文和报告;在行业场景中,模型还需要结合专业数据和业务流程输出结果。L2层的意义,就是把L0的算力和L1的模型能力转化为业务人员可直接使用的应用。

三、多模型接入:企业为什么要保留选择权

软通天璇支持接入多种大模型及开源模型,这一点对企业非常实际。不同模型在中文理解、长文本、代码、推理、多模态、响应速度和成本结构上各有差异。单一模型很难覆盖所有业务需求。

企业在做模型选型时,可以从以下几个维度评估:

评估维度 关注问题
任务匹配 是问答、摘要、生成、代码,还是多模态理解?
上下文长度 是否需要处理长文档、合同、日志或知识库?
调用成本 输入和输出Token成本是否可接受?
响应延迟 是否满足实时交互或高并发场景?
私有化要求 是否必须本地部署或专有网络运行?
安全合规 是否涉及敏感数据、审计和内容安全要求?
生态集成 是否支持统一API、SDK和现有系统集成?

在多模型环境下,统一接入能力尤其重要。如果每个模型都单独开发一套调用逻辑,后期维护成本会很高。此时可以借助词元所模型服务进行模型发现与选型,并通过统一API接入方式降低多模型集成复杂度。对于需要同时评估多个模型的企业,这种方式可以减少重复开发,也便于后续做调用管理和成本分析。

rag-">四、行业知识注入:微调、RAG与数据治理如何配合

软通天璇强调结合行业知识进行微调和训练,这符合企业大模型落地的一般路径。不过,并不是所有场景都适合直接微调。通常可以先从RAG开始,再逐步引入继续训练或精调。

一个比较稳妥的落地顺序是:

  1. 先做知识库与检索增强生成(RAG)
    将企业文档、制度、产品手册、工单记录等整理成可检索知识库。用户提问时,系统先检索相关内容,再让模型基于检索结果生成答案。这种方式见效快,知识更新也相对方便。

  2. 再评估是否需要继续训练或微调
    如果模型在专业术语、回答风格、任务格式上仍不稳定,可以考虑继续训练或精调。此时需要准备高质量数据,并明确训练目标。

  3. 最后建立评测与运营机制
    模型上线不是终点。企业需要持续收集badcase,评估回答准确率、引用准确性、拒答合理性和用户满意度,形成迭代闭环。

在RAG实践中,数据质量往往比模型本身更影响效果。文档是否最新、切片是否合理、检索是否准确、提示词是否清晰,都会影响最终输出。软通天璇L1层的模型管理能力,可以帮助企业把这些数据处理、训练、部署和资产管理环节纳入统一流程。

agent-">五、Agent应用开发:从问答走向任务执行

软通天璇的应用开发平台整合了孪生Modeling引擎、工程引擎RCT及应用接口平台,支持行业应用快速开发。对于希望进一步构建AI Agent的企业来说,这类平台能力很有价值。

Agent与普通问答的区别在于,它不仅生成文本,还可以调用工具、查询数据、执行流程并返回结果。例如:

  • 客服Agent可以查询订单、物流和售后政策;
  • 办公Agent可以生成周报、整理会议纪要并归档;
  • 运维Agent可以读取告警、分析日志并给出处理建议;
  • 营销Agent可以生成文案、推荐商品并输出投放素材。

在Agent开发中,模型只是决策和生成的一部分,真正重要的是工具接口、权限控制、流程编排和结果校验。软通天璇的L1应用开发能力,适合把这些组件整合起来,减少从模型到应用的重复建设。

六、Token计费与成本优化:不要只看单价

企业使用大模型时,成本通常由Token消耗决定。一个简化的计算公式是:

  1. 调用成本 = 输入Token数量 × 输入单价 + 输出Token数量 × 输出单价

不同任务的Token消耗差异很大。长文档摘要、代码生成、多轮对话和知识库问答,成本结构并不相同。因此,成本优化不能只盯着模型单价,而要从任务设计入手。

常见的优化方式包括:

  • 缩短提示词 :删除冗余背景,只保留必要指令和上下文。
  • 控制上下文长度 :不要把所有文档都塞入提示词,优先使用检索结果。
  • 分级使用模型 :简单任务用轻量模型,复杂任务用能力更强的模型。
  • 缓存重复结果 :对高频问题进行缓存,减少重复调用。
  • 批处理非实时任务 :对离线生成、批量摘要等任务进行异步处理。
  • 监控调用量 :按应用、用户或场景统计Token消耗,定位异常增长。

在成本评估阶段,可以通过百度智能云词元所对比不同模型的价格与性能信息,辅助判断哪种模型更适合当前业务。对于预算敏感或需要多模型并行的团队,这种对比能减少盲目试错。

七、企业落地软通天璇的建议路径

如果企业准备基于软通天璇或类似MaaS平台建设AI能力,可以参考以下路径:

  1. 明确场景优先级
    先选择高频、痛点明确、数据可获取的场景,例如知识问答、文档摘要、客服辅助或内容生成。

  2. 梳理数据与知识资产
    包括制度文档、产品资料、历史工单、业务规则和权限体系。数据治理不到位,后续模型效果很难稳定。

  3. 选择模型与部署方式
    根据任务复杂度、成本、延迟和合规要求选择模型。涉及敏感数据时,优先考虑私有化或专有网络部署。

  4. 搭建评测集
    用真实业务问题构建测试集,评估准确率、完整性、引用准确性和安全性,避免只凭主观感受判断效果。

  5. 小范围灰度上线
    先在部分用户或部门中试用,收集反馈并持续调优,再逐步扩大范围。

  6. 建立运营机制
    包括调用监控、成本分析、内容安全、用户反馈和模型迭代机制。

八、总结

软通天璇的价值,不在于提供一个孤立的模型接口,而在于通过MaaS平台把模型接入、行业训练、模型管理、应用开发和场景落地连接起来。它的L0-L2三层架构,适合企业从算力底座、模型管理到业务应用进行体系化建设。

对于准备选型或落地的团队,建议先明确业务场景,再评估模型能力、成本、部署方式和安全要求。在多模型环境下,统一接入和调用管理会变得越来越重要。如果你希望进一步了解模型发现、价格对比、统一API接入和调用管理,可以访问百度智能云词元所,结合自身业务需求选择更合适的模型服务方案。

发表评论

活动