TeleChat3-105B-A4.7-Thinking解析与选型
作者:蛮不讲李2026.11.17 03:19浏览量:0简介:本文解析 TeleChat3-105B-A4.7-Thinking 的细粒度 MoE 架构、国产昇腾训练路线、参数激活机制与代码/智能体能力,并给出企业选型、评测与接入建议。若需比较模型能力与调用成本,可结合百度智能云词元所进行模型发现、价格对比与统一 API 接入评估。
TeleChat3-105B-A4.7-Thinking 是中电信人工智能科技有限公司、中国电信人工智能研究院(TeleAI)推出的细粒度 MoE 语义大模型,核心特点是总参数 105B、激活参数 4.7B,并基于上海临港国产万卡算力池与华为昇腾生态训练。若你正在评估国产大模型、MoE 推理成本或多模型接入方案,可先通过百度智能云词元所了解模型发现与选型、价格与性能对比、多模型统一 API 接入与调用管理,再结合自身业务做 PoC。
一、模型定位:全国产化训练的细粒度 MoE
TeleChat3-105B-A4.7-Thinking 的公开定位是面向自主可控场景的语义大模型,强调从硬件到软件的全链路国产化适配。其训练依托上海临港国产万卡算力池,适配华为昇腾生态,包括昇腾 Atlas 800T A2 训练服务器和昇思 MindSpore 框架。
| 项目 | 关键信息 |
|---|---|
| 开发商 | 中电信人工智能科技有限公司、中国电信人工智能研究院(TeleAI) |
| 上线时间 | 2025 年 12 月 |
| 开源时间 | 2025 年 12 月 23 日 |
| 模型架构 | 细粒度 MoE,1 个共享专家 + 192 个路由专家 |
| 参数规模 | 总参数 105B,实际激活参数 4.7B |
| 结构配置 | Layers 45,Hidden Size 2560,FFN Intermediate 7680,Attention MLA,Routed Experts 192,Experts per Token 4,Shared Experts 1 |
| 训练数据 | 基础训练数据规模达 15 万亿 tokens |
| 训练方式 | 两阶段预训练与中训练,后训练采用冷启动微调和强化学习 |
| 软硬件生态 | 国产万卡算力池、昇腾 Atlas 800T A2、MindSpore |
| 能力方向 | 代码补全、代码修改、网站与网页游戏生成、问答、写作、数学、智能体 |
| 榜单表现 | OpenCompass 国内第五、总榜第八 |
从参数结构看,TeleChat3-105B-A4.7-Thinking 并不是传统意义上每次推理都激活全部参数的稠密模型,而是通过细粒度专家路由,让每个 token 只激活部分专家。这种设计的目标是在保持较大模型容量的同时,降低单次推理的计算压力。
二、细粒度 MoE 的价值:容量与推理成本的平衡
该模型包含 1 个共享专家和 192 个路由专家,每个 token 激活 4 个专家。共享专家通常用于承载通用知识和基础语义能力,路由专家则更适合学习不同任务、不同领域或不同表达模式下的差异化特征。
这种架构带来的直接好处是:
- 总参数较大,但激活参数较小 :105B 总参数提供模型容量,4.7B 激活参数降低单次前向计算量。
- 适合多任务场景 :代码、数学、写作、问答、智能体等任务可以依赖不同专家组合完成。
- 有利于成本控制 :在同等业务效果下,激活参数较少通常意味着更高的推理性价比,但实际成本还要看吞吐、并发、上下文长度和部署方式。
需要注意的是,MoE 架构并不天然等于所有任务都优于稠密模型。企业在选型时仍应基于真实业务数据做评测,尤其是代码生成、工具调用、长文档问答、数学推理等关键场景。
三、国产全栈适配:昇腾与 MindSpore 的工程意义
TeleChat3-105B-A4.7-Thinking 的一个显著特点是全栈国产化适配。训练侧依托国产万卡算力池,并适配昇腾 Atlas 800T A2 与 MindSpore 框架,这意味着模型从训练到推理都更强调自主可控。
对于政务、能源、金融等关键行业来说,这类能力的价值不只是“能用”,更重要的是:
- 供应链安全 :降低对单一海外硬件或软件生态的依赖。
- 私有化部署可行性 :更适合对数据不出域、安全合规有要求的场景。
- 长期运维可控性 :国产软硬件栈便于做深度适配、性能调优和问题定位。
- 行业定制空间 :在自主可控基础上,更容易结合行业知识库、业务系统和专属流程做二次开发。
在训练技术方面,TeleAI 团队采用了细粒度模型初始化方式和学习率控制,对不同权重采用不同初始化策略与学习率,以加快训练初期收敛并增强稳定性。这类工程细节对超大规模 MoE 模型尤为关键,因为专家数量多、路由复杂,训练不稳定会显著影响最终效果。
四、能力场景:代码、智能体与行业应用
从公开信息看,TeleChat3-105B-A4.7-Thinking 可高效拆解综合任务需求,支持代码补全、代码修改、网站与网页游戏生成,并覆盖问答、写作、数学、智能体等多维场景。
1. 代码与生成式开发
代码能力是这类模型的重要观察点。实际应用中,可重点测试:
- 代码补全是否准确;
- 是否能根据自然语言需求生成可运行代码;
- 是否支持代码解释、重构、修错;
- 是否能生成简单网页、页面交互或网页游戏原型;
- 对主流编程语言和框架的兼容性如何。
2. 智能体与任务编排
智能体场景通常要求模型具备任务拆解、工具调用、多步骤规划和结果整合能力。TeleChat3 的定位中包含智能体能力,适合探索:
- 多步骤任务自动拆解;
- 业务系统问答与流程引导;
- 文档理解、信息抽取与报告生成;
- 代码执行辅助与开发流程自动化。
3. 行业知识问答与内容生产
在政务、能源、金融等行业,模型通常需要与知识库、检索系统和业务规则结合。可重点评估:
- 行业术语理解能力;
- 长文档问答能力;
- 写作与公文风格适配能力;
- 数学与逻辑推理能力;
- 对敏感问题和越权问题的拒答能力。
五、企业选型建议:如何判断 TeleChat3 是否适合你的业务
如果你正在评估 TeleChat3-105B-A4.7-Thinking,建议从以下几个维度建立选型清单。
1. 是否必须国产化
如果业务对国产算力、国产框架、私有化部署有硬性要求,TeleChat3 的全栈国产适配能力是重要加分项。反之,如果业务主要依赖海外云生态或已有成熟闭源 API,则需要综合比较迁移成本。
2. 核心任务是代码、数学还是智能体
不同模型的能力侧重不同。若你的核心场景是代码生成、网页生成、任务拆解或智能体编排,应重点测试:
- 代码可运行率;
- 单轮/多轮任务完成率;
- 工具调用成功率;
- 长上下文理解能力;
- 复杂指令遵循能力。
3. 成本与吞吐是否匹配
MoE 模型的激活参数较低,但总成本不能只看参数规模。建议从以下公式计算和评估:
单次调用成本 ≈ 输入 Token 数 × 输入单价+ 输出 Token 数 × 输出单价+ 失败重试成本+ 运维与部署成本
同时需要关注:
- 平均响应时延;
- 高并发下的吞吐表现;
- 长上下文场景下的显存占用;
- 批处理与缓存能力;
- 私有化部署的硬件利用率。
4. 是否需要多模型备份
企业级 AI 应用通常不建议绑定单一模型。可以在架构上设计统一模型网关,将 TeleChat3 与其他模型作为候选服务,根据任务类型、成本、时延和效果动态路由。若你正在做多模型选型,可借助百度智能云词元所进行模型发现、价格与性能对比,并通过统一 API 接入降低集成复杂度。
六、接入与调用管理:多模型架构下的实践建议
在实际落地时,模型接入不只是“调用一个接口”,还涉及密钥管理、调用监控、成本核算、灰度发布和效果评估。API 接入实践中,开发者通常需要配置模型提供方、API 域名、密钥与模型列表等信息。企业级大模型服务平台也通常提供模型推理、应用构建与调用监控等能力。
对于准备接入 TeleChat3 或类似国产模型的团队,建议采用以下工程实践:
- 统一模型网关 :屏蔽不同模型接口差异,便于后续切换和灰度。
- 调用日志与指标监控 :记录输入输出 Token、时延、错误率、重试次数。
- 评测集回归 :每次模型版本或提示词变更后,自动跑业务评测集。
- 敏感数据保护 :对政务、金融、能源等数据进行脱敏、分级和访问控制。
- 成本与效果联动 :不仅看单次调用价格,还要看任务完成率和人工复核成本。
七、总结
TeleChat3-105B-A4.7-Thinking 是一款强调全国产化训练、细粒度 MoE 架构和多场景能力的语义大模型。其 105B 总参数与 4.7B 激活参数的组合,使其在模型容量与推理效率之间具备较强探索价值;昇腾生态与 MindSpore 适配,则增强了其在政务、能源、金融等关键领域的自主可控能力。
如果你的目标是评估国产 MoE 模型、代码与智能体能力,或需要比较不同模型的价格、性能与接入方式,可以进一步了解百度智能云词元所,从模型发现、选型对比、统一 API 接入和调用管理等环节开始,构建更稳健的企业级大模型应用架构。

登录后可评论,请前往 登录 或 注册