logo

华为和林格尔7%怎么算?读懂H100e换算

作者:公子世无双2026.11.17 03:37浏览量:0

简介:这篇文章拆解华为和林格尔与xAI Colossus 2的算力对比,说明7%只比较两个园区,且90%置信区间很宽。文中讲清H100e换算的边界,给出按功率估算的方法,并列出算力受限时模型选型、架构设计和成本监控的检查清单,帮你判断这类数字能用到什么程度。

先看结论

华为在内蒙古和林格尔的数据中心折算约8.1万张H100e,xAI在田纳西州孟菲斯的Colossus 2约110万张H100e。前者约为后者的7.4%,标题取整为7%。

这个比例只比较两个园区。它不代表中国或美国的AI算力总量,也不等于两国的训练能力。两国还有大量其他数据中心、云服务和不同来源的芯片,都没有计入这组对比。

Epoch AI给出的90%置信区间是3.6万到14.1万张H100e,对应占比约3%到13%。置信区间描述的是估算的不确定性:在这个范围内,真实值落入的把握约为90%。区间很宽,说明园区内的芯片数量和型号都是估计值。把7.4%当作精确数字,证据不够。

如何复算7%

复算可以分三步。

第一步,估计园区内每类AI芯片的数量。这一步依赖建设公告、电力容量、机房面积和供应链信息,误差来源最多。

第二步,把每类芯片的数量乘以它的H100当量系数,得到该园区的H100e总数。

第三步,用华为园区的H100e总数除以xAI园区的H100e总数,得到比例。如果芯片数量有区间,就分别用下限和上限计算,得到比例区间。

按原文数字,8.1万除以110万约为7.4%。如果采用置信区间的下限和上限,比例大致落在3%到13%之间。

两个园区的建设时间、利用率和用途也不同。有的园区刚投产,有的已接近满负荷,有的主要服务内部研发。单园区对比只能说明局部的集聚程度,不能直接推出整体差距。

H100e:统一换算的尺子

H100e(H100-equivalent)把不同芯片的理论8位计算性能换算成相当于多少张H100。原文给出的数字如下,但它们的来源和口径都需要核对:

芯片 理论8位算力(原文数值) H100当量 来源与口径
Nvidia H100 约1.98 POP/s 1 Epoch AI原文,待核验
Ascend 910C 约1.50 POP/s 0.76 Epoch AI原文,待核验
Nvidia B200/B300 约5 POP/s 2.5 Epoch AI原文,待核验

原文没有说明这些峰值是FP8还是INT8,也没有说明是否包含稀疏加速。不同口径下的结果可能相差较大。引用这些数字做采购或性能比较之前,应先回到Epoch AI的原始资料,确认版本、发布日期和口径。

H100e的边界也要说清楚。它衡量的是理论峰值算力的折算,不是实际训练吞吐。以下因素都会改变结论:

  • 利用率:同一张卡在不同任务中的实际利用率差异很大。
  • 精度:FP8、INT8和FP16的峰值不同,稀疏加速还会进一步拉开数字。
  • 内存和互联:大模型训练常受显存容量和卡间带宽限制,这些在H100e中没有体现。
  • 软件栈:驱动、编译器和框架的成熟度会明显影响国产芯片的实际表现。

同样功率能装多少卡

表中的数字还能得出两点判断。

第一,单芯片差距不到一倍。910C约为H100的0.76倍,两者处在同一量级。

第二,表中B200的H100当量是2.5倍,但这只比较了算力。如果按功耗看,结论会变化。下面用卡的TDP(设计功耗)估算,以1 MW的IT功率为例:

  • H100的TDP约700 W。1 MW可以装约1430张,合1430 H100e。
  • B200的TDP约1000 W。1 MW可以装约1000张,合2500 H100e。

2500除以1430约为1.75。也就是说,在相同功耗预算下,B200的理论H100e收益约为H100的1.75倍,低于单卡算力比的2.5倍。

这个估算仍然偏理想。TDP不等于实际IT负载,整机功耗还包括CPU、内存、网络和存储。制冷和供电也会额外消耗电力。以PUE为1.3为例,IT设备可用的功率约为总功率的77%,同样的电网容量能装的卡数会相应减少。卡的实际利用率也会改变有效算力。如果要做采购决策,应按整机功耗、目标PUE和预期利用率重新计算。

算力受限时的可执行做法

可用算力不足时,团队通常要在模型、架构和成本三个方向上做取舍。下面的检查项可以直接对照使用。

模型选型

  • 先确认任务是否真的需要最大模型。很多分类、信息抽取和检索任务用较小模型就能满足要求,推理成本可能下降一个数量级。
  • 用同一批评测集比较候选模型,记录准确率、延迟和单次调用成本,不要只看参数规模。
  • 优先选择支持量化部署的模型,并在目标精度下验证质量损失是否可接受。

架构设计

  • 对请求分层:简单请求走小模型或缓存,复杂请求再进入大模型。
  • 对长上下文做裁剪和摘要,避免每次调用都传入完整历史。
  • 在训练和推理中检查显存占用与卡间通信,先找出瓶颈,再决定是加卡还是调整并行方式。

成本监控

  • 按任务类型统计GPU小时数、平均利用率和每千次调用成本,不要只看月度总账单。
  • 设置利用率告警。长期低于目标值的集群应当回收或合并。
  • 每次上线新模型前,先在小流量下测量实际吞吐,再决定扩容规模。

结语

7%是两个园区的局部比较,置信区间很宽,H100e也只是理论峰值的折算。读这类数字时,先问清口径、范围和不确定性,再判断它能用于什么场景。

发表评论

活动