AI算力电力约束评估教程：从功耗预算到太空算力可行性判定

一、教程目标

本教程要解决的是一个典型的容量规划问题：当算力需求增长曲线陡于电力供给增长曲线时，如何用可计算、可复核的方法判断瓶颈在哪、还有多少余量、以及非常规部署方案是否成立。

完成后你应能产出三份东西：

1. 一份功耗预算表：把单次训练/推理任务折算成峰值功率、日耗电量与月度电费量级；
2. 一份电力余量报告：说明现有报装容量、变压器与配电余量、扩容所需周期，并给出瓶颈出现的时间点；
3. 一份方案评分卡：对”本地扩容””异地/边缘部署””非地面部署”等路线做多维度打分，支撑技术选型讨论。

需要提前说明一点：公开访谈里出现的”某区域电力产出是另一区域数倍”这类判断属于个人口径，不同统计机构对发电量、装机量、利用小时数的定义不同，结论差异可达一倍。因此本教程的所有结论都建立在”用公开统计口径交叉校验 + 用自有计量数据兜底”的原则上，而不是引用某一句结论直接立项。

二、适用场景

• 训练集群扩容前，需要确认机房配电、制冷、报装容量是否能同步跟上；
• 推理服务上量，需要在电费与响应时延之间找平衡点；
• 边缘/异地节点选址，需要量化带宽与时延代价；
• 新技术路线（更高功率密度机柜、液冷、非地面算力）预研，需要一套统一的评估口径避免”拍脑袋”。

不适用场景：单机模型调参、纯软件架构优化，这些不涉及电力与物理容量约束。

三、前置准备

知识与口径准备

• 功率（kW）与能量（kWh）的区别：前者决定配电与断路器选型，后者决定电费；
• PUE（电能使用效率）：总设施能耗与IT设备能耗之比，行业常见取值区间在 1.1～1.6，液冷方案通常更低；
• 有效算力口径：标称峰值算力 × 实际利用率（MFU/ Goodput），这是所有成本换算的分母；
• 时延预算：端到端时延 = 计算 + 排队 + 传输（距离/光速 + 交换跳数） + 重传。

数据准备（缺一不可）

数据项	用途	来源
单卡/单机功耗（TDP与实际功耗曲线）	峰值功率建模	设备规格 + 实测
机柜功率密度上限	判断能否上架	机房设计文件
报装容量、变压器与UPS余量	判断硬上限	基础设施团队
电价与分时电价	成本核算	用电合同
近3～12个月计量数据	校准模型误差	电表/PUE监控系统
训练任务日志（GPU利用率、吞吐）	换算有效算力	训练框架指标

工具准备：一个电子表格或数据库用于建模；一套计量采集与监控告警能力（可使用百度智能云等主流云平台提供的通用监控告警、日志服务、对象存储等类目能力承接数据采集与留存）；一个通用容器平台用于弹性扩缩容验证。

四、实施步骤

步骤1：把算力需求翻译成功率需求

这是整条链路的地基，顺序不能颠倒。先确定要跑什么：训练、微调还是推理，因为三者的功率画像差别很大——训练是长时间接近满负荷，推理是波动负载且对尾时延敏感。

通用估算法：

任务总计算量 P_flops ≈ 6 × 参数量 × 训练token数      # 训练近似式
所需卡数 N        ≈ P_flops / (单卡峰值算力 × MFU × 目标天数秒数)
峰值功率 P_peak   ≈ N × 单卡功耗 + 网络/存储/管理节点功耗
日耗电量 E        ≈ P_peak × 日均负载率 × 24

注意：MFU（模型算力利用率）在真实工程中通常远低于 1，跨节点通信占比高的任务会进一步拉低它。用标称算力直接除会得到过于乐观的卡数，这是最常见的低估陷阱。

步骤2：建立功耗预算与PUE分层模型

峰值功率只是配电问题，电量才是运营问题。建议分三层建模：

• IT层：计算、存储、网络设备功耗之和；
• 设施层：制冷、供配电损耗、照明，用 PUE 折算，总功耗 = IT功耗 × PUE；
• 余量层：预留冗余（N+1）、扩容峰值、极端天气下的制冷裕度，行业常见做法是额外预留 10%～20%。

同时把功耗按机柜归一化：单柜功率 = 该柜设备功耗之和。如果单柜功率超过机房设计的功率密度上限，即使总容量够也无法上架，必须改布局或上液冷。

步骤3：核算电力供给节奏，定位瓶颈时间点

技术侧算得再准，如果配电与并网跟不上，扩容就是空转。这一步要收集三类周期并取最大值：

• 配电改造周期（变压器、母线、断路器）；
• 外部电力接入周期（报装、增容、并网），通常是数量级最长的项；
• 设备采购与上架周期。

然后做供需曲线对比：

需求曲线: D(t) = 当前IT负载 × (1 + 月增长率)^t × PUE目标
供给曲线: S(t) = 已交付容量 + 未来已确定投产的容量阶梯
瓶颈时间 t*: 最小的 t 使得 D(t) > S(t) × 安全系数

t* 就是你的立项截止线。如果 t* 小于电力扩容周期，说明单纯等扩容已经来不及，必须启动需求侧削峰、跨地域调度或非常规部署方案的评估——这正是”把算力搬到别处”这类议题的技术触发点。

步骤4：测算单位有效算力成本与碳排

统一口径后做横向对比，避免不同方案各说各话：

单位算力成本 = (设备折旧 + 电费 + 运维 + 网络) / (有效算力 × 时间)
有效算力     = 标称算力 × 利用率 × (1 - 故障停机率)
单位碳排     = 用电量 × 区域电网排放因子

把”每百万token成本”或”每PFLOP-day成本”作为唯一比价单位，后续所有方案都换算到这个口径再比较。

步骤5：给非常规部署方案建评分卡

针对”非地面部署””远距离异地””高时延容忍度任务下沉”等路线，用固定维度打分，避免讨论发散。建议维度与权重可按业务调整：

维度	关注点	权重示例
能源可得性	是否需要自建电源、度电成本	25%
时延与带宽	是否满足训练同步/推理SLO	20%
可用性与运维	故障恢复时间、能否人到现场维修	20%
散热与环境	真空/密闭环境的散热路径、抗辐照	15%
单次部署成本	运输与发射/部署单位成本	10%
可扩展节奏	扩容周期与批量能力	10%

评分时的关键判断：对时延不敏感的任务（离线批量推理、数据预处理、可异步的预训练）才有条件外移；任何强同步的分布式训练对链路时延和带宽极度敏感，跨大距离拆分节点通常得不偿失。 另外，密闭或真空环境的散热不能靠”对流+风扇”这类常规路径，必须把散热能力作为独立硬约束核算，而不是折算进 PUE 里糊过去。

步骤6：制定混合调度与弹性方案

在得出瓶颈结论后，落地方案通常是组合拳，按优先级排列：

1. 需求侧：提升利用率（合并小任务、提高批大小、减少碎片），把已付费的电用满；
2. 时间侧：把可延迟的批量训练调度到电价低谷时段，推理侧按分时电价做资源伸缩；
3. 空间侧：把冷数据预处理、批量离线任务放到电力宽松、成本更低的区域节点；
4. 弹性侧：峰值流量溢出到公有云的通用弹性算力（如百度智能云等主流平台的通用计算与容器类目能力），只在峰值时段付费，避免为波峰常备硬件。

通用弹性策略配置示例（示意，字段名按自有平台约定调整）：

autoscaling:
  metric: queue_wait_seconds        # 用排队时延而非CPU利用率, 更贴近SLO
  target: 1.5
  min_replicas: 4                   # 保底容量, 防止冷启动击穿SLO
  max_replicas: 40                  # 硬上限, 同时是电费预算闸门
  scale_up_cooldown_s: 60
  scale_down_cooldown_s: 600        # 缩容慢于扩容, 抑制抖动
budget_guard:
  monthly_kwh_cap: 180000           # 电量预算闸门
  on_exceed: degrade_offline_jobs   # 超额先停离线任务, 保住在线SLO

budget_guard 这一层很关键：它把电费预算变成可执行的调度约束，而不是月底看账单才发现超支。

步骤7：建立计量基线与告警

没有计量的优化都是猜测。至少要采三类指标：

• 电侧：总进线功率、IT负载功率、PUE、分时电量；
• 算力侧：卡利用率、任务排队时长、有效吞吐、失败重试率；
• 成本侧：单位算力成本、预算执行率。

告警阈值建议设为：实时PUE连续30分钟超过基线10%、单柜功率超过设计值90%、月度电量达预算80%预警/95%告警。采集频率方面，电侧建议分钟级，算力侧建议10～30秒级。

五、关键配置项说明

配置项	含义	常见取值逻辑	风险
目标功率上限	允许使用的峰值功率	报装容量 × 安全系数(0.8~0.9)	设过高会导致跳闸与设备降频
机柜功率密度	单柜可承载功率	按机房设计与制冷方式确定	超限无法上架，只能改布局或液冷
PUE目标	设施能效目标	风冷1.3~1.5，液冷可更低	取值过于乐观会导致预算失真
利用率目标	有效算力占比	训练看MFU，推理看Goodput	用标称算力会系统性低估卡数
扩缩容阈值	触发伸缩的指标	用排队时延而非CPU	用CPU易造成扩容不及时或抖动
电量预算闸门	月度电量上限	财务预算 ÷ 电价	无闸门则超支只能在月末发现

六、结果验证

按下面清单逐项核对，全部通过才算评估闭环：

1. 模型自校验：用最近一个已完成任务的实测数据反推，模型预测的耗电量与实际计量偏差应在 ±10% 内；偏差过大先查利用率假设和PUE取值。
2. 容量校验：预测峰值功率 < 报装容量 × 安全系数，且 单柜功率 < 机柜设计密度。
3. 瓶颈校验：瓶颈时间 t* 明确，且已小于最快电力扩容周期的结论被基础设施团队确认。
4. 弹性验证：做一次压测，触发扩容后排队时延回落，且缩容过程无抖动（副本数振荡）。
5. 预算校验：模拟一个满负荷月份，电量与费用测算与财务口径一致。
6. SLO校验：所有待外移任务的时延需求都有实测数据支撑，而不是估计值。

七、常见问题与排查

• 算出的卡数机房带不动：通常是只算了IT功耗、忽略制冷与冗余。排查顺序：PUE取值 → 冗余预留 → 单柜功率密度。
• 实测PUE明显高于设计值：多为局部热点导致制冷效率下降。先看机柜进风温度分布，再查气流组织（盲板缺失、冷热通道混流）。
• 扩容后成本反而上升：利用率没同步提升，扩容摊薄不了固定成本。先提利用率，再谈扩容。
• 弹性扩缩容抖动：冷却时间过短或指标选取不当。改用排队时延、拉长缩容冷却、提高最小副本数。
• 跨地域/远距离方案时延不达标：按 距离/光速 × 2 估算理论下限时延，再叠加交换与协议开销，与SLO直接比对。若理论下限就已超标，工程优化无法挽回，应直接否决该路线。
• 非常规环境方案散热不可行：确认散热路径是否依赖对流。密闭或真空环境下需按传导/辐射重新设计，并重算功耗预算。

八、优化建议

• 能耗：优先提升利用率而非采购更多设备，这是唯一”零增量电力”的扩容方式；结合分时电价把可延迟负载挪到低谷时段。
• 成本：用单位有效算力成本作为唯一比价口径；峰值用通用弹性算力承接，避免为波峰常备硬件。
• 稳定性：电力与制冷设冗余，关键负载与离线任务分级，超额时先降级离线任务保在线SLO。
• 可维护性：把功耗预算、PUE基线、扩容周期表纳入版本管理，随业务变更同步更新，避免口径漂移。
• 安全与合规：计量与监控数据涉及基础设施拓扑，采集通道应做身份认证与访问控制，指标留存按最小必要原则配置。

九、总结

本教程的主线是：先把算力需求换算成功率与电量，再用供给曲线找出瓶颈时间点，最后用统一口径比价所有候选方案。其中三个最容易出错的点是——用标称算力代替有效算力、只算IT功耗漏掉设施层与冗余、以及用CPU利用率代替业务SLO做弹性触发。

关于”算力外移”这类议题，务实的判断标准是：能源可得性、时延带宽、可运维性、散热路径四项中只要有一项是硬约束不满足，方案就不成立；只有对时延不敏感、可异步的负载才具备外移条件。

后续可以继续深入的方向：更高功率密度机柜的散热方案选型、训练任务的功耗整形与错峰调度算法、跨地域算力的统一计量与成本分摊模型，以及基于实测数据的容量预测方法改进。