背景
在大模型训练或推理时,多GPU同步运算,典型情况会出现计算阶段满功率 100% 负载,到了数据交换阶段瞬间跌到 30% 负载,此过程属于毫秒级甚至是微妙级的剧烈功率起伏,会造成:机柜供电冲击、母线电压骤变等可靠性风险
为了解决负载快速波动的问题,英伟达在白皮书《800 VDC Architecture for Next-Generation AI Infrastructure》中,提供4类解决方案思路,如下图所示

纵坐标:GPU负载功率,绿色虚线是平均功耗,可以看出负载有很明显的高峰(以100%为例)和低谷(以30%为例)
横坐标:时间(ms)
方案一:软件优化负载空闲(即低谷)的时间
从 AI 调度、模型算法层面优化计算流程,从根源减少 GPU 空闲的时间,把计算、数据传输任务错开,尽量不让所有 GPU 同时进入低功耗空闲阶段
特点:通过软件优化,使负载不要同时低谷、同时高峰,从而降低负载波动的幅度,不增加硬件、不牺牲算力、不额外耗电,是成本最低、效率最高的方案
定位:治本方案,优先采用
方案二:储能削峰填谷
在IT机柜就近(本地)增加储能介质,提供缓冲作用
GPU空闲时,储能充电
GPU瞬间高负载时,储能迅速放电,补充瞬间的功率缺口
特点:储能可以有效抹平尖峰电流,平滑负载曲线,从而降低负载波动的冲击
定位:解决绝大部分工况的方案(储能介质可以是电解电容/超级电容/锂电池等)
方案三:燃烧/消耗功率
当负载从高到低快速变化,此瞬间多余电能可通过储能迅速吸收,但当储能已经充满、无法再吸收瞬时过剩电能时,系统可配置泄放电路,把多余功率转换成热量耗散
特点:浪费电能、增加散热压力、效率低
定位:被动兜底,通常作为储能不够时的第二道防线,不推荐单独用来平抑负载波动
方案四:GPU 性能降额
特点:软件限制 GPU 性能,主动压低算力输出,削平功率尖峰
定位:最后兜底,牺牲算力
总结
方案一:软件消除空闲 / 错峰 → 抹平波动(最优,无副作用)
方案二:储能缓冲→ 硬件兜底抹平波动(次选,增加硬件成本)
方案三:泄放电路消耗多余电能→ 浪费电力,通常是储能充满后才用
方案四:GPU降额压低峰值→ 牺牲算力,最后兜底
这里说的储能,均为IT机柜就近端(本地)的储能系统,即目前主流的CBU、BBU等
免责声明:图片若涉及版权问题,请尽快与本公众号联系,我们将第一时间删除
中英文名词对照
GPU graphic processing unit图像处理器
CBU Capacitor Backup Unit 电容备电单元
BBU Battery Backup Unit 电池备电单元


