推广 热搜: 采购方式  滤芯  带式称重给煤机  甲带  气动隔膜泵  减速机型号  无级变速机  链式给煤机  履带  减速机 

详解英伟达800Vdc白皮书 |4种针对负载快速波动的解决方案

   日期:2026-07-11 17:38:31     来源:网络整理    作者:本站编辑    评论:0    
详解英伟达800Vdc白皮书 |4种针对负载快速波动的解决方案

在大模型训练或推理时,多GPU同步运算,典型情况会出现计算阶段满功率 100% 负载,到了数据交换阶段瞬间跌到 30% 负载,此过程属于毫秒级甚至是微妙级的剧烈功率起伏,会造成:机柜供电冲击、母线电压骤变等可靠性风险

为了解决负载快速波动的问题,英伟达在白皮书800 VDC Architecture for Next-Generation AI Infrastructure中,提供4类解决方案思路,如下图所示

纵坐标GPU负载功率,绿色虚线是平均功耗,可以看出负载有很明显的高峰(以100%为例)和低谷(以30%为例)

横坐标:时间(ms

方案一:软件优化负载空闲(即低谷)的时间

 AI 调度、模型算法层面优化计算流程,从根源减少 GPU 空闲的时间,把计算、数据传输任务错开,尽量不让所有 GPU 同时进入低功耗空闲阶段

特点通过软件优化,使负载不要同时低谷、同时高峰从而降低负载波动的幅度不增加硬件、不牺牲算力、不额外耗电,是成本最低、效率最高的方案

定位:治本方案,优先采用

方案二:储能削峰填谷

IT机柜就近(本地)增加储能介质,提供缓冲作用

GPU空闲时,储能充电

GPU瞬间高负载时,储能迅速放电,补充瞬间的功率缺口

特点:储能可以有效抹平尖峰电流,平滑负载曲线,从而降低负载波动的冲击

定位:解决绝大部分工况的方案(储能介质可以是电解电容/超级电容/锂电池等)

方案三:燃烧/消耗功率

当负载从高到低快速变化,此瞬间多余电能可通过储能迅速吸收,但当储能已经充满、无法再吸收瞬时过剩电能时,系统可配置泄放电路,把多余功率转换成热量耗散

特点浪费电能、增加散热压力、效率低

定位:被动兜底,通常作为储能不够时的第二道防线,不推荐单独用来平抑负载波动

方案四:GPU 性能降额

特点:软件限制 GPU 性能,主动压低算力输出,削平功率尖峰

定位:最后兜底,牺牲算力

总结

方案软件消除空闲 / 错峰 → 抹平波动(最优,无副作用)

方案储能缓冲→ 硬件兜底抹平波动(次选,增加硬件成本)

方案泄放电路消耗多余电能→ 浪费电力,通常是储能充满后才用

方案GPU压低峰值→ 牺牲算力,最后兜底

这里说的储能,均为IT机柜就近端(本地)的储能系统,即目前主流的CBUBBU

免责声明:图片若涉及版权问题,请尽快与本公众号联系,我们将第一时间删除

中英文名词对照

GPU graphic processing unit图像处理器

CBU Capacitor Backup Unit 电容备电单元

BBU Battery Backup Unit 电池备电单元

 
打赏
 
更多>同类资讯
0相关评论

推荐图文
推荐资讯
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  皖ICP备20008326号-18
Powered By DESTOON