
AI芯片:算力的“发动机”
这是竞争最激烈、技术迭代最快的领域。报告详细对比了NVIDIA的Blackwell/Rubin架构、谷歌的TPU系列以及华为的昇腾系列。
NVIDIA:依然是霸主,其Rubin GPU性能惊人,但高昂的功耗(1200W+)也对散热和电力提出了前所未有的挑战。
国内厂商:华为昇腾系列遵循“一年一代、算力翻倍”的节奏,虽然单卡性能与NVIDIA有差距,但更注重通过“超节点”架构(如384超节点)实现集群性能的突破,展现了“系统战”的思路。摩尔线程、沐曦等新势力也在奋起直追。
AI服务器:算力的“躯干”
报告将服务器分为训练型和推理型。一个有趣的趋势是,“超节点服务器” 正在成为主流。无论是华为的昇腾384超节点,还是阿里云的磐久AL128,其核心思想都是在单节点内塞入更多的芯片,并通过超高带宽的互联技术(如NVLink、UALink)将它们“拧成一股绳”,以解决大模型训练中的通信瓶颈。
AI算力中心:算力的“工厂”
算力中心正从传统的“数据中心”升级为“AI工厂”。报告揭示了三大趋势:
高能耗:AI训练和推理的电力需求是惊人的。预计到2030年,全球AI负载容量将占算力中心总容量的71%。
液冷普及:面对上千瓦的单芯片功耗,传统的风冷已经力不从心。液冷(冷板式、浸没式)正成为新建算力中心的标配。
绿色化:PUE(电源使用效率)成为关键指标。算力中心正加速向绿电和核能主导的低碳体系过渡。
浮点精度 (FP8, FP16, FP32):简单理解,精度越高,计算越准,但速度越慢,功耗越大。AI训练和推理需要在精度和效率之间找到平衡。
HBM (高带宽内存):这是连接GPU计算核心和数据的“高速公路”。HBM的带宽直接决定了模型训练和推理的速度。报告中的数据令人咋舌:NVIDIA Rubin GPU的显存带宽高达22TB/s!
芯片互联 (NVLink, PCIe):这是连接多颗GPU的“神经网络”。NVLink的带宽远超PCIe,是实现超大规模集群的关键。
KV Cache (键值缓存):这是大模型推理优化的“杀手锏”,通过缓存历史计算结果,避免了大量的重复计算,极大提升了推理效率。
推理算力需求爆发:随着AI应用落地,推理对算力的需求将超过训练。
AI芯片走向专用化:通用GPU不再是唯一选择,专门为推理优化的LPU(如Groq)开始崭露头角。
“词元经济”兴起:Token(词元)将成为衡量AI服务价值的新货币。
算力中心走向“吉瓦级”:单个算力中心的功耗将达到吉瓦级别,堪比一个小型核电站。
—
























如何快速获取相关资料?