与产业专家交流AI机遇
本篇完整6千字纪要,参见知识星球圈?
分布式算力市场增长空间分布式算力应用场景集中式算力的核心优势为规模化集中算力,适配大模型训练场景,但该模式对算力资源、网络带宽、电力、散热等基础设施要求极高,往往需要多台至上百台,头部互联网企业甚至需要上千台高端AI服务器(如H800、H20、H200等)集中部署才可支撑大模型训练任务。分布式算力的核心适配场景为AI推理业务,其可充分利用跨机柜、跨区域的空闲算力资源,且推理场景对底层AI服务器的算力要求较低,无需采用NVLink、OAM等高端互联模式,使用P31、寒武纪370、英伟达P4、RTX6000Ada等常规显卡即可满足需求,同时对网络带宽的要求也相对更低。从产业发展节奏来看,2023-2024年国内近200家企业布局大模型训练,但训练环节属于持续资本投入环节,仅推理场景可实现商业价值变现,2023年下半年起推理需求开始爆发并持续增长,恰好契合分布式算力的应用优势。
国内分布式算力增速国内分布式算力增长核心驱动力为推理业务需求持续扩容。从增速预期来看,2026年前国内推理业务复合增速为20%-30%,对应的分布式算力增速与该水平持平,同样保持20%-30%的复合增长。拉长周期来看,除大模型推理需求外,小模型推理场景的需求也在持续提升,叠加两类推理需求的共同拉动,2030年国内分布式算力年增速可达35%-40%。上述增速统计范围均为国内市场,且均为年均增速口径,增长的核心支撑为推理场景商业化落地进程加快,各类应用对分布式算力的需求持续释放。
海外分布式算力展望海外分布式算力增长逻辑与国内基本一致,核心为大、小模型推理需求持续释放,但供需环境与国内存在明显差异,国内受西方显卡生态供给限制,而海外尤其是北美、欧洲、日韩市场的高端算力供给更为充足,可获得英伟达GB300、GB200、B200等更先进的算力产品,训练侧算力需求成长速度更快,同时推理侧也有更丰富的专用推理卡供给,不过海内外显卡在推理场景的性能差异不大。从增速预期来看,海外(以北美为主)分布式算力年增速可达30%-40%,略高于国内水平。目前暂未掌握海外分布式算力市场规模的绝对值数据,仅对上述增速水平有相关判断。
集装箱式算力市场与竞争格局集装箱式算力核心价值集装箱式算力是分布式算力场景中的重要部署模式,核心优势突出。一是部署灵活、建设周期短,可适配企业、医疗机构、园区等需快速落地算力资源的场景;二是具备弹性扩容能力,可随业务增长在现有基础上逐步扩展算力,无需一次性完成长期规划,大幅降低前期投入门槛。相较于传统标准IDC需提前规划未来5-8年业务需求,前期建设、后续改造成本高、周期长的短板,集装箱式算力的轻量化、灵活化特征更适配算力需求不确定、业务存在阶段性波动的场景。
市场规模与增速预测当前国内集装箱式算力市场规模尚不及集中式IDC,不完全统计约为80-90亿元。当前国内存在算力芯片、算力资源供给缺口,放大了集装箱式算力的部署优势,预计未来国内市场年增速可达30%-40%。海外需求增长动能更足,北美、欧洲区域年增速有望达50%。此外,集装箱式算力具备可搬迁特性,不受地域部署限制,在地质灾害频发区域可发挥灾备应急作用,若原有数据中心因灾害损毁,传统IDC重建周期过长,集装箱式算力可快速完成算力资源整合与重建,大幅缩短灾备响应周期,具备较高市场应用价值。
海内外市场驱动因素海内外集装箱式算力的需求驱动存在明显地域差异。海外市场的核心驱动为区域自然特征,北美等区域龙卷风等极端气象、地质灾害多发,高海拔、沿海区域的腐蚀性等自然条件限制了传统IDC建设,集装箱式算力可因地制宜灵活部署,适配不同区域的自然条件约束。
本篇完整6千字纪要,参见知识星球圈?
