内容摘要
Al发展的必经之路:Alinfra全面走向超节点时代。部分投资者认为,超节点只是从八卡向更多个算力卡升级的简单堆砌,而我们认为超节点是训练侧和理侧算力基础设施发展的必选项,是未来百万卡集群的基石。(1)训练侧:随着模型参数提升以及MOE架构的转变,TP和EP带来大带宽多频次的互联需求,超节点服务器可通过内部高速总线互连,能够有效支撑并行计算任务,缩短大模型训练周期。(2推理侧:养"龙虾"时代,推理任务对KVCache缓存要求较高,超节点有效解决"内存墙"问题,且单W每秒生成Tokens更高,在推理侧更具性价比。(3)百万卡集群,Scaleup先行,超节点是未来大规模集群的地基。
报告内容
更多报告内容菜单栏
回复暗号
电子行业深度报告：超节点，国产算力进攻的“矛”-260423-东方证券-35页
联系助理获取
免责声明：以上报告均系本报告通过公开、合法渠道获得，报告版权归原撰写/发布机构所有，如有侵权，请联系作者删除，本报告为推荐阅读，仅供参考学习，不构成投资建议，如对报告内容存疑，请与撰写/发布机构联系。
