社会热点
行业观察|从Etched看未来推理市场:系统级方案构建核心竞争力
2026-07-30 03:12
行业观察|从Etched看未来推理市场:系统级方案构建核心竞争力

近期,AI芯片市场出现了一个值得关注的信号。AI芯片公司Etched宣布完成3亿美元C轮融资,公司估值达到103亿美元。一家专注推理的AI芯片公司获得百亿美元估值,这背后反映的并不只是某一家芯片公司的融资热度,而是AI算力需求形成了训练 + 推理双轮驱动格局,推理专用算力作为独立发展路径逐步壮大,逐步成为AI基础设施的另一核心赛道。

01

全栈定制的推理芯片

    Etched 能够获得资本市场高度认可,核心依托其面向Transformer大模型推理的全套软硬件协同创新。其自研Sohu芯片采用N4P制程,核心打造两大突破性技术:一是自研低电压推理架构,通过电路、封装、调度算法全栈协同优化,将计算单元运行电压降至主流 AI芯片一半以下,有效规避高负载下的热节流问题,运行万亿参数稀疏 MoE模型时算力利用率可稳定维持 80% 以上。二是片上SRAM+HBM混合内存搭配集群级共享内存互联方案,兼顾低延迟解码与大容量权重存储,适配长上下文、多智能体等复杂推理场景。同时专门针对Transformer工作负载做硬件硬编码适配,舍弃通用计算能力换取推理场景下的Token产出效率优化,这套差异化技术方案也让其收获了超 10 亿美元客户订单。

    这类专用推理硬件的落地,也让行业清晰看到算力赛道分化发展的可能性。

02

模型推理需求的快速扩张

    过去几年,大模型产业的核心命题是 “如何训练出更强的模型”。因此,峰值算力、显存容量、GPU互联和集群规模成为AI芯片竞争的核心指标。

    但模型训练完成并不意味着算力需求结束。当模型真正进入应用阶段,用户每一次对话、Agent 每一次调用、代码生成、搜索、视频生成,都意味着持续的推理计算。随着 AI 从 “聊天机器人” 走向Agent、Coding和多模态应用,推理正在成为高频、持续且规模巨大的计算过程。训练决定模型能走多远,推理决定模型能够被多少人使用。

   未来 AI 算力市场的增量,推理侧会迎来显著增长,这也将推动 AI 芯片的设计目标形成差异化路线。

   训练与推理虽然运行的是同一个模型,但硬件需求并不完全相同。训练更强调大规模并行计算,而大模型推理尤其是Decode阶段,则越来越受到内存容量、带宽、数据搬运、延迟和能耗等因素影响。因此,单纯追求更高的FLOPS,并不意味着推理效率一定同比提升。

    这也正是Etched等公司的切入点:与其做一块 “什么都能算” 的通用芯片,不如针对确定的模型架构和推理工作负载进行深度优化。Etched甚至进一步将芯片、封装、PCB、散热、互联和软件共同设计,试图打造面向前沿模型的完整推理系统。

03

从 “算力 ” 到 “效率”

    如果说训练时代最容易理解的指标是 “多少PFLOPS”,那么推理时代评价AI芯片的指标体系可能进一步向Token/s、Token/W、Token/¥、延迟以及整体TCO倾斜。

    这也解释了为什么ASIC、TPU以及各种专用AI加速器正在获得越来越多关注。它们并不一定要全面取代GPU,而是通过针对特定模型、特定工作负载进行优化,在特定场景获得更高的能效和成本优势。

    需要强调的是,推理需求增长并不意味着GPU时代结束,英伟达此前推出的LPU+GPU异构协同方案,正是原厂围绕推理场景、依托GPU生态延伸出的全新算力组合路线,通过GPU承载推理里计算密集的上下文填充、注意力运算,搭配LPU负责低延迟解码环节,进一步夯实GPU在推理体系里的核心底座地位。

   模型架构仍在快速迭代,AI 应用场景高度复杂,GPU成熟的软件生态和通用计算能力依然具有明显优势。

   未来更可能出现的并不是 “GPU被ASIC取代”,而是GPU、ASIC、TPU 等不同类型加速器围绕不同工作负载形成异构算力体系。

    未来模型可能继续变大,但模型应用规模很可能增长得更快。算力产业真正需要解决的问题,也将从 “如何训练更大的模型”,逐步转向 “如何让更多人以更低成本使用模型”。

    芯桥认为,下一阶段 AI 芯片的竞争核心,最终可能不只是峰值算力,而是有效算力密度、Token成本、能效比、软件适配能力以及整体TCO。训练与推理双线并行发展,也不只是AI工作负载结构的变化,更将推动AI算力产业形成多元共存的全新竞争格局。

关于芯桥

芯桥(北京)半导体有限公司由智算产业资深人士发起设立,深耕于国产通用高性能GPU芯片,支持国内人工智能产业发展。

发表评论
0评