展会资讯
行业报告 |“模型即芯片”:AI 推理芯片的另一个极端
2026-08-26 15:35
行业报告 |“模型即芯片”:AI 推理芯片的另一个极端
过去几年,AI 芯片行业最重要的问题一直是如何制造更强大的 GPU。更高的 FLOPS、更大的 HBM、更快的芯片互联和更庞大的 GPU 集群,几乎构成了整个 AI 基础设施竞争的主线。
但随着大模型从训练竞赛转入大规模应用阶段,行业真正需要回答的问题变了。对于一家每天处理数十亿甚至数百亿次模型调用的平台,影响经营结果的已不只是峰值算力,而是每百万 Token 需要花多少钱、每焦耳电能能够生成多少 Token、单个用户能获得多高的 Decode 速度、Agent 完成一次复杂任务需要多长时间,以及一台服务器、一个机柜乃至整个数据中心每天究竟能生产多少“智能”。
AI 芯片的竞争焦点,正从“谁拥有最大的计算能力”转向一个更现实的问题:

谁能够以最低的成本持续生产智能。

正是在这样的背景下,一条过去看来相当极端的技术路线开始进入产业视野。它不再试图制造一颗能够运行所有模型的通用芯片,而是反过来,先确定模型,再围绕模型本身制造芯片。
本文把这条路线概括为:
“模型即芯片”。
“模型即芯片”目前并非统一的行业术语。不同企业会使用 Model-Specific Silicon、Hardwired Model、Model Processing Unit(MPU)等名称,但这些概念背后的技术逻辑非常接近:通过牺牲一部分模型通用性,把模型结构乃至大量模型权重直接映射到硬件中,减少显存访问、权重搬运和通用计算结构带来的额外开销。
这条路线如果成立,大概率不会简单取代 GPU,而是推动 AI 计算基础设施进一步分层:GPU 负责训练和不断变化的前沿模型,Inference ASIC 负责相对稳定的模型架构,Model-Specific ASIC / MPU 负责调用规模巨大、生命周期足够长的固定模型,CIM / NVM 则更多进入功耗和带宽高度受限的端侧场景。
在目前所有公开项目中,最值得关注的商业案例是加拿大公司Taalas
2026 年 8 月 6 日,AMD 已经与 Taalas 签署最终收购协议。这意味着“模型即芯片”第一次真正进入了全球主流 AI 芯片公司的战略版图。

一、什么叫“模型即芯片”

传统 CPU、GPU 和大部分 NPU 的设计逻辑,都是先制造一颗具有较高通用性的计算芯片,再把不同模型加载进去运行。这也是 GPU 最重要的优势之一:今天可以运行 Llama,明天可以换成 Qwen;只要硬件能力仍然适用,模型结构变化通常只需更新软件,不必重新制造芯片。
“模型即芯片”则把专用化程度继续向前推进。它不再问“一颗芯片能够兼容多少模型”,而是反过来问:

如果模型已经确定,我们能否直接围绕这个模型设计芯片?

这类芯片通常具有几个明显特征:硬件针对具体模型或模型家族设计,模型结构与硬件数据流高度绑定,部分甚至大量模型参数直接映射到物理电路中,同时尽量减少运行过程中对外部存储的权重读取。它牺牲的是模型可替换性,换取的是更高的吞吐、能效和成本效率。
按照专用化程度,大致可以形成如下技术谱系:
芯片类型
主要优化对象
模型可替换性
CPU
通用计算
很高
GPU
高并行计算
NPU / TPU
神经网络算子
较高
Transformer ASIC
Transformer 架构
中等
Model-Specific ASIC
某类或某个具体模型
Hardwired Model ASIC
具体模型及大量参数
很低
传统 AI ASIC 并不新鲜。Google TPU、各种 NPU 和推理 ASIC,都在用专用化换取效率。真正值得关注的是,Taalas、HNLPU 等路线把这种专用化继续推进到了具体模型本身
传统 AI ASIC 更多是在说:

“我专门优化 Transformer。”

而 Model-Specific ASIC 更接近:

“我就是为这一个模型而生的。”

两者之间的差别,可能比表面看起来大得多。

二、为什么偏偏是现在

1. 推理正在成为另一场成本战争

过去几年,AI 基础设施主要围绕训练建设,行业最关注的是 FLOPS、HBM、GPU 数量、高速互联和软件生态。到了大规模推理阶段,经营者真正关心的数字变成 Token/$、Token/J、首 Token 延迟、Decode 速度、P99 延迟和单机柜吞吐。
原因不复杂。训练模型是一笔阶段性巨额投入,推理却伴随模型整个商业生命周期持续发生。如果一个模型每天产生数十亿、数百亿甚至更多 Token,单位 Token 成本哪怕只降低几个百分点,最终都会转化成可观的成本差异。
推理芯片竞争的核心,正在从“最高算力”转向“最低单位智能成本”。

2. 大模型越来越像一台“搬运权重”的机器

大语言模型推理需要持续访问大量模型参数,传统架构中的数据路径大致是:
模型权重 → HBM / DRAM → 片上缓存 → 计算单元
模型越大,需要移动的数据就越多,数据搬运本身既消耗能源,也占用时间。即使 GPU 的计算单元越来越强,只要权重无法足够快地送达计算单元,理论 FLOPS 就无法完全转化成实际模型吞吐。
这就是通常所说的Memory Wall
Taalas、HNLPU 等路线试图解决的正是这一问题。与其让芯片每次推理都重新从存储系统中“找到模型”,不如让模型的一部分直接成为硬件结构本身。
传统过程是:
存储模型 → 搬运模型 → 执行模型
“模型即芯片”试图做的,是尽可能压缩这三者之间的边界。

3. 电力正在成为 AI 的硬约束

这条路线重新受到关注,还有另一个非常现实的背景:电力。
IEA 2026 年发布的《Key Questions on Energy and AI》指出,2025 年全球数据中心用电需求同比增长约 17%,其中 AI 专用数据中心用电增长约 50%。IEA 的基准预测显示,到 2030 年全球数据中心用电量可能达到约 950 TWh,接近 2025 年的两倍,AI 专用数据中心同期用电需求预计增长至约三倍。
与此同时,Reasoning、Agent 和视频生成等复杂工作负载的单次计算与能源需求,又明显高于简单文本生成。
未来 AI 基础设施真正需要回答的问题,已经不只是“有多少 GPU”,而是:

究竟需要多少电力、多少存储和多少资本,才能生产一个有效 Token。

这正是高度专用化推理芯片重新获得吸引力的根本原因。
资料来源:
IEA:Key Questions on Energy and AI
IEA:Data centre electricity use surged in 2025

三、Taalas:把 Llama 直接做进芯片

Taalas 成立于 2023 年,总部位于加拿大多伦多,对自己技术的概括非常直接:

The Model is The Computer

也就是:

模型就是计算机。

Taalas 把自己的路线称为Total Specialization:与其制造一颗能够运行许多模型的处理器,不如围绕一个已经确定的模型,制造与之对应的硅实现。
按照公司的公开描述,这种设计希望减少传统 AI 系统对 HBM、大规模 SRAM、复杂内存控制器、高速芯片间 I/O 和先进封装的依赖。这些模块之所以昂贵,很大程度上是因为 GPU 必须保持足够的通用性,为大量可能运行的不同模型保留硬件灵活性。
一旦模型本身固定下来,问题就变了:

为什么还要为以后可能永远不会运行的其他模型,持续支付这部分通用性成本?

这就是 Total Specialization 最核心的技术和商业逻辑。
目前这套路线在成本和系统效率上的优势,主要来自 Taalas 自身公布的数据,仍需更多第三方生产环境验证。
资料来源:
Taalas 官网
Taalas 技术路线说明

四、HC1:17,000 token/s,到底意味着什么

Taalas 的首代实体产品 HC1 针对Llama 3.1 8B设计,公开规格如下:
指标
HC1
对应模型
Llama 3.1 8B
制程
TSMC 6 nm
Die 面积
815 mm²
晶体管数量
约 530 亿
官方服务器功耗
约 2.5 kW
官方解码速度
约 17,000 token/s/user
资料来源:
Taalas HC1 产品页
17,000 token/s/user 的数字非常惊人,但必须先说清证据边界。这个结果来自Taalas Labs 自测,官网披露的测试条件包括 Llama 3.1 8B,以及约 1K 输入和 1K 输出序列。
准确的表述应该是:

Taalas 官方测试显示,HC1 在其公开测试条件下,可以达到约 17,000 token/s/user。

它不能直接作为跨平台标准 Benchmark,因为模型量化方式、Context Length、Batch Size、并发规模、KV Cache、输出质量和 P99 Latency 等条件,都可能显著改变最终结果。
专业半导体媒体 EE Times 在 2026 年 2 月对 HC1 进行了报道,记录到了万级 Token/s 的实际运行表现,为高速推理能力提供了一定外部佐证,但媒体体验测试依然不能代替完整的标准化第三方 Benchmark。
现阶段更稳妥的判断是:Taalas 已经证明高度模型专用化的实体芯片能够实现非常高的单用户解码速度,但它真正的商业优势仍需通过统一条件下的模型质量、Token/$、Token/J、并发能力和长 Context 测试来证明。
资料来源:
EE Times:Taalas Specializes to Extremes for Extraordinary Token Speed

五、极端速度的另一面:模型质量

HC1 同时暴露了 Model ASIC 最容易被忽视的问题。
Taalas 官方披露,HC1 使用定制 3-bit 基础格式,组合采用 3-bit 和 6-bit 参数;公司也明确承认,这种激进量化相对于部分 GPU Benchmark 会造成一定模型质量损失,并计划在下一代平台中采用标准 FP4 格式。
评价这类芯片时,不能只盯着 Token/s。真正具有商业意义的比较,应该是在相近模型质量和服务等级下,谁能够用更低的成本和更少的电力生产更多有效 Token。
完整的评价体系至少应该包括输出质量、Token/s、Token/J、Token/$、Context Length、并发能力以及 P99 Latency。如果通过明显牺牲模型能力换来更高速度,这个速度本身的商业价值就会大幅下降。

六、AMD 为什么要买 Taalas

2026 年 8 月 6 日,AMD 正式宣布与 Taalas 达成最终收购协议。AMD 使用的法律表述是:

reached a definitive agreement to acquire Taalas

该交易仍需满足通常的交割条件和监管审批,因此截至 2026 年 8 月 25 日,更准确的说法是:

AMD 已签署收购 Taalas 的最终协议,交易尚待完成。

Reuters 同日对这一交易进行了独立报道。
资料来源:
AMD 官方公告
Reuters:AMD deepens AI inference bet with Taalas deal
相比“AMD 买下了一家创业公司”,更值得关注的是 AMD 准备如何使用这项技术。
AMD 没有宣布 Taalas 将取代 Instinct GPU,相反,公司明确表示计划把 Taalas 技术纳入未来 Accelerator Roadmap,与 Instinct GPU 形成系统级解决方案。
这更像是在构建一种新的计算分层:EPYC CPU 负责通用计算与系统控制,Instinct GPU 承担训练、前沿模型和高度变化的推理任务,Model-Specific Accelerator 负责调用规模巨大、模型相对稳定的专用推理。
如果这一判断成立,“模型即芯片”真正进入主流的方式,可能从来就不是打败 GPU,而是成为 GPU 旁边的一层新基础设施。

七、全球还有哪些类似团队

Lamb Labs

Lamb Labs 同样使用MPU(Model Processing Unit)概念,官网明确提出将整个模型——包括权重——硬编码进硅片。
公司目前已经基于 FPGA 构建 Little Lamb 概念验证系统,使模型权重驻留于 FPGA Fabric,并在 Token 生成循环中避免访问 DRAM。根据公司自身披露,该 FPGA 原型约可达到12,000 token/s,未来 ASIC 的目标则是20,000+ token/s
这里必须区分已完成的事实和未来目标:FPGA 原型已经存在,ASIC 性能目前仍属于产品规划。
Lamb Labs 在理念上与 Taalas 非常接近,但商业成熟度明显更低。
资料来源:
Lamb Labs
Y Combinator 公司目录

Etched

Etched 是另一家受到高度关注的 AI 推理芯片创业公司,但它与 Taalas 并非完全相同的路线。
Etched 当前公开系统仍然采用 HBM/SRAM Hybrid 内存结构,专用化对象更接近 AI 推理架构与集群,而不是某个固定模型及其全部权重。将它定义为高度专用化的 Inference ASIC,比直接归入 Hardwired Model ASIC 更准确。
截至目前,Etched 已披露 N4P A0 Silicon 回片,并开始进行 Rack-scale 产品验证。Reuters 2026 年 8 月报道称,公司完成约 7 亿美元融资,估值达到约 210 亿美元;Etched 同时向 Reuters 表示,已经获得超过 10 亿美元客户合同。
资料来源:
Etched 官网
Reuters:Etched valued at $21 billion
Etched 与 Taalas 路线不同,但共同反映出一个产业变化:推理芯片市场越来越愿意用通用性换取效率。

八、中国有哪些类似团队

国内已经出现几条值得跟踪的路线,但所处阶段差异很大,必须严格区分“已有实体芯片”“正式论文”“企业规划”和“技术储备”。

上海瞬元技术 Sytrix

从公开资料看,上海瞬元技术是国内商业定位上与 Taalas 最接近的创业团队之一。
2026 年 8 月,Elsewhere 平台刊载的真格基金署名项目介绍披露,瞬元已经完成种子轮融资,并将核心产品定义为:

MPU——Model Processing Unit

公开技术思路包括针对具体模型进行全硬化、将模型架构和参数映射至硬件、参数矩阵分解、模型—电路协同设计,以及尽可能降低模型变化后的重新制造成本。
资料来源:
真格基金署名的瞬元项目介绍
这是一份投资机构署名的项目介绍,不是企业技术白皮书,更不是独立第三方测试。其中提出的 Token 成本降低约 100 倍、推理能耗降低约 100 倍,目前都应视为企业或投资方提出的技术目标,而非已经完成验证的产品性能。
截至本报告日期,尚未检索到瞬元公开的 MPU 实体芯片 Benchmark、完整技术白皮书、同行评议论文或第三方性能验证。公开资料同时指出,本轮融资将用于首款 MPU 的研发与流片。
现阶段最准确的判断是:路线明确,与 Taalas 高度接近,但核心能力仍需首颗实体芯片验证。

HNLPU:目前国内公开技术证据最完整的路线之一

HNLPU 全称Hardwired-Neurons Language Processing Unit
其论文Hardwired-Neuron Language Processing Units as General-Purpose Cognitive Substrates已进入 ASPLOS 2026 官方会议程序,具有正式 ACM DOI。作者来自中国科学院计算技术研究所、中国科学技术大学、中国科学院软件研究所、中国科学院大学以及 Cambricon Technologies 等机构。
资料来源:
ASPLOS 2026 官方程序
HNLPU 论文
寒武纪相关人员参与研究,并不等于寒武纪已决定商业化 HNLPU,目前没有足够的官方产品资料支持这一结论。
HNLPU 最核心的技术思想是Metal-Embedding。传统大模型推理通常需要经历“存储权重 → 读取权重 → 乘加计算”,HNLPU 则希望让一部分模型权重直接变成物理连接关系,以减少 SRAM、DRAM、HBM 访问及随之而来的数据搬运。
从技术思想上看,它与 Taalas 非常接近。
更关键的问题是:模型变化以后怎么办?
Model ASIC 最大的商业风险之一,就是模型升级之后是否必须重新制造整颗芯片。HNLPU 为此提出 Sea-of-Neurons 架构。
论文称,大约 70 层 Photomask 中,有约 60 层可以跨模型复用,而且包括全部 EUV Photomask。也就是说,它试图保持晶体管结构、大部分底层物理层和最昂贵的 EUV Mask 基本不变,只在模型变化后修改与具体模型相关的一部分金属层。
如果这种方式能在真实制造环境中成立,重新流片成本这个 Model ASIC 最大的商业风险之一,就有机会明显下降。
论文针对 GPT-OSS 120B FP4 给出的结果包括:
指标
论文结果
推理吞吐
249,960 token/s
能效
36 token/J
总 Die 面积
13,232 mm²
5 nm NRE 估算
约 5,946 万—1.235 亿美元
这些数据真实存在于论文中,但它们来自架构设计、后布局分析和系统评估,并非已经制造完成的 GPT-OSS 120B HNLPU 实体系统 Benchmark。
现阶段更合理的判断是:HNLPU 的理论和工程设计证据已相对完整,下一步真正决定这条路线价值的,仍然是 Silicon Validation。

速显微

速显微已经开展实际 GPU 芯片研发业务。2026 年,公司在发布相关 GPGPU 产品时,管理层公开表示正在研究数字存算一体,以及把大模型“写死”进芯片中的“模型即芯片”技术。
现有公开证据可以证明速显微正在研究这一方向,但不能证明已形成正式 Model ASIC 产品、完成对应芯片流片,或取得大模型实体性能验证。
它更适合作为技术储备方向持续跟踪。
资料来源:
速显微官网
爱集微相关报道

NeoMem:从 RRAM 进入同一个问题

NeoMem 采取的是另一条物理实现路线。
公司主要研究 RRAM,利用其非易失性、高密度存储和存算一体特性,减少 AI 推理中的模型权重搬运。NeoMem 官网明确提出RRAM-ROM for AI,用于模型权重固化;公司还披露,2025 年第二季度已完成首款 RRAM 测试芯片流片,并称回片指标达到预期。
这些结果目前来自企业自身披露,并非第三方独立测试。
从技术分类看,Taalas / HNLPU 更接近:

模型 → 逻辑 / 金属结构 → ASIC

而 NeoMem 更接近:

模型权重 → RRAM → 存算一体

两者解决相近的问题,但并非完全相同的技术路线。
资料来源:
NeoMem 官网
NeoMem 技术路线

九、目前全球主要项目处在什么位置

企业 / 项目
地区
专用化对象
权重硬化
当前阶段
证据性质
Taalas HC1
加拿大
具体模型
已有实体芯片
企业实测 + 专业媒体佐证
Sytrix 瞬元
中国
具体模型
企业资料称是
首颗 MPU 研发 / 流片阶段
投资机构项目披露
HNLPU
中国
具体模型
ASPLOS 论文阶段
正式学术研究
Lamb Labs
美国
具体模型
目标是
FPGA 原型
企业原型
速显微
中国
“模型即芯片”
尚无公开细节
技术攻关
行业媒体报道
NeoMem
中国
模型权重
RRAM 固化
RRAM 测试芯片
企业披露
Etched
美国
推理架构
N4P A0 回片
企业披露 + Reuters
目前真正把具体模型及大量参数直接转化为专用硬件的公开项目仍然不多。这一领域还不能称为成熟赛道,更准确地说,它仍处在多条技术路线同时进行工程验证的阶段。

十、中国政策是否在支持“模型即芯片”

答案需要分两层理解。
首先,推理需求在明确增长。国务院发布的《关于深入实施“人工智能+”行动的意见》(国发〔2025〕11号)提出,到 2027 年新一代智能终端、智能体等应用普及率超过 70%,到 2030 年超过 90%,并推动人工智能基础设施和关键核心技术发展。
资料来源:
国务院《关于深入实施“人工智能+”行动的意见》
这一政策对模型专用芯片最直接的意义在需求侧。Agent、智能终端和 AI 应用越来越普及,意味着推理计算量还会持续增长,但这份文件并未指定 MPU、Model ASIC 或模型硬化芯片作为国家技术路线,不能解读为对“模型即芯片”的直接政策背书。
另一方面,新型芯片架构正在受到政策和产业讨论的关注。工信部官网曾转载《人民日报》有关人工智能产业发展的理论文章,提出探索可重构计算、存算一体以及新型高算力智能芯片等方向。
资料来源:
工信部官网转载的《人民日报》相关文章
同样需要区分材料性质。这是《人民日报》理论文章被工信部官网转载,而非工信部正式专项产业政策。它可以说明新型芯片架构正在受到关注,但不能证明政府已明确押注“模型即芯片”。

十一、这门生意到底怎么算账

技术最终能不能发展成产业,还是要回到最现实的问题:钱。
模型专用 ASIC 的特点是前期投入高,但长期单位运行成本可能很低;GPU 则相反,不需要围绕某个具体模型重新设计和流片,却可能承担更高的单位推理成本。
“模型即芯片”本质上是一个典型的“高固定成本、低边际成本”商业模型。
设模型专用 ASIC 为方案 A,GPU 为方案 G。两种方案的前期固定成本分别记为 F_A 和 F_G,单位 Token 运行成本分别记为 c_A 和 c_G,模型生命周期累计 Token 数记为 N。
通常情况下,模型专用 ASIC 的前期投入更高,即F_A 大于 F_G。但如果这条路线最终具有商业价值,就必须同时满足c_A 小于 c_G。也就是说,前期多花出去的钱,必须靠以后每生成一个 Token 节省下来的成本逐步收回来。

生命周期成本

模型专用 ASIC 的生命周期成本可以表示为:前期固定成本 F_A 加上单位 Token 成本 c_A 乘以累计 Token 数 N
GPU 的生命周期成本则为:前期固定成本 F_G 加上单位 Token 成本 c_G 乘以累计 Token 数 N
随着模型产生的 Token 越来越多,两条成本曲线最终可能出现交点。这个交点代表整条路线最关键的商业问题之一:究竟需要产生多少 Token,专门为一个模型制造 ASIC 才开始比继续使用 GPU 更划算?
令两种方案生命周期成本相等,可以得到盈亏平衡 Token 数。这个平衡点的计算公式是:前期固定成本之差(F_A 减去 F_G)除以单位 Token 成本之差(c_G 减去 c_A)
这个盈亏平衡 Token 数就是模型专用 ASIC 开始显现生命周期成本优势所需达到的累计推理规模。
当累计 Token 数小于这个平衡点时,GPU 通常更加经济;只有当累计 Token 数大于这个平衡点时,模型专用 ASIC 才开始进入更有利的成本区间。
这就是“模型即芯片”最核心的商业逻辑:它并不怕前期昂贵,真正怕的是模型生命周期内没有足够多的 Token 去摊薄这笔固定投入。

十二、还有一个比成本更重要的问题:模型能活多久

即使 ASIC 的单位 Token 成本非常低,也并不意味着它一定能赚钱,因为芯片开发和制造需要时间,而模型本身可能快速迭代。
设 T_M 为模型保持主要商业价值的时间,T_S 为从模型确定到专用芯片正式部署所需的时间。这条路线成立的一个基本条件是:T_S 必须远小于 T_M。也就是说,芯片必须在模型失去主要商业价值之前足够早地完成部署。
如果一个模型只能流行一年,而芯片从确定设计到真正部署需要九个月,即使芯片单位 Token 成本再低,最终也只剩三个月时间来摊销巨大的前期固定成本。
模型真正能够用于 ASIC 推理的有效商业时间,等于 T_M 减去 T_S。最终真正需要回答的并不是模型生命周期有多长,而是在这段有效时间里,这个模型到底能够产生多少 Token。
只有当累计 Token 数超过前面计算的盈亏平衡点时,Model ASIC 的经济模型才真正跑通。

十三、最可能率先落地在哪里

超大规模固定模型推理

这是最直接的市场。
如果一个模型长期承担搜索、广告、Coding、客服、推荐和内容生成等海量请求,其生命周期累计 Token 数就可能足够大,从而摊薄 ASIC 巨大的前期研发和制造成本。
第一批真正适合使用 Model ASIC 的客户,大概率不会是普通企业,而是超大规模云厂商、基础模型公司和大型互联网平台。

Agent

Agent 可能比聊天机器人更需要极高推理速度。
对于人机聊天,从 100 token/s 提升到 300 token/s,用户能够明显感知体验改善;但从 1,000 token/s 继续提升到 10,000 token/s,对人的阅读速度本身意义已经有限。
Agent 则不同。一个复杂 Agent 任务可能需要反复经历“推理—调用工具—读取结果—继续推理—再次调用”这样的循环,完整任务链可能包含数十甚至上百次模型调用。
每次调用哪怕只节省几十到几百毫秒,最终都可能显著影响整个任务链的完成时间。在机器与机器之间的推理循环中,10,000 token/s 与 1,000 token/s 完全可能对应两种不同的产品体验。

Speculative Decoding

另一条非常现实的路线,是让 Model ASIC 不承担最终大模型,而是承担 Draft Model。
高速 Model ASIC 可以先生成大量候选 Token,再由 GPU 上的最终大模型验证候选结果并输出答案。这样既能利用 ASIC 的高速和低成本,又能保留 GPU 对前沿大模型快速更新的支持。
由于 Draft Model 可以长期保持稳定,最终大模型仍然能够快速升级,这种模式可能比直接把最大的前沿模型整体硬化进 ASIC 更早落地。

企业固定基座模型

金融、电信、制造和政务等场景同样值得关注。这些行业可能长期运行经过审核的固定基座模型,通常生命周期较长、调用规模可预测、合规要求较高,模型更新频率相对较低。
如果业务变化主要通过 LoRA、Adapter、Prompt 和 RAG 完成,底层基座模型就可以长期保持稳定,恰好符合 Model ASIC 的适用条件。

Edge AI

端侧可能反而是另一块更早落地的市场。
AI 眼镜、机器人、智能汽车、IoT 和智能穿戴设备,对功耗、芯片面积和 DRAM 带宽的限制往往比数据中心更加严格。对于长期固定的小型模型,通过 RRAM、ROM、存算一体或模型硬化减少权重搬运,可能比数据中心超大型 Model ASIC 更早实现商业化。

十四、这条路线最大的风险是什么

首先是模型变化速度。
GPU 最大的优势,并不是它在每一个模型上的效率都最高,而是模型换了以后 GPU 不需要跟着更换。如果未来模型仍然不断改变网络结构、Attention、参数规模、MoE 和推理方式,高度绑定具体模型的芯片很可能在真正实现大规模部署之前就已经过时。
“模型即芯片”最希望看到的未来,并不是基础模型持续剧烈变化,而是模型结构逐渐趋于稳定,创新更多转移到后训练、Agent 和应用层。
第二个问题是模型规模。Taalas HC1 当前验证的是 8B 模型,从 8B 扩展到 70B、120B、数百 B 乃至万亿参数 MoE,难度不会线性增加。
当一个完整模型无法容纳在单颗 Die 上之后,问题又会重新变成 Chiplet、Die-to-Die Interconnect、KV Cache、长 Context、多芯片同步、先进封装和散热。HNLPU 针对 GPT-OSS 120B 的研究方案总 Die 面积已经达到 13,232 mm²,本身就说明大型模型最终仍会变成一个复杂的多芯片系统工程。
第三个问题是 NRE。Model ASIC 需要承担研发、EDA、Mask、Tape-out 和软件适配等高额固定成本,天然更适合少数超大规模模型,而非数量庞大的长尾模型。这也意味着 Model ASIC 的市场结构可能比 GPU 更集中。
第四个问题是模型质量。如果通过激进量化牺牲模型能力来换取速度,表面性能很容易被高估。真正应该比较的是相近模型质量下的 Token/$ 与 Token/J,而不是单独比较 Token/s。
最后还有一个容易被忽略的问题:资产残值。
GPU 即使不再适合最前沿模型,也仍可用于小模型、老模型、HPC、训练和其他通用计算,具有较强的资产用途转换能力。高度绑定具体模型的 ASIC 则不同,一旦对应模型退出主流,硬件价值可能快速下降。
Model ASIC 需要匹配的,不仅是模型性能周期,更是芯片折旧周期

十五、中国有没有机会

有,但门槛不低。
中国已经拥有规模很大的 AI 模型生态和应用市场。如果未来 DeepSeek、Qwen 或其他国产基础模型中有一部分逐渐稳定,并长期承担海量线上推理,这些模型完全可能产生足够大的 Lifetime Token Volume,为 Model ASIC 提供最基本的需求条件。
与此同时,国内在 AI 编译器、数字 IC、模型量化、存算一体、RRAM、Chiplet、ASIC 和大模型算法等方向都已积累了一定基础。
Model ASIC 真正关键的能力,恰恰不是某一个孤立技术点,而是一种跨层协同能力:

模型—编译—架构—电路—物理设计之间的联合优化。

这意味着,中国不一定需要完整复制传统 GPU 的全部技术路径,才有机会进入模型专用推理市场。

十六、但“模型即芯片”并不能绕开先进制程

这一点尤其需要强调。
不能因为 Model ASIC 减少了 HBM 或者改变了传统 GPU 架构,就推导出“中国可以借此绕开先进半导体制造”。
模型越大,对晶体管密度、先进制程、EDA、良率、高速互联、Chiplet 和先进封装的要求通常越高。HNLPU 自身就是基于 5 nm 工艺进行设计和成本评估。
更准确的判断是:

模型专用芯片可以改变晶体管、存储带宽和电力资源的使用方式,但无法消除对先进半导体制造能力的需求。

它提供的是另一种架构选择,而不是绕开先进制造本身。

十七、接下来真正应该盯什么

未来一至两年,与其关注又有多少公司宣布进入“模型即芯片”,不如关注几个非常具体的工程节点:
项目
当前阶段
下一关键节点
Taalas
HC1 已完成实体芯片验证
HC2、更大模型、FP4、AMD 整合
Sytrix 瞬元
首款 MPU 研发阶段
Tape-out、回片、Token/$
HNLPU
ASPLOS 2026 论文
实体芯片验证
Lamb Labs
FPGA 原型
ASIC Tape-out
Etched
N4P A0 已回片
客户规模部署与系统性能
速显微
技术攻关
正式 Model ASIC 产品
NeoMem
RRAM 测试芯片
产品化与实际客户
对于中国市场,真正关键的信号不是“又有一家企业宣布研发”,而是能否出现第一颗拥有公开、可复现测试条件,并提供实体 Silicon 数据的国产 Model ASIC。

十八、判断这条赛道是否成立,只需要盯住八个指标

指标
真正要回答的问题
实体芯片性能
是否完成 Silicon Validation
Token/J
能效优势是否真实存在
Token/$
是否具有经济优势
Model-to-Silicon
芯片开发速度能否跟上模型
Mask 复用
换模型的增量成本能否下降
模型规模
能否扩展到 70B、100B 以上
软件能力
是否支持 LoRA、长 Context、多租户
Lifetime Token Volume
能否摊销 ASIC 固定成本
进一步压缩,最终其实只有两个问题:一颗模型专用芯片到底能把单位 Token 成本降低多少,以及这个模型在失去商业价值以前究竟能产生多少 Token。
前者决定专用化能省多少钱,后者决定高昂的前期投入能不能被摊薄。

十九、最后的判断

“模型即芯片”并不是一场简单的 GPU 替代革命,它真正改变的是模型与计算机之间的关系。
过去,模型只是运行在芯片上的软件;未来某些场景中,模型本身可能开始参与定义芯片。
Taalas HC1 已经证明,将真实大语言模型高度映射到专用 Silicon 在工程上是可行的;其万级 Token/s 推理能力也已获得实体芯片测试和专业技术媒体的一定外部佐证。
但相对于 GPU,它真正需要证明的仍然不是“我跑得有多快”,而是:

在相近模型质量下,我能不能用更少的钱、更少的电,持续生产更多有效 Token。

AMD 与 Taalas 签署最终收购协议,是这条路线目前最重要的产业信号之一。AMD 没有选择让 Taalas 取代 Instinct GPU,反而可能揭示了未来更加现实的 AI 基础设施形态:GPU 负责训练、前沿模型和不断变化的任务,Inference ASIC 负责相对稳定的模型架构,Model-Specific ASIC / MPU 负责调用规模巨大、生命周期足够长的固定模型,CIM / NVM 则服务于功耗和带宽高度受限的端侧模型。
对于中国,这条路线同样已出现早期技术储备。瞬元 Sytrix 在商业定位上与 Taalas 最接近,HNLPU 在公开技术资料和学术证据上相对完整,速显微已明确提出“模型即芯片”技术攻关,NeoMem 则从 RRAM 和模型权重固化进入相邻市场。
但截至 2026 年 8 月 25 日,国内仍缺少一颗能够凭借公开、可复核实体数据,与 Taalas HC1 进行公平比较的国产大模型专用 ASIC。
未来真正需要观察的,是下面这条链条能否跑通:
模型确定 → 自动化硬件映射 → Tape-out → 快速回片 → 真实模型运行 → 证明 Token/$ 和 Token/J 优势 → 获得足够大的商业推理负载
如果这条链条最终能够顺利跑通,“模型即芯片”才会从一个有吸引力的架构理念,真正发展成一个具有独立商业价值的 AI 芯片类别。
从经济模型看,它最终只需要满足两个基本条件。
首先,芯片开发和部署周期必须显著短于模型的有效商业生命周期,也就是前面说的 T_S 远小于 T_M。
其次,模型生命周期中的累计推理规模必须超过专用 ASIC 与 GPU 之间的成本平衡点。这个平衡点由前期固定成本之差除以单位 Token 成本之差决定。
说到底,“模型即芯片”真正需要证明的,从来不是芯片能不能比 GPU 在某一个 Benchmark 上跑得更快,而是对于一个足够稳定、调用量足够大的模型,能否用更低的资本成本和能源成本持续生产智能。
如果答案最终是肯定的,那么它重新定价的就不只是 AI 芯片,而是:
AI 推理的边际成本
一旦这个成本出现数量级下降,受影响的将是 Agent、搜索、软件开发、机器人、内容生成,以及大量今天仍然因为推理成本太高而无法真正规模化的 AI 应用。

主要资料来源及证据等级

A 级:核心事实、正式政策与独立验证

AMD— 用于核实 Taalas 收购协议状态及 AMD 战略定位:
AMD 关于 Taalas 的官方公告
Reuters— 用于 AMD–Taalas 交易和 Etched 融资的独立交叉验证:
Reuters:AMD deepens AI inference bet with Taalas deal
Reuters:Etched valued at $21 billion
ASPLOS 2026 / HNLPU— 用于核实 HNLPU 研究身份、技术路线和论文数据:
ASPLOS 2026 官方程序
HNLPU 论文
International Energy Agency— 用于数据中心电力需求及复杂 AI 工作负载能源趋势:
IEA:Key Questions on Energy and AI
IEA 数据中心能源新闻稿
国务院— 用于中国 AI 应用和推理需求的政策背景:
国务院《关于深入实施“人工智能+”行动的意见》

B 级:企业一手资料与专业媒体验证

Taalas
Taalas 官网
HC1 产品页
Taalas 技术路线说明
产品规格可以引用,性能数据统一注明“Taalas 官方测试”。
EE Times
EE Times:Taalas Specializes to Extremes for Extraordinary Token Speed
用于对 Taalas 实体芯片高速运行表现提供外部佐证,不作为完整标准 Benchmark。
Etched
Etched 官网
用于芯片回片、内存体系和产品路线。

C 级:早期项目与产业跟踪资料

Sytrix 瞬元
真格基金署名项目介绍
可以证明融资、MPU 路线和企业提出的技术目标;“100 倍”等指标不作为已经验证的实际性能。
Lamb Labs
Lamb Labs 官网
FPGA 原型和产品方向可以引用,未来 ASIC 性能属于企业目标。
速显微
速显微官网
爱集微相关报道
可以证明公司正在研究“模型即芯片”,不能据此证明已经形成对应产品。
NeoMem
NeoMem 官网
NeoMem 技术路线
RRAM 路线和测试芯片属于企业披露,回片结果目前缺少第三方独立验证。
新型芯片架构产业讨论
工信部官网转载的《人民日报》相关文章
可作为产业技术方向和权威背景材料,不作为工信部正式专项政策文件。

资料使用原则: 正式政策、国际组织报告、正式学术论文和交易公告用于支撑核心事实;企业官网用于说明企业产品和技术路线;专业媒体用于独立交叉验证;投资机构和企业宣传资料仅用于说明早期项目进展与企业目标。未经第三方验证的数据,不用于正式横向性能比较。

发表评论
0评