博士算力猎场 · 2026年8月5日 07:00 · 行业洞察Dr. Wu | UCLA Ph.D | 国内首个千卡、万卡GPU智算集群缔造者

K3开源已经一个多月,前半段的叙事是"沸腾"——月之暗面把一个2.8万亿参数的MoE模型直接开源,社区欢呼、媒体刷屏、GitHub星标暴涨。但最近两周,叙事正在经历一次"去泡沫化"——首批部署团队的真实反馈回来了,部署门槛比想象中高、调试成本远超预期、硬件要求让大量中小企业望而却步。今天这篇,不讲K3的技术参数(那些在开源当天就被讲烂了),只讲K3正在如何重塑中国推理算力市场的需求结构和竞争格局。

一、K3的真实部署画像:8卡是门槛,64卡是理想
把首批部署团队的反馈数据做一个聚合画像:
部署规模 | 硬件配置 | 吞吐 | 月成本(自建折旧) | 适合场景 |
入门级 | 8×B300等效(INT8量化) | 150-200 t/s | ~60万 | 内部POC、小规模测试 |
标准级 | 16×B300等效 | 400-600 t/s(FP16) | ~121万 | 中小规模生产API |
生产级 | 64×B300等效(超节点) | 2000-3000 t/s | ~480万 | 大规模C端产品 |
极致级 | 128×B300等效 | 5000-8000 t/s | ~960万 | 高并发实时交互 |
8卡是K3的最低门槛——低于这个数模型装不进显存。16卡是成本与性能的"甜点点"。64卡以上是高吞吐的"标准答案"。问题在于——16卡B300在当前市场需要约2800万硬件成本,64卡超过1亿。这个价格直接把99%的创业公司拦在了"部署K3"这个事的门外。
这里有一个反直觉的结论:K3的开源,没有降低算力门槛——它降低了"模型能力门槛",但把"算力门槛"赤裸裸地暴露了出来。 你不需要花几个亿训练一个K3级别的模型了,但你需要花2800万部署它。对资本雄厚的大厂来说,这两个都是小数目。对创业公司来说,省掉训练费但被部署费卡住——结果是一样的,进不来。

二、推理算力需求正在分层:K3是"加速器"不是"触发器"
K3开源之前,推理算力的需求结构比较扁平——大部分是用70B以下的Dense模型做推理,单机甚至单卡就能搞定。K3之后,需求正在被分层切开:
第一层:小模型推理层(7B-70B)。K3对这个层级的影响不大——你该用什么用什么,B300对这个层级来说性能过剩,H100/H200甚至A100都够用。这个层级的需求量和增速是最稳定的。
第二层:K3级推理层(万亿参数MoE)。这是K3撬动的最大增量层。K3开源之前,几乎没有中小企业在用万亿参数模型做推理——不是因为不需要,是因为之前只有闭源API,数据安全和成本都是问题。K3开源后,中小企业第一次有了"在自己硬件上跑顶级模型"的选项。这个需求增量,我们保守估算未来3-6个月中国市场将新增300-600台B300等效的推理需求——对应硬件市场规模约45-90亿人民币。这是K3直接撬动的"增量蛋糕"。
第三层:K3级训练/微调层。K3开源后,大量企业不做从头训练,但要做领域微调(LoRA)——LoRA微调K3只需要2-4张B300,成本极低。这部分需求会分散到大量中小集群上,对算力市场的总量影响不如推理层大,但"分布式"的特征会改变算力服务的商业模式——从服务少数大客户变成服务大量中小客户。

三、国产算力的"K3红利"
K3对国产算力的战略意义,怎么强调都不过分。
在过去,国产算力面临一个"先有鸡还是先有蛋"的困境——没有足够好的模型在国产算力上跑→企业不买国产算力→没有装机量做适配优化→模型在国产算力上跑不好→更没有企业买。K3打破了这个循环——它提供了一个"足够好的开源模型",企业有动力为它去部署算力。企业买国产算力→装机量上来→适配优化加速→模型跑得更好→更多企业买。
这个飞轮已经在转了。K3在昇腾910B上的推理适配约80%完成,预计8月中旬跑通完整推理链路。如果950DT在9月上市且训练性能达标,国产算力将第一次拥有"从训练到推理的全栈能力"——用950DT做训练、用910B和950PR做推理、用K3做模型。这个全栈方案的总成本,可能只有纯B300方案的三分之一到五分之一。
当然,性能和生态的差距是客观存在的。910B的单卡推理吞吐约B300的60-70%,软件生态的成熟度更是差了不止一个量级。但K3让这个差距从"天壤之别"变成了"可以计算的差距"——当你能量化"国产比B300慢多少、但便宜多少"的时候,决策就从一个信仰问题变成了一个成本收益问题。

四、对全球AI竞争的三层影响
第一层:开源武器化。K3不是孤例——DeepSeek-V3、Qwen 2.5-Max、K3,中国AI行业正在用"开源组合拳"对抗闭源模型的生态垄断。三款模型覆盖了从小到大、从通用到垂直、从Dense到MoE的完整矩阵——而且全部是Apache 2.0或MIT协议。这种"去中心化"的分发模式,是闭源生态最难应对的竞争——你无法通过封锁渠道来阻止对手,因为开源模型在世界任何角落都能下载。
第二层:推理算力成为新战场。训练算力的竞争格局已经相对稳定——少数几个大厂和国家级实验室有资本做万亿参数模型的训练。但推理算力是"人民战争"——成千上万的中小企业需要部署推理集群。谁能为这些中小企业提供"低成本、高性能、易部署"的推理算力方案,谁就能抓住推理市场中最大的一块增量。
第三层:硬件生态的"去英伟达化"正在加速。K3开源降低了模型对特定硬件的依赖——你不需要英伟达的CUDA生态跑K3,你可以把它适配到任何有足够算力的硬件上。这是对英伟达生态护城河的一次实质性削弱。虽然短期内英伟达的硬件优势仍然显著,但"模型-硬件"的绑定关系正在松动——这对算力市场的长期格局影响深远。

五、Dr. Wu的判断
1. K3开源最大的意义不是"又多了一个开源模型",而是"把中国AI的真实能力摊在桌面上"。你不需要通过媒体报道来猜测中国AI的水平——下载K3,跑一遍,答案一目了然。这种透明度,本身就是一种竞争策略。
2. 推理算力市场正在进入"K3需求驱动"的新阶段——买家的画像从少数大厂变成大量中小企业,需求从大规模训练集群变成中小规模推理集群。算力行业的销售模式、服务模式、定价模式,都将因此改变。
3. 国产算力的"K3红利"窗口期大约是3-6个月——够做适配验证、够跑POC、够积累标杆案例。能不能在窗口期内证明自己"不只是B300的廉价替代品,而是K3的最佳载体",决定了这轮窗口是不是能变成真正的转折点。
关注K3与算力产业格局深度分析?加入算力猎场,和洞察全局的人一起看。
加入方式 | 微信号 | 二维码 |
Dr. Wu 微信 | michaelwqs |
|
Alan Ng 微信 | alanngw |
|
扫码入群 | 扫描下方二维码,加入算力猎场微信群 |
|
群里有算力产业链的决策者、投资人和技术专家,每日独家分析和行业前瞻。
博士算力猎场 | 行业洞察Dr. Wu | UCLA Ph.D | 国内首个千卡、万卡GPU智算集群缔造者





