AI原生并行文件系统深度研究报告

本报告是我对AI原生并行文件系统的一些看法。

? 核心结论

项目	内容
报告核心命题	AI 原生并行文件系统是为 GPU 集群"喂数据"的存储子系统；不是传统并行文件系统的"AI 适配版"，而是从底层假定重做的基础设施形态
优先级建议	大模型训练集群：P0 关注 GPUDirect Storage + 分布式元数据；P1 关注 DASE / 解耦架构；P2 关注 CXL 长期演进
关键决策影响	选型不再以"峰值带宽 GB/s"为单一指标；需同时评估：GPU 直连能力、元数据 IOPS、KV Cache 卸载能力、退出成本
风险等级	中-高 — 大量厂商涌入、技术路线分化、标准未定型，2-3 年内可能再次洗牌

1. 引言：从"数据走向 AI"到"AI 走向数据"

1.1 缘起：一次结构性的存储使命转变

国家数据局数据显示，从 2024 到 2026 年间，中国日均 Token 调用量从 1,000 亿飙升至 140 万亿（截至 2026 年 3 月），两年增长超过千倍。这组数据折射出一个底层事实：AI 正在从实验室里的"模型训练"全面进入生产生活中的"应用落地"，伴随而来的是存储系统一次根本性的角色重塑。

浪潮信息存储产品部副总经理郭海峰在 2026 年的一次访谈中给出了一段精炼总结："原来的企业存储是做数据保护，现在 AI 存储的目标是效率提升——如何充分满足 GPU 对于数据的需求，而不让它空转。"由此带来的不只是产品定位调整，而是一次覆盖硬件、协议、软件栈到全局架构的**"基因重组"**。

IBM 大中华区存储事业部总经理吴磊给出的另一组对照数字同样发人深省："如今 GPU 部署动辄百卡、千卡、万卡规模，投资以亿甚至十亿计，1% 的闲置就意味着上亿元的浪费。"

1.2 为什么"传统并行文件系统不行了"

国际分析师 Tensormem 一份 2025-2026 年的研究指出："GPU 占企业级 / 新云服务 AI 基础设施支出的 60-70%，但在实际部署中，GPU 30-50% 时间处于空闲 —— 不是因为模型效率不高，而是因为数据送不过来。" 这正是 AI 原生文件系统需要直面的根本矛盾。

传统并行文件系统（Lustre / GPFS / BeeGFS / HDFS）是面向 HPC 科学计算场景优化的，本质假设是：大文件、顺序读写、少量客户端、长时间运行的批处理。当这套范式被搬到"亿级小文件 + 数十万 GPU 并发 + 推理在线时延敏感"的 AI 负载上时，瓶颈很快从"带宽"转向"元数据"和"数据搬运路径"。

2. AI 原生并行文件系统的定义与核心特征

2.1 概念界定

AI 原生并行文件系统（AI-native Parallel File System）是指：从硬件选型到软件协议层都以"为 AI 工作负载持续供给数据"为第一性目标重构的分布式文件系统。它不是"传统并行文件系统加几个 AI 加速按钮"，而是一种"假设数据将永久处于 GPU 计算的关键路径上"的设计哲学。

关键判别标准（满足其中 4 项可视为 AI 原生）：
GPU 直连路径 —— 支持 GPUDirect Storage 或同等零拷贝通道。
分布式或解耦元数据 —— 元数据 IOPS 不受单点 MDS 制约。
NVMe / 全闪存原生 —— 设计以闪存为底介质，不是从磁盘阵列改造。
多协议统一命名空间 —— POSIX + S3 + NFS + SMB 同源访问。
推理时延优化 —— 提供 KV Cache 持久化或 Tier 3.5 加速层。
弹性可解耦扩展 —— 计算 / 容量 / 元数据可独立伸缩。

2.2 与"传统并行文件系统"的本质差异

维度	传统并行文件系统	AI 原生并行文件系统
设计假设	大文件 + 少量计算节点 + 长时批作业	亿级小文件 + 数十万 GPU + 时延敏感推理
介质基线	HDD / 混合阵列；后引入 SSD	NVMe / 全闪存原生，再向冷介质分级
元数据	集中式 MDS（Lustre）或带锁管理（GPFS）	分布式元数据 / DASE 全共享 / 集中式但独立扩展
客户端	专有客户端内核模块	用户态 RTOS / 标准 pNFS / FUSE
数据路径	CPU 中转（kernel-bounce buffer）	RDMA / NVMe-oF / GPUDirect Storage 直连
主协议	POSIX（强调合规）	POSIX + S3 + NFS + SMB + GPU 直存
关注指标	峰值 GB/s	每 GPU GB/s + 元数据 IOPS + TTFT 改善

2.3 核心七要素

GPU 第一公民：每一个 I/O 决策都先问 "这能让多少 GPU 保持饱和？"

元数据与数据解耦：元数据可独立横向扩展，规避单点瓶颈。

介质无关架构：分层感知热 / 温 / 冷数据；冷数据下沉到 HDD / 磁带 / 对象存储。

协议融合：POSIX / S3 / NFS / SMB 并存于单一全局命名空间。

RDMA 一等公民：所有内部通信基于 RoCE 或 InfiniBand RDMA，常规 fallback 到 TCP。

内生 AI 加速：GPUDirect Storage、KV Cache 卸载、Checkpoint 优化为出厂能力。

可组合扩展：容量、性能、元数据可独立伸缩（Pay-as-you-grow）。

3. 设计哲学对比：传统并行文件系统 vs AI 原生架构

3.1 传统并行文件系统回顾（Lustre / GPFS / HDFS / BeeGFS）

Lustre：开源并行文件系统之王，截至 2025 年市场份额 41%。架构以元数据服务（MDS + MDT）与对象存储服务（OSS + OST）分离为基础，数据通过 striping 跨多 OST 并行访问。最适合大顺序 I/O + InfiniBand 环境的科学计算。DDN 的 EXAScaler 是其企业级商业封装。

IBM Storage Scale（前 GPFS）：商业并行文件系统，市场份额 17%，主打分布式元数据 + 全局锁管理 + POSIX/NFS/SMB/HDFS 多协议。优势是元数据操作密集场景与企业级管理能力。已深度集成 NVIDIA DGX SuperPOD 与 GPUDirect Storage。

HDFS：基于 NameNode 单一元数据节点 + DataNode 大块（默认 128MB）存储的架构，原本为 MapReduce / 离线批处理而生。在 AI 场景下小文件和随机读是其短板。

BeeGFS：ThinkParQ 出品的轻量并行文件系统，部署相对简单，性能上限介于上述三者之间，广泛用于 ML 训练 + HPC 混合负载。

CephFS、Ceph RADOS 常被误归入并行文件系统，但它本质是基于对象的分布式存储（数据复制 + CRUSH），不提供条带化的并行文件访问，因此并非 PFS，本文不展开。

3.2 工作负载假设的根本转变

关键假设	传统 PFS	AI 原生 PFS
文件规模	MB ~ GB 为主	KB ~ MB（图片 / token / embedding）为主
文件数量	万 ~ 百万级	亿 ~ 千亿级
客户端数量	数百 ~ 数千	数千 ~ 数十万 GPU
访问模式	大顺序读 / 写	高随机读 + 检查点突发写 + 推理微读
时延敏感度	可容忍秒级抖动	TTFT 需稳定在毫秒级
数据保护	多副本 + 强一致	纠删码 + 异步多 AZ + 推理可不强保护
写入语义	读写混合 & 偶尔长写	几乎只读 + 检查点 / 模型权重短写

3.3 关键设计维度对比表

设计维度	Lustre	GPFS/Spectrum Scale	HDFS	WekaFS	VAST DASE	DDN EXAScaler	FlashBlade//EXA
元数据架构	集中式 MDS	分布式	集中 NameNode	分布式	全局共享（DASE）	集中式 MDS	集中式但独立扩展
介质基线	HDD + Lustre 后端	HDD + Flash	HDD	NVMe Native	SCM + QLC 全闪	Lustre+Flash	QLC DirectFlash
主协议	POSIX/LNET	POSIX/NFS/SMB	HDFS	POSIX/S3/NFS/SMB/GDS	多协议 (NFS/SMB/S3)	POSIX	pNFS + S3 over RDMA
GPUDirect	借助 DDN / OS 集成	已原生支持	否	已原生	已原生 (Cbox)	已原生	已原生
KV Cache 卸载	无	无	无	Augmented Memory Grid (2026)	Persistent KV Cache	通过 Infinia 2.0 部分支持	Tier 4 共享层
单命名空间吞吐	~TB/s（集群）	~500 GB/s+	~100+ GB/s	~300+ GB/s	~TB/s 量级	4 TB/s+（Eos）	>10 TB/s（投影）

4. 关键技术深度剖析

4.1 大规模 AI 训练的 I/O 挑战

数据加载（Data Loading）：训练 worker 在每个 epoch / step 之前拉取 batch。这一段最容易出现小文件随机读。

Checkpoint 写入：大规模训练每 30 分钟到数小时会写出一次完整 checkpoint。Introl 报告给出的经验值：100B 参数模型每次 checkpoint 800GB ~ 1.6TB；16,000 卡规模每日 155 次 checkpoint；要求 28 秒以内完成；10 万卡集群缩短到 4.4 秒。

Checkpoint 恢复：故障后的恢复性能直接决定 GPU 投资回报率。

Prompt Prefill：长上下文（>100k tokens）的预填阶段，KV Cache 写入压力极大。

KV Cache 复用：相同 prompt 跨用户 / 跨轮次的复用要求持久化层提供 sub-ms 检索。

RAG（检索增强生成）：向量库的近线搜索 + 大模型读取同样需要稳定低时延。

4.2 元数据效率优化：从 MDS 单点到分布式元数据 / LOSF 聚合

元数据瓶颈是 AI 训练负载最常被低估的问题。Introl 2025 报告指出："分布式元数据方法创建小文件、修改属性和构建复杂目录结构效率远高于 Lustre 的集中式元数据服务器架构。"

分布式元数据服务（WekaFS、VAST Data、Quantum、Quobyte、Qumulo）：把元数据管理分布到所有存储节点，消除单点；缺点是节点间需要大量元数据协商流量。

集中式但独立扩展（Hammerspace、FlashBlade//EXA）：把元数据作为一个可独立伸缩的服务；硬件成本高但元数据写入极快。

DASE 全共享（VAST Data）：所有服务器共享同一份元数据视图，无 MDS 单点；Cbox/Dbox 解耦后可直接 NVMe-oF 访问。

国内多家厂商（霄云科技、JuiceFS 等）采用小文件合并 / 聚合策略：把多个 KB 级小文件合并为 64MB 左右的大文件存储，元数据量减少至千分之一，读写性能可提升 3-10 倍。霄云的实测数据显示：百亿级文件性能衰减小于 5%，而传统 Ceph 在 10 亿对象规模写入性能衰减 75%。

批量 stat / open：通过 PyTorch DataLoader 或 NVIDIA DALI 把小文件请求聚合。

客户端元数据缓存：把 inode 信息缓存在客户端内存，避免往返 metadata server。

KV-style 元数据索引：JuiceFS / Alluxio 采用一致性哈希把 inode key 映射到元数据节点，单次查找仅一次磁盘 I/O。

4.3 高吞吐数据访问：NVMe-oF / RDMA / 200GbE+

NVMe-oF 通过把 NVMe 命令扩展到网络 fabric，使远端存储在协议层获得接近本地 NVMe 的性能。Introl 报告引用的基准显示："集成 GPUDirect Storage 后顺序读取可达 351 GiB/秒，I/O 受限配置中延迟降低可让有效 GPU 利用率提升 2-3 倍。"NVMe-oF 的延迟可降到数十微秒级，相对 NFS / iSCSI 等传统协议（在机械硬盘时代优化）的数毫秒有数量级提升。

通过 RoCE 或 InfiniBand 实现零拷贝网络访问。GPUDirect Storage 的全部性能优势都以 RDMA 为前提。

2025：AI 集群主流采用 200 GbE / HDR/NDR InfiniBand（200 GbE）。

2026：400 GbE / NDR InfiniBand（400 GbE）开始普及，国内霄云、浪潮已在其 A9000 中支持 400 GbE。

4.4 分布式缓存与分层存储

层	介质	用途	时延量级
Tier 1	GPU HBM	模型权重 / 当前 batch	ns
Tier 2	本地 DRAM	激活 / 优化器状态	100 ns
Tier 3	本 NVMe SSD	KV Cache 热部分 / checkpoint 中转	μs
Tier 3.5	集群级外置缓存（RDMA NVMe）	持久化 KV Cache / 推理上下文	sub-ms
Tier 4	共享企业存储	训练数据 / 模型权重 / checkpoint	0.3 - 数十 ms
冷层	HDD / 对象存储 / 磁带	历史 checkpoint / 审计	ms - 秒

郭海峰对 Tier 3.5 的定义："3.5 层是为了效率，放弃一定的可靠性，数据比是 1:1，大不了数据丢了重新算，但不能牺牲效率"—— 与第四层"数据保护优先"形成鲜明对比，正是为了应对推理 KV Cache 的爆发式增长。

被动缓存：读过的数据缓存在本地 SSD，下次命中即快速返回（JuiceFS 默认）。

共享缓存集群：不同节点间通过一致性哈希共享缓存数据（JuiceFS 企业版特性）。

独立缓存集群：将缓存节点单独部署，避免训练集群弹性伸缩导致缓存失效（JuiceFS 独立缓存集群）。

AI 语义感知预取：根据模型下一 epoch 需求预取数据，国内星宇等已有实现，称 GPU 利用率从 68% 提升到 92%。

4.5 GPU 计算栈协同：GPUDirect Storage 与 SCADA

NVIDIA 2019 年首次发布的技术。原理：让 NVMe 设备通过 DMA 直接把数据写入 GPU 显存，跳过 CPU 系统内存（避免 bounce buffer），从而：

中小数据块吞吐量大幅提升（实测 8.8 GB/s vs 2.24 GB/s）。

延迟大幅下降（4KB 传输平均 116μs，32KB 仅 203μs）。

CPU 利用率从消耗 52 个核心降低到 6 个以下。

社区使用上需要：

cuFile

（libcufile.so）用户态 API。

O_DIRECT

跳过 page cache。

校验过的 IOMMU、PCIe 拓扑（Gen5 x16 理论峰值 63 GB/s）。

缓冲区 pinning 到 GPU BAR。

NVIDIA 在 2026 年 FMS 大会发布的下一代框架，把"控制路径"也卸载到 GPU 上 —— 即 GPU 不仅能收数据，还能自己向存储发起请求，进一步减少 CPU 介入。这意味着即便调度决策也可在 GPU 上完成，为大规模 agentic 推理的微秒级存储访问提供了底层支持。

2026 年 8 月的 FMS 上，NVIDIA 宣布：

cuFile API 开源，由 Google、Intel、Meta、NVIDIA 共同维护。

Storage-Next 联盟，40+ 厂商（DDN、KIOXIA、Micron 等）加入，目标是把 GPU 驱动存储的行为标准化。

DDCT 的 DDN 已经宣布把 SCADA 集成到其 Infinia 平台。

通过 NVMe-oF 与 RDMA 的组合，GDS 同样适用于远程存储。WekaFS、VAST Data、DDN、Pure Storage、IBM Storage Scale、Hammerspace、Quantum Myriad 等均已宣布原生支持。霄云、浪潮、星宇等国内厂商均在其 2025-2026 产品中提供 GDS 支持。

4.6 KV Cache 卸载：从训练加速到推理基础设施

KV Cache 体积随上下文长度线性增长。LLM 推理时如果全部把 KV 放到 HBM，H100 80GB 大约只能服务 2 - 5 个并发会话；当上下文超过 100k tokens 时基本无可用空间。

卸载方案路径：

HBM ↔ DRAM 卸载：最简单但受到单机内存限制。

DRAM ↔ 本地 NVMe：延迟 μs 级，受单机容量限制。

本地 NVMe ↔ 集群级 RDMA NVMe（Tier 3.5）：业界当前选择。WEKA Augmented Memory Grid 2026 实测在 105,000 token 输入下将 TTFT Prefill 时间从 23.97 秒降到 0.58 秒，相当于 41× 提速。VAST / Pure / Nutanix / Dell / HPE 均在 2026 年把 KV Cache 持久化作为标准能力之一。

这一形态被业界命名为ICMS（Inference Context Memory Storage, "Tier 3.5"），WEKA、VAST、Dell、HPE、Nutanix 是其主要供应商。

4.7 网络与拓扑感知

GPU 集群节点的物理距离（同一 rack / 跨 rack / 跨 POD）会显著影响 RDMA 吞吐。AI 原生并行文件系统设计时应：

数据本地化：把被频繁访问的 checkpoint / 训练 chunk 尽量保留在跟 GPU 同 POD 的存储节点。

亲和性调度：Kubernetes + CSI 通过拓扑标签让 workload scheduler 优先把训练任务调度到数据所在节点（如 JuiceFS CSI）。

多 Rail 聚合：霄云 A9000、DDN AI400X2 等都采用 Multi-Rail 多网卡聚合，可获得 90% 以上带宽利用率。

5. 典型架构模式

5.1 模式 A：解耦元数据与数据（经典 PFS 演进路径）

代表：Lustre、DDN EXAScaler、IBM Storage Scale、Quantum Myriad。

架构：MDS / NSD / Metadata Pool + OSS / OST / Data Pool。

优点：分而治之，每层独立优化；POSIX 完全兼容。

缺点：MDS / NSD 单点；扩展时需要协调；增加节点需要再平衡。

趋势：通过分布式元数据服务、客户端智能路由缓解单点问题。

5.2 模式 B：解耦共享一切 / DASE

代表：VAST Data（VAST AI OS）。

架构：把存储介质与 CPU / 协议服务完全解耦，所有服务器共享同一份元数据视图和存储池，客户端到任意节点都可发起读写。

官方定义："Disaggregates (separates) the storage media from the CPUs that manage that media and provide storage services. This disaggregated storage, including all the system metadata, is shared by all the VAST Servers in the cluster."

硬件形态：Cbox（计算 / 协议节点）+ Dbox（Q72/NVMe + 高写入 SLC SSD）+ ND-over-NVMe 互联。

优势：横向扩展时没有分区再平衡；吞吐量与容量可独立扩展；适合 100k+ GPU 集群的 TB/s 级吞吐。

真实落地：截至 2026 年 5 月，VAST 全球客户累计软件预订突破 20 亿美元，160 个 DASE 集群已部署 1M+ GPUs。Dell、HPE 通过 OEM 获得 DASE 平台，NetApp 也开发类似架构。

5.3 模式 C：NVMe-Native 全闪存分布式共享

代表：WEKA WekaFS。

架构：每节点客户端容器内运行用户态 RTOS，通过专有协议 + RDMA 互联；SSD 作为分布式的网络化设备；元数据全局分布。

核心特性：

基准：2025 年 IO500 Production 列表上前 10 几乎被 DAOS + WekaFS 占据；WEKA 自报 826.86 分（vs DDN 648.96），Metadata IOPS ~2.75M（vs DDN ~520k）。

5.4 模式 D：解耦元数据 + 第三方数据节点

代表：Pure Storage FlashBlade//EXA（2025 年 3 月发布）。

架构：元数据由 Pure 的 FlashBlade 处理，数据节点可使用第三方商用 OTS。

关键指标：单一 namespace 内投影读吞吐 >10 TB/s。

访问协议：pNFS + 后续 S3 over RDMA。

客户场景：1 - 10k GPUs，需要 1 TB/s - 50 TB/s 吞吐量的客户。

5.5 模式 E：集中式元数据 + pNFS Flex Files

代表：Hammerspace。

架构：集中 metadata 提供高速 inode / 命名空间视图；pNFS 4.2 + Flex Files 把数据并行访问交给客户端协调。

能力：跨数据中心 + 跨云的全局 parallel namespace；通过"assimilation"模式可零数据迁移地把现有 NetApp / Qumulo / VAST 阵列纳入。

基准：2025 年 11 月在 IO500 10-Node Production 杀入前 10，使用标准 Linux + 上游 NFSv4.2 客户端 + 商用 NVMe SSD + IP-over-InfiniBand。

5.6 模式 F：云原生对象存储 + 分布式元数据

代表：JuiceFS。

架构：数据下沉到 S3 / OSS / COS 等对象存储，元数据可在 Redis / TiKV / 自研引擎中按场景选择；客户端通过 FUSE 或 CSI 暴露 POSIX / HDFS / S3 接口。

典型场景：Kubernetes / 弹性 AI 平台 / 模型训练数据湖。

客户案例：上汽集团 AI 平台训练速度提升 3×；九识智能管理 6 亿 + 文件、PB 级仿真数据。

优点：完全云原生、容器友好、成本低；缺点是依赖远程对象存储，延迟受限。

5.7 模式 G：对象存储 + GPU 直连层（RAG / 推理优选）

代表：Nutanix Unified Storage（Tier 4 living memory）+ NVIDIA AI Data Platform。

架构：在 Tier 4 共享存储之上对接 LMCache 等缓存分层编排软件，把 KV Cache 卸载到 RDMA NVMe 共享层；GPUDirect Storage 通过 NFS / 后续 S3 over RDMA 实现。

应用：Agentic AI 多轮长上下文、企业 RAG。

5.8 模式 H：Tier 3.5 + Tier 4 混合冷热

代表：星宇"GPU 直连缓存 + 分布式 NVMe 池 + 对象存储"三段式。

热层（¥0.8/GB·月，按小时计费）。

温层（¥0.25/GB·月）。

冷层（¥0.05/GB·月）。

AI 语义感知预取，吞吐 ×3、GPU 利用率 68% → 92%。

5.9 产品矩阵一览（截至 2026 Q3）

产品	架构模式	原生 GPUDirect	分布式元数据	KV Cache 支持	单 namespace 投影吞吐	开源
WekaFS	C	✅	✅（NVMe-native）	✅（Augmented Memory Grid）	~300 GB/s+	否
VAST Data	B	✅	✅ DASE	✅	TB/s 级	否
DDN EXAScaler	A	✅	❌（依赖 MDS）	部分（Infinia 2.0）	~4 TB/s（Eos）	Lustre 子模块开源
Pure FlashBlade//EXA	D	✅	集中	✅	>10 TB/s	否
Hammerspace	E	✅	集中 + pNFS	✅	多 TB/s	否
IBM Storage Scale	A	✅	✅	✅	500 GB/s+	否
Quantum Myriad	A	✅	❌（集中）	通过 NVMe-over-Fabric	n/a	否
Qumulo	A	❌（roadmap）	✅（分布式）	❌	n/a	否
JuiceFS	F	✅	✅	通过 GPUDirect 客户端	~GB/s/节点	✅（~12k ⭐）
Alluxio	缓存层	✅	✅	通过客户端 KV Cache 卸载	多 GB/s	✅（~7k ⭐）
Nutanix Unified Storage	G	✅	✅（多节点 RADOS）	✅（与 LMCache 集成）	n/a	否
霄云 A9000	A+C	✅	分布式	部分（Checkpoint 优化）	~90+ GB/s 单机箱	否
浪潮 A9000	免锁零拷贝	✅	✅	✅（Agent Memory 外置 TTFT -97%）	160 GB/s 单节点	否

6. 性能优化策略

6.1 客户端缓存与预取

读侧缓存：JuiceFS / Alluxio 的客户端缓存可把热数据保留在 NVMe。

写侧缓存 / Write-behind：通过异步聚合写入摊销网络开销。

预取策略：基于 epoch / step 提前预取下一 batch；NVIDIA DALI 提供 GPU 侧预取；WEKA / VAST 提供基于 RDMA 的客户端缓存。

6.2 拓扑感知调度

把训练任务调度到数据所在 rack / node 上，避免跨 POD 流量。

通过 Kubernetes Topology Spread Constraint + 存储 CSI Driver label 实现。

多 Rail 聚合提升单节点吞吐。

6.3 多级 Checkpoint 策略

频率	目的地	用途
每 5 分钟	本地 NVMe / 内存	用于瞬态故障快速恢复
每 30 分钟	共享并行存储（S3 Express One Zone / Express Parallel FS）	跨节点可见
每数小时	跨 AZ / 冷对象存储	灾难级持久保护

Express One Zone（同 AZ）实测 1 ms 级延迟，适合 checkpoint；Glacier 等冷层用于超长期 / 法规要求。

6.4 自适应纠删码 / 副本

训练热数据 3 副本 → 推理阶段 → 6+3 EC。

对于推理 KV Cache 这种"重效率轻可靠"负载，可采用 1:1 副本甚至无副本（丢了重算）。

国产 RustFS 示例：3 副本写 vs EC 6+3 写，EC 写带宽降低但存储效率从 33% 提升到 67%。

6.5 KV Cache 持久化与卸载

参见第 4.6 节。

6.6 工具链适配

NVIDIA DALI：在 GPU 上做数据加载与预处理。

PyTorch DataLoader + S3 Connector：可绕过 POSIX 直接读 S3。

cuFile API：直接暴露 GPU 直存能力；2026 年开始开源。

MLPerf Storage v2.0：标准化的存储 benchmark，可复现厂商结果。

IO500：HPC 存储业的"金牌标准"，但需要识别 10-Node 与 Production 的差异。

7. 面临的挑战

7.1 海量小文件处理

根因：AI 数据集亿级图像 / 音频 / token。

后果：即便分布式元数据也会出现元数据 IOPS 达顶；目录遍历效率下降；inode 耗尽。

缓解：小文件聚合（LOSF）、inode 池扩大、客户端缓存、向量 / embedding 改用数组存储。

7.2 弹性扩展与成本平衡

挑战：GPU 集群按周 / 月级别增减；存储可不能"按小时租"。

现状：私有化部署周期数月；云上通过 JuiceFS / S3 / FSx for Lustre 等缓解。

国内动向：星宇等厂商把 GPU 集群和存储做一体化租赁，重构 CAPEX/OPEX 关系（"按 ¥/GB·月 + 按小时热层"模式）。

7.3 容错与一致性

挑战：训练作业一旦中断，要快速从最近 checkpoint 恢复且不能读到不一致的数据。

现状：EC + 异步多副本 / 跨 AZ 副本成为主流；Hammerspace 通过全局元数据降低协调开销。

悬而未决：在 Tier 3.5 KV Cache 这种"重效率"层如何取舍一致性与重算代价。

7.4 跨云 / 混合云数据迁移

训练 / 推理集群跨云迁移时数据搬运成本极高。

厂商策略：

7.5 安全与多租户

训练数据往往是企业核心资产（医疗影像 / 金融交易 / 自动驾驶路采）。

AI 原生存储需要：

VAST DataBase 支持行 / 列 / 单元格过滤与 Open Policy Agent (OPA) 集成；IBM Storage Scale 支持细粒度 ACL；Pure / Nutanix 提供企业级多租户。

7.6 标准化与厂商锁定

现状：WEKA 客户端协议、VAST DASE、FlashBlade DirectFlash 等多为专有。

风险：迁移成本可达初始投资 30% 以上。

缓解：pNFS Flex Files（Hammerspace）、cuFile 开源、Storage-Next 联盟、CXL 内存池化是 2026 年难得的开放力量。

历史经验：Google 在 GFS 早期专有，到 Colossus / Spanner 时代部分采用标准 RDMA + NVMe-oF。

7.7 KV Cache 的容量 / 一致性治理

多用户共享 Tier 3.5 时，命名空间、TTL、过期策略、合规审计都需要新增设计。

当前各厂商方案各异，尚无统一标准。

8. 未来发展趋势

8.1 CXL 内存池化进入量产（2025 - 2026）

CXL（Compute Express Link）是基于 PCIe 5.0/6.0 的高速互联协议，支持内存池化（Memory Pooling）、内存共享（Memory Sharing）、缓存一致性（Cache Coherence）。2025-2026 的关键事件：

2025 年 11 月 Samsung CMM-D 2.0（CXL 2.0）正式量产，2025 年内还将发布 CMM-D 3.0（CXL 3.1，容量 1TB、带宽 72 GB/s）。

SC25 上 XConn CXL switch 演示：相比 200G RDMA 提升 3.8×、相比 100G RDMA 提升 6.5×。

ABI Research：CXL 内存扩展单位 GB 成本可降低 ~52%。

中国市场：预计 2028 年 CXL 市场达 160 亿美元，中国占一半（Yole 预测）。

应用场景：LLM 推理 KV Cache 跨主机共享、MoE 模型 expert 卸载（最高节省 82% GPU 显存，性能损失仅 31%）、GNN 训练（图数据 → CXL，训练效率 ~4×）。

判断：未来 3-5 年存储和内存的界限将逐步模糊，"存储 = 内存 + 持久化"的范式开始成立。

8.2 KV Cache 持久化（Tier 3.5）成为推理基础设施标配

2026 年 WEKA Augmented Memory Grid、VAST Persistent KV Cache、Pure / Dell / HPE / Nutanix Tier 4 living memory 均已发布或 roadmap。

支撑 agentic AI 多轮长上下文、跨 GPU 会话迁移、RAG 缓存复用。

这一层的产品形态尚未定型，可能在未来 2-3 年内分化出一套独立标准。

8.3 开放标准化进程加速

cuFile API 开源（FMS 2026）：Google/Intel/Meta/NVIDIA 联合维护，让 GPU 直存不再绑定单一硬件平台。

Storage-Next 联盟：40+ 厂商共识，定义 "GPU 驱动存储" 行为准则。

pNFS Flex Files在 Hammerspace、PEAK:AIO 的推动下正获得新生命 —— FMS 2026 PEAK:AIO "pNFS in Hyperscale AI" 演讲是标志事件。

SCADA作为下一代框架，把"控制路径"也放在 GPU 上。

判断：未来 3 年内可能出现 "AI 原生并行文件系统接口标准" 的事实规范，类似当年 NFS/SMB 的角色。

8.4 推理优先级与架构重构

训练与推理的传统边界被打破 —— 同一集群往往同时承担。

KV Cache 卸载、agentic 上下文共享、prompt 缓存共享使存储 SLA 从"训练 GT/s" 拓展到 "推理 sub-ms"。

这对架构师的含义：选型时不能只看训练 baseline，必须问"推理时延能否维持 SLA"。

8.5 磁带与冷存储的回归

LTO-10 实现 40TB 原始容量（2.5:1 压缩 100TB），LTO-11 70TB、LTO-12 110TB 已在 roadmap。

百度智能云、AWS、Google Cloud 已在底层部署 EB 级磁带库。

在 AI 监管 / 法规要求下，"可重训"全量数据集长期归档需求越来越强。

8.6 AI 数据平台（操作系统化）

VAST AI OS：把数据 / 计算 / 消息 / agent runtime 统一在一个 OS 层。

NVIDIA AI Data Platform：NVIDIA 与 DDN / Pure / VAST / Micron 等联合定义参考架构。

浪潮信息 AI Data Platform：强调"数据是一条不断流淌的河流"。

Nutanix AI Data Platform：基于 NVIDIA Reference Design 集成 LMCache、Milvus、NeMo。

判断：存储正在从"产品"演化为"AI data fabric / OS"，3-5 年后所有 storage 厂商都会提供某种"AI 数据平台"形态。

8.7 国产化与地缘影响

国产芯片（昇腾 / 寒武纪 / 海光 DCU / 摩尔线程等）+ 国产存储（华为 OceanStor、浪潮 A9000、焱融科技、新华三、星辰天合等）形成完整堆栈。

"数据主权"和"主权 AI"概念催生本地化 + 合规存储需求；DDN 与印度 Yotta 的合作是典型案例。

2026 年 DRAM/NAND 价格上涨（Q1 DRAM 合约价 +90-95%、NAND +55-60%）使国产替代更加迫切。

9. 结论与建议

9.1 一句话总结

AI 原生并行文件系统不是传统 PFS 的"AI 适配版"，而是面向"GPU 永远不该空转"这一根本约束，从硬件到协议全栈重构的存储范式。其核心是GPUDirect Storage + 分布式元数据 / DASE + 五层分层存储（特别是 Tier 3.5 KV Cache 层）+ 开放协议标准（pNFS / cuFile / SCADA）。

9.2 给技术决策者的五建议

用 "GPU feeding capability" 重新定义存储 SLA。评估底线：1 GB/s per GPU（读）+ 1 GB/s per GPU（写）。99% 的 GPU 投资回报率由此决定。

训练与推理双轨规划。2026 起，KV Cache 持久化和 Tier 3.5 应在选型表中占有与"训练带宽"同等权重。

优先考虑开放标准参与度。选择 pNFS / cuFile / Storage-Next / CXL 等开放生态中的产品，以降低 3-5 年后的退出成本。

本地化与合规并重。如果涉及医疗 / 金融 / 自动驾驶数据，厂商的"全球数据中心布局"与"本地化合规能力"是同等重要的评估维度。

小文件问题从第一天就处理。训练数据入湖时即考虑 LOSF / 嵌入化 / 向量化；不要等产品扩展到 10 亿 + inode 后再去重构。

9.3 给系统工程师（SE）的三要点

解耦元数据 + 分布式元数据 = 必选。无论集中还是分布式，必须能独立扩展。

GPUDirect Storage 不再是 optional。它已经是 NVIDIA Reference Design 默认要求，不支持就意味着退出中高端市场。

CXL 留出 5 年路线图。即便今天不上 CXL 内存池，也应在网络 / 主机拓扑设计时为未来 CXL 交换 / 内存扩展留好物理空间。

9.4 给产品经理（PM）的三建议

从"容量与性能"转向"GPU 经济"。把存储 TCO 表达为"GPU 利用率收益 - 存储投入"。郭海峰观点："用不到整个项目 10% 的钱采购存储，把卡的利用率提升 15%" 是极具说服力的销售叙事。

Tier 3.5 KV Cache 是新的差异化战场。2026 年只有少数厂商（WEKA、VAST、Pure、Nutanix、霄云、浪潮、星辰天合等）具备成熟能力，2 年内会成为通用能力。

重视"数据主权 + 数据叙事"。可重训 / 可追溯 / 可治理比单纯性能更能打动 CEO/CFO。