面对大型AI 运算技术会大幅占用记忆体，导致显示卡、AI 运算卡的HBM、GDDR 记忆体需要面临高昂的容量成本与效率瓶颈，NVIDIA 发表cuFile API 开源技术，能GPU 在必要时直接将资料存取于SSD 中，减少记忆体溢出需要分段训练的麻烦。
NVIDIA 在FMS 未来记忆体与储存展上cuFile API 技术，开技术基于NVIDIA GPUDirect Storage (GDS) 架构中的开源核心元件，用以解决GPU 在AI 训练上的记忆体容量困境，实现GPU 可对SSD 进行直接读写的操作。
一般AI 训练时，如果GPU 的HBM/GDDR 不足，需要工程团队预先设置分段式训练的指令，将原有的大型数据分切成多个小段落，将每个训练段落的资料重新组装后，再重新跑一次。过程需要频繁的资料搬迁，让AI 训练的过程相当没效率。
而cuFile API 便是略过传统GPU 资料调取需要先向CPU 申请，再从 SSD 搬到RAM 系统记忆体、最后才进到 VRAM 显示记忆体的过程，降低了 CPU 与RAM 的占用。
同时， cuFile API 能够以微秒级的速率，将VRAM 与SSD 之间的资料进行调换，实现串流的连续资料存取，解决传统爆记忆体需要先排空VRAM，再重新填入的过程，理论上，提升的不只是效率，还可提升稳定性。
不过这个方案也是有代价的，由于高频率抽换SSD 与VRAM 之间的数据，SSD 的写入寿命会大幅消耗，但这点在企业机房的架构上，通常可以通过指定特定SSD 当作快取使用，避免主要文件发生损坏。
最后，这项技术由于需要依赖Peer-to-Peer (P2P) PCIe 传输功能，这在消费级的GeForce 显卡产品上是被拔掉的，因此不适用一般人在家中用 RTX 50 系列显卡跑 AI ，也无法应用在改善游戏爆 VRAM 的问题。
