AI 基础架构工程师、存储开发者和云服务提供商需要快速安全地访问高容量文件和对象存储，以支持 AI 工作负载。
AI 工作负载越来越需要高速数据访问来进行训练、微调、推理上下文、工具调用、搜索和数据库查找。其中大部分数据都存储在本地和云端存储的文件和对象中。计算加速器 (包括 GPU、TPU 和 XPU) 需要远程直接内存访问 (RDMA) ，这种访问使用网卡或 DPU 加速的数据传输 (如 NVIDIA ConnectX 网卡或 NVIDIA BlueField DPU) ，并且不会通过服务器的 CPU 控制内存复制数据。随着更快的 GPU 架构，对 RDMA 加速的零拷贝数据传输的需求也在增长。
构建对文件和对象存储的直接访问的开发者必须跨提供商使用不同的 API 和协议。基于 RDMA 的对象存储也缺乏通用的 Wire 协议，因此开发者只能支持特定于提供商的集成，或依赖传统的访问方法。
xio-sig 的扩展和新的 SCADA 服务器 SDK 为 AI 工作负载构建更多可互操作的存储访问提供了两种方法。
xio-sig 和 SCADA 的新进展
NVIDIA 正在与 Google Cloud 和 Microsoft 合作，扩展 xio-sig，将 NVIDIA cuObject 和 cuFile 包括在内。它还宣布全面推出 cuObject 客户端和服务器库。开发者可以使用 cuObject 的 API 和 RDMA Wire 协议来构建加速的对象存储应用程序和服务器，而 xio-sig 提供了一种路径，使 cuObject 客户端能够与任何遵守 Wire 协议的服务器端实现进行互操作。
新的 SCADA 服务器 SDK 使存储提供商能够构建 SCADA 服务器，以响应来自 SCADA 客户端的 GPU 初始化请求。IBM 已经展示了与集成 SCADA 和 IBM Storage Scale 的原型的互操作性。这些努力与 xio-sig 扩展相结合，为 AI 开发者、存储提供商和云服务提供了更多通过共享 API 和协议构建和使用加速存储的方法。
还有一类新兴的 AI 数据访问，涉及由加速器发起的小型、细粒度的 I/ O 请求，这些请求不适合传统的存储介质或协议。通过 NVIDIA Storage-Next 计划，NVIDIA 正在带领 40 多家供应商和客户 (包括 NAND 供应商、控制器供应商、存储提供商、超大规模企业和应用程序开发者) 确定 GPU 驱动的存储的工作方式，并将这些进步转化为可互操作的开放行业标准。SCADA 是支持高吞吐量、细粒度 GPU 初始化存储访问的软件基础设施。FMS 博客提供了这些工作的背景信息。
xio-sig 中的 cuObject 支持
cuObject 库的全面推出为 AI 应用开发者、开源框架开发者、存储提供商和存储消费者提供了使用文件和对象协议加速 AI 数据访问的标准化方法，如图 1 所示。AI 加速器可以使用 RDMA 访问文件和对象存储，无需通过服务器 CPU 路由数据，从而实现更高的吞吐量、更低的延迟，并降低数据写入和读取的 CPU 利用率。
Google Cloud 在作为 cuFile 的维护者参与 xio-sig 的基础上，正在评估扩大对 cuObject 的参与，这反映了其对高性能云文件和对象存储的关注。Microsoft 还期待加入 xio-sig Board，以提高存储 I/ O 的互操作性。
xio-sig 进展
为每个 cuFile 和 cuObject 设置存储库结构。在生产就绪型堆栈通过一致性测试后，将共享 cuFile 和 cuObject 的标头、cuObject Wire 协议，以及 libxFile 和 xFilekernel 代码库实现代码。待审核的董事会成员目前正在审核治理文件。
NVIDIA Storage-Next 和 SCADA 扩展
在 Storage-Next 计划中，新的 SCADA 服务器 SDK 使存储合作伙伴能够构建服务器，以接收来自基于 GPU 的 SCADA 客户端的请求，使用本地或远程存储来完成这些请求，并通过 RDMA 提供结果。这项工作还包括 Storage Lender Service 和用于配置和部署 SCADA 的 SCADA 命令行实用程序。这些组件支持能够与 SCADA 客户端进行互操作的存储提供商服务器。
IBM Storage 演示了一个原型，其中 SCADA 客户端基于新的 SCADA 服务器 SDK 向其 Storage Scale SCADA 服务器的初始版本发送请求。这展示了存储供应商如何与 NVIDIA 合作，为 SCADA 的加速、GPU 发起的存储访问构建生态系统，为软件基础设施铺平道路，使其能够支持语义搜索、推荐系统和欺诈检测等应用对大型数据集的访问。
开始使用 cuObject 和 xio-sig
随着 xio-sig 的扩展，现在已正式推出 NVIDIA cuObject 和 cuObject 库，存储合作伙伴、提供商和消费者可以开始使用 cuObject，并准备为社区关于 cuFile 和 cuObject 的可互操作 API 和协议的工作做出贡献。
- 观看 xio-sig 资源库的更新
- NVIDIA 关于 xio-sig、cuFile 和 Storage-Next 的 NVIDIA FMS 博客
- NVIDIA 在 2024 年 OCP 峰会上关于 SCADA 的演讲
- 查看并试用 OSS Storage Lender 服务
- GPUDirect Storage (GDS) 文档
- 文档对cuFile API
- 文档对cuObject
- cuObject Server 2.0.0 链接
- NVIDIA CUDA 13.4 预览版下载
请参阅有关软件产品信息的通知。
