AI 工厂将能源转化为智能。但在 AI 工作负载生成首个 token 之前,运营商必须将计算、网络、存储、电力、冷却和软件的互联系统作为一个生产单元上线。
在传统的数据中心构建中,团队必须首先选择站点、为部署设计功率和冷却系统、布局数据中心,以及规划和安装机架和线缆。然后,他们可以逐步验证网络和集群,并将服务上线。这项工作需要协调的专业劳动力,而且安装、基础设施就绪和系统测试之间存在关键依赖关系。延迟可能会延迟启动时间和基础架构开始生成 token 的日期。
NVIDIA DSX POD 将更多此类工作转移到受控工厂环境中。作为 NVIDIA DSX AI Factory Platform 支持的多个 AI 工厂实现模型之一,NVIDIA DSX POD 参考设计是工厂构建的标准化实现。它使合作伙伴能够构建标准化容器,预集成 AI 基础设施,在发货前完成关键验证,并在交付后连接到准备就绪的现场基础设施。其结果是一种可重复的方法,旨在降低现场集成的复杂性,并帮助运营商更快、更可预测地实现生产 AI 能力。
本文将介绍 NVIDIA DSX POD 的基础、参考设计如何与 NVIDIA Vera Rubin 平台 保持一致,以及 NVIDIA 及其生态系统合作伙伴如何开展产品工程、部署和支持工作。
将 AI 工厂集成推向上游的设计基础
模块化和预制数据中心已经存在。AI 工厂面临的工程挑战不仅限于将传统 IT 设备置于机箱内。
机架级 AI 系统集高密度计算、高速纵向扩展和横向扩展网络、液冷、供电、遥测和管理软件于一身。这些元素就像一个系统一样。在工厂集成、运输、安装和运营期间,其机械、电气、散热和网络要求必须保持在规范范围内。
NVIDIA DSX POD 为合作伙伴提供了设计基础,以便在工厂的容器中安装机架级系统、对集成单元进行功能测试、运输,并通过目的地的可重复流程将其安全地上线。NVIDIA 的投资涵盖实现这一目标所需的工程学科,包括机架布局、结构负载、电力、冷却、布线、服务访问、可靠性和验证。
这项工作扩展了向更大的工厂集成的进程,以降低安装复杂性并加速部署。NVIDIA 已从芯片和主板发展为完整的机架级系统,以及 NVIDIA DGX SuperPOD 等大规模参考架构。
NVIDIA DSX POD 将这种方法引入工厂构建的 AI 工厂实施中,将大多数组件集成从客户现场转移到受控制造环境中。该参考设计并未强制要求每个 AI 工厂实现容器化。传统的数据中心建设和现场集成设计仍然是重要的选择。NVIDIA DSX POD 为大规模部署添加了标准化路径,在这些部署中,调度可预测性、可重复性和减少现场工作量是首要任务。
架构与 NVIDIA Vera Rubin 平台保持一致
NVIDIA DSX 是用于共同设计 AI 基础架构的广泛设计框架。它在数据中心层面将计算、网络、存储、电源、冷却、设施控制和软件结合在一起。客户和合作伙伴可以以不同的物理形式实施该框架。
NVIDIA DSX POD 是这种更广泛设计的具体实现:一种标准化的 AI 工厂架构,由工厂构建的容器类型和它们之间定义的接口组成。该架构围绕 NVIDIA Vera Rubin 平台及其机架级系统设计。
该参考设计描述了完整的 AI 工厂,而非孤立的计算外壳。它涵盖计算、服务和管理功能、横向扩展网络、存储、电力、冷却、布线和其他支持性基础设施。
工厂集成部署的技术要求
NVIDIA DSX POD 参考设计的核心目的是使整个部署过程具有可重复性。这需要以下领域的协调要求:计算集成、网络和存储、布线和控制、供电、液冷以及机械设计和运输。
计算集成
NVIDIA DSX POD 计算容器专为 NVIDIA Vera Rubin 机架级基础架构而设计。该设计定义了计算和支撑机架如何安装在机箱内,以及合作伙伴如何解决结构支撑、重量分布、设备限制、维修许可、气流和液冷访问、机架级电源和网络连接等问题。
工厂集成也会改变验证边界。合作伙伴将已安装的计算环境验证为部署单元,而不是将每个机架视为将现场组装到集群中的独立货运。验证计划可涵盖机架库存、固件和配置基准、上电检查、网络连接、传感器操作、冷却完整性以及容器出厂前的系统级功能测试。
网络和存储
AI 工作负载依赖于整个 AI 工厂中模型数据、训练数据、检查点数据和推理上下文的可预测移动。因此,参考设计将网络和存储视为系统架构的一部分,而非计算到达后针对特定站点而添加的内容。
该设计定义了计算容器内、容器之间以及从模块化系统到客户外部网络所需的连接性。它涵盖横向扩展网络、服务和管理网络、光纤入口点、主干布线、线缆布线、标记、弯曲半径、服务访问,以及出厂前对工厂安装链路的验证。
存储需求遵循相同的原则。该架构定义了所需的容量、性能、连接性、管理和服务特性,同时允许最终设备实施反映部署规模和合作伙伴解决方案。这使得存储和网络能够作为 AI 工厂的协调部分到达,而不是在站点集成后期必须协调的独立系统。
布线和控制
在机架级部署中,NVIDIA DSX POD 可减少现场布线工作量,在可行的情况下将机架到机架的网络布线、电源布线、控制布线和传感器集成移至工厂。
该参考设计明确定义了线缆路径、分离要求、端点、标记规范、测试程序和可维护性要求,可帮助合作伙伴在受控条件下轻松安装和测试这些连接,从而减少交付后所需的现场终止数量。
供电
DSX POD 采用标准输入 800 VDC 电源设计,从核心容器的电气输入开始,一直到保护、配电、接地、机架连接、控制和遥测,实现无缝供电。该参考设计定义了已安装的 AI 基础设施所需的功率特性和接口。然后,合作伙伴为客户现场设计上游发电、转换和区域电气解决方案。
这种分离很重要,因为不同地区的公用事业条件、代码、设备可用性和网格架构各不相同。容器边界的通用接口可实现可重复的核心设计,同时保持生态系统合作伙伴为每次部署提供动力支持的灵活性。
NVIDIA 软件可以帮助操作员在可用功率限制内管理工作负载,从而完善物理设计。策略驱动的电源控制、工作负载编排和高保真遥测技术可以帮助 AI 工厂将固定的电源包络转换为更高效的计算。
液冷系统
Vera Rubin 机架级系统需要协调的液冷基础设施。容器内部的设计涵盖了将机架连接到容器冷却接口的管道,包括路线规划、歧管、隔离、仪器仪表、泄漏检测、压力完整性和服务访问。
合作伙伴可以在工厂组装、刷新、进行压力测试和验证内部冷却回路。在现场,他们将容器连接到准备好的取水和排热基础设施,调试整个循环,并验证操作条件下的性能。
NVIDIA DSX POD 会在集成发生时发生变化。它不会消除配套设施的基础设施。
机械设计和运输
运输已安装在机箱中的高价值机架级系统需要将物流视为工程要求的设计。容器结构、设备约束、重量分布、重心、提升和处理点、进出路径以及运输条件必须协同工作。
该参考设计还将运输要求与出厂质量门连接起来。合作伙伴在发货前检查集成单元,记录其配置和测试状态,将其固定用于运输,并在到达后重复定义的检查。该过程有助于确定交付到现场的系统与在工厂验证的系统相匹配。
并行化工厂集成和现场准备
工厂构建的模型会更改部署顺序。现场团队可以准备地面、基础、电力和外部连接,而合作伙伴则可以并行制造和集成容器。
合作伙伴在工厂安装机架级系统,完成内部布线和管道布置,集成控件,加载经批准的配置基准,并运行功能测试。在部署现场,施工团队准备容器所需的物理接口和实用接口。
交付后,工作重点是放置、容器间连接以及连接外部电源、冷却和网络。然后,团队确认运输的完整性,验证现场连接,并完成系统调试。
此模型不会移除现场作业。它减少了在现场执行的复杂、可重复的集成,并将其移动到专为一致的工具、质量控制和并行生产而设计的环境中。
使用标准化部署单元进行扩展
标准化容器架构为运营商提供了用于规划和扩展的可重复单元。准备好配套站点基础设施后,操作员可以使用相同的定义接口和验证流程来添加计算和支持容量。
标准化还为软件优化奠定了一致的基础。当底层计算、网络、电源、冷却和遥测架构是已知软件时,可以轻松调整该环境的操作实践。合作伙伴仍然可以根据当地法规、现场条件、客户要求和区域供应链调整每个实施。
这种平衡是 NVIDIA DSX POD 的核心。参考设计提供可重复使用的 NVIDIA 工程和验证。该生态系统提供制造能力、现场专业知识、区域工程、定制、部署、服务和支持。
合作伙伴主导的交付模式
NVIDIA 提供经过验证的 AI 基础设施设计基础,并与生态系统合作,证明机架级系统可以作为可重复的工厂构建单元进行集成、测试、运输和部署。
OEM 和 ODM 集成了计算系统。机械、电气、管道和基础设施专家根据现场情况调整电力和冷却。模块化解决方案提供商制造机箱并集成子系统。现场合作伙伴准备位置、完成安装并为调试提供支持。这些合作伙伴携手将参考设计转变为客户特定的 AI 工厂。
该模型扩展了模块化数据中心市场,而不是取代现有产品。合作伙伴可以继续提供不同级别的集成,从客户现场填充的模块化基础设施到完全工厂集成的部署。NVIDIA DSX POD 为生态系统提供了经过验证的路径,同时为实现和服务方面的差异化保留了空间。
详细了解 NVIDIA DSX POD
当基础设施开始生产 token 时,AI 工厂的价值就开始了。通过在工厂中实现可重复的集成和验证,NVIDIA DSX POD 旨在减少构建过程中的延迟曝光,简化现场工作,并提高部署的可预测性。
该参考设计将 NVIDIA Vera Rubin 的计算、网络、存储、电源、冷却、布线、控制和验证整合到一个协调的架构中。NVIDIA DSX POD 提供工程基础。合作伙伴构建、定制、交付和支持生成的解决方案。
详细了解 NVIDIA DSX POD 参考设计 如何帮助以更快、更可预测的方式将可用的土地、电力和准备就绪的现场基础设施转化为生产级 AI 能力。