数据中心/云端
2026年 10月 7日
使用数字孪生和 AI 智能体验证 AI 工厂变更
AI 工厂是世界上最复杂的运营之一,将 GPU、CPU、交换机、DPU 和 SuperNIC 与调度程序、编排服务、
2 MIN READ
2026年 10月 6日
使用 NVIDIA Megatron Core 扩展逐位确定性预训练
逐位确定性使大规模预训练更易于调试、验证和以可重现的方式恢复。在跨数千个 GPU 训练具有数万亿个参数的模型时,这些优势变得尤为重要,
3 MIN READ
2026年 10月 6日
DOCA GPUNetIO 如何跨 NVIDIA 软件堆栈统一 GPU 初始化网络
GPU 应用程序越来越需要网络和数据移动,以实现由 GPU 控制的一流操作,而非主机驱动的服务。当 CPU 位于每个网络事务的中间位置时,
6 MIN READ
2026年 10月 6日
AICR v1.0:开放、稳定且可验证的 GPU 集群配置
GPU 加速的 Kubernetes 集群依赖于数十个组件的兼容版本,每个组件都有自己的发布周期:主机内核、GPU 驱动程序、容器运行时、
2 MIN READ
2026年 10月 6日
控制 GPU 共享如何处理绿色环境
GPU 应用越来越多地由在单个进程中同时运行的多个独立组件组成:延迟敏感型运算符以及面向吞吐量的后台内核;数据预处理阶段以及模型推理;
2 MIN READ
2026年 10月 1日
借助 NVIDIA DOCA 智能体技能,更快地在 NVIDIA BlueField 上构建应用程序
AI 智能体正在逐渐成为开发工作流程中的标配,但通用型智能体在设计时并未充分考虑 NVIDIA DOCA 这类专用基础设施软件构建的需求。
2 MIN READ
2026年 9月 30日
借助 NVIDIA cuObject 和 NVIDIA SCADA 服务器 SDK 扩展 AI 存储访问
AI 基础架构工程师、存储开发者和云服务提供商需要快速安全地访问高容量文件和对象存储,以支持 AI 工作负载。
2 MIN READ
2026年 9月 29日
设计原生 AI:构建 NVIDIA TensorRT 模型连接的经验教训
并行工作、模型系列隔离、可逆更改和 GPU 支持的验证塑造了围绕编码代理设计的开源项目 NVIDIA TensorRT Model…
2 MIN READ
2026年 9月 27日
NVIDIA DSX MaxLPS 如何更大限度地提高 AI 工厂的吞吐量和效率
每一个未使用的功率都是剩余的容量。AI 工厂通常是为每个 GPU 达到峰值功率这一不太可能出现的时刻而提供,从而创建一个保护缓冲区,
2 MIN READ
2026年 9月 24日
适用于生物基础模型的高效 MoE 训练
随着语言模型的发展,扩展密集架构的成本变得越来越高。在密集 Transformer 中,每个 token 都会穿过每一层,
3 MIN READ
2026年 9月 23日
在 AI 工作负载落地之前验证 GPU 集群就绪情况
GPU 集群可以通过每一次运行状况检查,但仍然无法运行 AI 工作负载。即使每个 GPU、网络链路和 POD 都报告正常,512…
2 MIN READ
2026年 9月 23日
使用 NodeWright 管理 Kubernetes Node Fleet
Kubernetes 管理节点上运行的内容。管理节点本身是一项挑战:内核设置、系统包、存储布局、
2 MIN READ
2026年 9月 22日
借助 NVIDIA 机密计算实现私有高性能生产级 AI 推理
随着大语言模型 (LLM) 推理越来越多地在个人、企业和受监管环境中处理敏感信息和专有模型上下文,数据必须在可信环境中处理。
2 MIN READ
2026年 9月 22日
借助 NVIDIA Topograph 实现拓扑感知型工作负载调度
AI 工厂是功率受限的系统,在完全优化时可提供最大价值。GPU 工作负载布局是一项关键优化。糟糕的工作负载放置分散了拓扑域,
4 MIN READ
2026年 9月 15日
密集与 MoE 模型:活动参数、吞吐量以及选择每个模型的时间
一个包含 300 亿个参数的模型如何仅对每个 token 激活 300 亿个参数,同时仍然使用更大模型的容量?Nemotron 3.5…
2 MIN READ
2026年 9月 15日
NVIDIA NVLink 6 如何为 AI 工厂提供多层弹性
对于大型 AI 工厂的运营商而言,最大化连续输出对于提高生产力至关重要。在大规模 AI 训练中,
2 MIN READ