深入了解

2026年 9月 22日

借助 NVIDIA 机密计算实现私有高性能生产级 AI 推理

随着大语言模型 (LLM) 推理越来越多地在个人、企业和受监管环境中处理敏感信息和专有模型上下文，数据必须在可信环境中处理。
2 MIN READ
2026年 9月 22日

借助 NVIDIA Topograph 实现拓扑感知型工作负载调度

AI 工厂是功率受限的系统，在完全优化时可提供最大价值。GPU 工作负载布局是一项关键优化。糟糕的工作负载放置分散了拓扑域，
4 MIN READ
2026年 9月 21日

如何评估从工具调用到任务完成的 AI 智能体

当您发布 AI 智能体 时，关键问题是它能否在实时环境中跨数十次连续工具调用执行工作链，并在步骤失败时恢复。
2 MIN READ
2026年 9月 16日

使用代理式 AI 将 CUDA Tile 操作从 Python 转换为 Rust

cuTile Rust () 是一个基于图块的系统，用于使用 Rust 编程语言进行安全的惯用 GPU 内核创作。
5 MIN READ
2026年 9月 15日

密集与 MoE 模型：活动参数、吞吐量以及选择每个模型的时间

一个包含 300 亿个参数的模型如何仅对每个 token 激活 300 亿个参数，同时仍然使用更大模型的容量？Nemotron 3.5…
2 MIN READ
2026年 9月 15日

NVIDIA Groq 3 LPX 确定性执行如何在 NVIDIA Vera Rubin 上推动节能高效的高交互性推理

功率是 AI 工厂 的决定性限制。由于 AI 工作负载需要一个完整的计算平台来为其提供服务，
2 MIN READ
2026年 9月 15日

NVIDIA NVLink 6 如何为 AI 工厂提供多层弹性

对于大型 AI 工厂的运营商而言，最大化连续输出对于提高生产力至关重要。在大规模 AI 训练中，
2 MIN READ
2026年 9月 15日

使用 NVIDIA FLARE 跨 Docker、Kubernetes 和 Slurm 扩展联合学习

联邦学习 (FL) 项目通常从简单的设置开始：一个服务器、几个客户端和每个站点的一个数据集。随着这些项目的发展，
2 MIN READ
2026年 9月 14日

借助 NVIDIA Transformer 引擎在 JAX 中加速无模型 MoE 训练

多专家模型 (MoE) 已成为大规模 AI 模型训练中的关键架构趋势之一。DeepSeek、Qwen 和 Mixtral 是 MoE…
4 MIN READ
2026年 9月 10日

全栈 NIM 优化如何在 Nemotron 3 Ultra 上为用户提供 2.5 倍的提升

部署大语言模型只是实现生产就绪型服务的第一步。制作团队还需要在可用的 GPU 基础架构上为尽可能多的并发用户提供服务，
2 MIN READ
2026年 9月 10日

从晶圆到第一个 Token：使用 Nemotron 和 Palantir Foundry 编写供应链专业知识

NVIDIA 拥有世界上最大、最复杂的供应链之一，其性能从晶圆到第一个 token 来衡量。间隔分为两部分。从芯片到机架的运行时间 (…
2 MIN READ
2026年 9月 9日

何时使用“编码-预填充-解码”解耦技术来加速多模态模型服务

编码 – 预填充 – 解码 (EPD) 分解是一种适用于多模态模型的推理优化技术，可将视觉编码器阶段与预填充和解码阶段分离开来。
4 MIN READ
2026年 9月 9日

CUDA 工具包 13.4 在 Arm 上添加了 Windows 支持，并增强了对共享 GPU 的控制

每个 NVIDIA CUDA 工具包版本都增加了功能和性能改进，帮助开发者从 NVIDIA GPU 和更广泛的 NVIDIA…
4 MIN READ
2026年 9月 2日

现代 CUDA 工具箱的实际应用：分步优化演练

NVIDIA CUDA 仍然是 GPU 加速计算的基础，为从科学模拟到大规模 AI 训练的一切提供支持。 但是，编写正确、
7 MIN READ
2026年 9月 2日

使用预测解码共同设计 AI 模型，加快 LLM 推理速度

本文是关于 AI 模型协同设计的系列文章中的第三篇。它探讨了如何使用预测性解码在保持准确性的同时加速 LLM 推理，
4 MIN READ
2026年 9月 1日

使用 NVIDIA Nemotron 构建自适应代理式网络安全系统

AI 正在改变网络安全的步伐。代理式系统可以协调工作并长期追求复杂的目标。安全团队开始在安全运营中应用智能体，但许多实施仍然依赖于现有警报、
2 MIN READ