基准测试
2026年 11月 16日
NVIDIA Vera Rubin NVL72 在 MLPerf Endpoints v1.0 上实现领先的代理式推理性能
代理式工作负载对推理系统的要求越来越高。AI 智能体轮流传输不断增长的对话记录,并生成推理、工具调用和响应的组合。
3 MIN READ
2026年 11月 16日
NVIDIA Vera Rubin NVL72 在 MLPerf Training v6.1 中实现高达 2 倍的 Blackwell Ultra 性能
随着 AI 智能体处理日益复杂的工作流程,缩短训练时间对于快速迭代模型及其驱动的智能体至关重要。MLPerf Training v6.1…
4 MIN READ
2026年 11月 10日
借助 NVIDIA Snapshot 在数秒内启动和恢复 GPU 工作负载
NVIDIA Snapshot 是 NVIDIA DSX AI Factory Platform 的新开源组件,
5 MIN READ
2026年 11月 6日
在 NVIDIA Blackwell GPU 上使用 FLUX 3 Image Klein 加速图像生成
在设计工具、图像编辑器和视觉制作工作流中部署扩散模型时,开发者必须考虑推理延迟。生成图像需要对具有数十亿参数的模型进行多次连续遍历,
8 MIN READ
2026年 11月 5日
NVIDIA 协同设计的五种方式可更大限度地提高 AI 工厂中每个字节的价值
在 AI 工厂中,高带宽内存 (HBM) 是速度最快、成本最高且最具争议的内存层。在冗余权重副本、
4 MIN READ
2026年 10月 22日
在 8 个 NVIDIA DGX Spark 节点上运行前沿 AI 模型
AI 开发者不再只是运行单个模型,而是并行编排多个模型、关联推理调用,以及尝试需要数百 GB 内存的前沿架构。
2 MIN READ
2026年 10月 16日
使用 NVIDIA RTX Spark 在一台机器上进行编码、测试和部署
AI 智能体正在改变软件的构建方式。开发者已经从手动编写每一行代码转变为指导代理编写大部分代码。因此,当前的工作流分为笔记本电脑、
2 MIN READ
2026年 10月 1日
使用 C++ 和 NVIDIA TensorRT RTX 示例构建本地 AI 应用
将 AI 模型添加到本地应用中需要一种可移植的模型格式、可靠的运行时和跨目标系统的加速。 立即执行推理 (DIN) Deploy…
1 MIN READ
2026年 9月 27日
NVIDIA DSX MaxLPS 如何更大限度地提高 AI 工厂的吞吐量和效率
每一个未使用的功率都是剩余的容量。AI 工厂通常是为每个 GPU 达到峰值功率这一不太可能出现的时刻而提供,从而创建一个保护缓冲区,
2 MIN READ
2026年 9月 23日
隆重推出适用于放射科医生思维链推理的 NV-Reason-CT Open 3D CT VLM
放射学 AI 在检测胸部 X 光片、病理学切片和 2D 扫描的异常方面取得了显著进展。然而,3D 计算机断层扫描 (CT) 是临床上最丰富、
3 MIN READ
2026年 9月 23日
SWE-Serve 如何揭示本地测试与实时服务之间的差距
当服务器加载真实模型并处理请求时,AI 编码代理的补丁可能会通过测试,但却失败。因此,评估对推理服务软件的更改需要检查完整的服务路径,
2 MIN READ
2026年 9月 21日
借助 NVIDIA Dynamo-Triton 中的 NVIDIA TensorRT 多设备集成,简化跨多个 GPU 的模型服务
生成式 AI 对计算和内存的需求日益超出单个 GPU 的能力。NVIDIA TensorRT 多设备推理是一项新功能,
3 MIN READ
2026年 9月 18日
借助 AIPerf 对 LLM 进行大规模基准测试推理
在系统上部署模型。启动后,提示得到响应。难题是:速度快吗? 直觉可能会引导您发送 curl 命令、手动滚动异步脚本或另一个一次性负载生成器。
3 MIN READ
2026年 9月 16日
TensorRT Edge-LLM 在 Jetson AGX Thor 上实现 MLPerf Edge Agentic Benchmark 6.4 倍加速
AI 智能体正从云数据中心转向车辆、机器人和其他边缘设备。与只回答单个提示的聊天机器人不同,智能体需要执行一系列步骤。它会选择工具、评估结果,
2 MIN READ
2026年 8月 25日
在 NVIDIA Dynamo 中借助阴影引擎恢复在数秒内恢复 LLM 推理能力
当 LLM 引擎进程失败时,标准恢复路径涉及冷重启。这需要从存储中将权重加载到 HBM 中,编译内核并捕获 NVIDIA CUDA 计算图。
3 MIN READ
2026年 8月 24日
NVIDIA Vera Rubin 和 Blackwell 为代理式 AI 每瓦性能设定新标准
AI 智能体已将推理从单轮交互扩展到多步骤工作流,这些工作流能够进行推理、调用工具、协调子智能体,
3 MIN READ