NVIDIA® Nsight™ Systems 是一个系统级性能分析工具,专用于实现应用算法的可视化,以帮助您发现诸多优化机会,以及进行调优以便跨任意数量或大小的 CPU 和 GPU(从大型服务器到较小的 SoC)进行高效扩展。



立即下载

概览

NVIDIA Nsight Systems是一款低开销性能分析工具,旨在为开发人员提供优化软件所需的洞察力。无偏差的活动数据可在工具中可视化,可帮助用户调查瓶颈,避免推断误报,并以更高的性能提升概率实现优化。用户将能够识别问题,例如 GPU 闲置、不必要的 GPU 同步、CPU 并行化不足,甚至其目标平台的 CPU 和 GPU 中意外昂贵的算法。它旨在跨各种 NVIDIA 平台进行扩展,例如:大型 Tesla 多 GPU x86 服务器、Quadro 工作站、支持 Optimus 的笔记本电脑、配备 Tegra+dGPU 多操作系统的 DRIVE 设备,以及 Jetson。NVIDIA Nsight Systems 甚至可以为 PyTorch 和 TensorFlow 等深度学习框架行为和负载提供宝贵见解;允许用户调整模型和参数,以提高单个或多个 GPU 的整体利用率。

平台

了解您平台上的 Nsight Systems:

 

版本亮点

2021.2 – 发布公告

  • 图形和计算工作负载的 GPU 指标采样
  • 在 CPU 和 GPU 上实现 CUDA 统一显存寻址错误追踪
  • 网络追踪增强功能,增加了对 NCCL、NVSHMEM、OpenSHMEM 和 MPI fortran 的支持

2021.1 – 发布公告

  • 支持 Vulkan 上的热门光线追踪游戏
  • 用户体验和性能提升

2020.5 – 发布公告

2020.4 – 发布公告

  • NVIDIA Ampere 架构
  • CUDA 11.1
  • CUDA 显存分配追踪
  • 经过标记和颜色编码的 UVM 传输
  • 启动 Nsight Compute 来分析从 Nsight Systems 中选择的内核
  • Vulkan mGPU 和设备组
  • 时间轴上的改进
    • 统一的 OpenGL 工作量
    • 帧时长统计
    • 系统挂钟允许比较多个报告
  • Windows 上的 CLI
  • 用户体验改进

下载

可以直接在 Linux 工作站和服务器上(包括 NVIDIA DGX 系列)进行分析,也可以通过各种主机(Windows、Linux 或 MacOSX)进行远程分析。

立即下载


不是分析 Linux 工作站或服务器?
了解其他目标平台。

文档

支持

要提供反馈、请求其他功能或报告支持问题,请使用开发者论坛

系统要求

用于数据采集的受支持的目标操作系统:

  • Ubuntu 16.04、18.04 和 20.04*
  • CentOS 7+*
  • Red Hat Enterprise Linux 7+*
  • * 对于旧版操作系统,请使用 Nsight Systems 2020.3

受支持的目标硬件

  • GPU:Pascal 或更新版本
  • CPU:x86-64、Arm 服务器基础系统架构和 Power9 处理器*
  • * Intel Haswell 架构或更新版本需要LBR 采样回溯

受支持的目标软件

  • 仅限 64 位应用
  • 用于 CUDA 追踪的 CUDA 10.0+
  • 需要驱动 r418 或更新版本

用于数据可视化的受支持的主机操作系统:

  • Windows 10+
  • macOS X 10.9+
  • Ubuntu 16.04、18.04 和 20.04

版本亮点

2021.2 – 发布公告

  • 图形和计算工作负载的 GPU 指标采样
  • Reflex SDK 追踪支持图形应用程序中的低延迟输入

2021.1 – 发布公告

  • DirectX 和 Vulkan 支持热门光线追踪游戏
  • Windows CLI 上的统计信息
  • 用户体验和性能提升

2020.5 – 发布公告

2020.4 – 发布公告

  • NVIDIA Ampere 架构
  • CUDA 11.1
  • CUDA 显存分配追踪
  • 经过标记和颜色编码的 UVM 传输
  • 启动 Nsight Compute 来分析从 Nsight Systems 中选择的内核
  • Vulkan mGPU 和设备组
  • 时间轴改进
    • 统一的 OpenGL 工作量
    • 帧时长统计
    • 系统挂钟允许比较多个报告
  • Windows 上的 CLI
  • 用户体验改进

下载

可以直接在 Linux 工作站和服务器上(包括 NVIDIA DGX 系列)进行分析,也可以通过各种主机(Windows、Linux 或 MacOSX)进行远程分析。
Visual Studio Integration*需要安装 Nsights Sytems

立即下载


不是分析 Windows 目标?
了解其他目标平台。

文档

支持

要提供反馈、请求其他功能或报告支持问题,请使用开发者论坛

系统要求

受支持的操作系统

  • Windows 10

受支持的目标硬件

  • GPU:Pascal 或更新版本
  • CPU:x86-64 处理器

受支持的目标软件

  • 仅限 64 位应用
  • 用于 CUDA 追踪的 CUDA 10.0+
  • 需要驱动 r418 或更新版本

版本亮点

2019.4

  • Linux 上的 Ftrace 集合
  • 事件表 – 时间轴数据的替代视图
  • 改进了 CUDA 显存传输颜色方案
  • Android 9 支持
  • 扩展了输出能力
    • 新数据源:线程信息、cuDNN、cuBLAS

2019.3

  • 适用于长阻塞函数的 QNX 操作系统运行时回溯
  • 适用于 SQLite 和 JSON 的输出工具
    • NVTX、CUDA、OS Runtime Trace(OSRT)

下载

以下产品开发套件附带 Nsight Systems:

通过 via NVIDIA SDK Manager 下载 Jetson

文档

支持

要提供反馈、请求其他功能或报告支持问题,请使用开发者论坛

系统要求

受支持的目标硬件

  • ShieldTV
  • Jetson AGX Xavier、Jetson TX2、Jetson TX1
  • DRIVE AGX Pegasus、DRIVE AGX Xavier、DRIVE PX Parker AutoChauffeur、DRIVE PX Parker AutoCruise

用于数据采集的受支持的目标操作系统:

  • QNX
  • Linux
  • Android

用于数据可视化的受支持的主机操作系统:

  • Ubuntu 16.04 和 18.04

特性

了解每个目标平台组的功能支持

功能
Linux
工作站和服务器
Windows
工作站和游戏 PC
Jetson
自主机器
DRIVE
自动驾驶汽车
查看跨 CPU 和 GPU 的系统级应用程序行为    
CPU 核心利用率、进程和线程活动
CPU 线程周期性采样回溯
是*
CPU 线程阻止的状态回溯
是**
CPU 性能计数器采样
GPU 应用追踪
GPU 上下文切换追踪
SOC 服务器虚拟化平台追踪
-
-
-
SOC 内存带宽采样
-
-
SOC 加速器追踪
-
-
Xavier
Xavier
操作系统事件追踪
ftrace
ETW
ftrace
ftrace
研究 CPU-GPU 交互和泡泡    
用户注释 API 追踪
NVIDIA Tools Extension API (NVTX)
CUDA API
CUDA 库追踪(cuBLAS、cuDNN 和 TensorRT)
OpenGL API 追踪
Vulkan API 追踪
Direct3D12、Direct3D11、DXR 和 PIX API
-
-
-
OptiX
7.1+
7.1+
-
-
API 和 GPU 应用的双向相关性
识别 GPU 空闲和稀疏使用情况
多 GPU 图形追踪
-
Direct3D12
-
-
为大数据做好准备    
快速 GUI,能够在笔记本电脑上可视化超过 1000 万个事件
其他命令行采集工具
NV-Docker 容器支持
-
-
-
NVIDIA GPU Cloud 支持
-
-
-
最低用户权限级别
用户
管理员

* 依托 Intel Haswell 和较新的 CPU 架构

** 仅启用操作系统运行时追踪。某些系统调用(例如手动组装)可能会丢失。只有在超过时间要求时,才会出现回溯。


用户评价

AWS

Deepset 与 AWS 和 NVIDIA 合作,可将训练 NLP 模型的速度提高 3.9 倍,成本降低 12.8 倍

Tracxpoint

我们注意到,新款 Quadro P6000 服务器在训练期间“闲置”,我们需要专家来为我们提供支持。NVIDIA Nsight Systems 帮助我们实现了 90% 以上的 GPU 利用率。之前训练深度学习模型需要 600 分钟,而现在只需 90 分钟。

Tracepoint 首席 AI 科学家 Felix Goldberg

NVIDIA

我使用 Nsight Systems 来分析我们的内部系统,并构建了一个计划来优化 CPU 和 GPU 占用率,最终为两者带来显著的性能和资源提升。总之,只有像 Nsight 这样的无可替代的工具,才能帮助我提取并确切了解资源使用情况所需的内容。

NVIDIA 系统软件工程师 Sang Hun Lee

伊利诺伊大学香槟分校大分子建模和生物信息学 NIH 中心

观看 John Stone 相关视频,了解他如何将 VMD(一种用于分析大型生物分子系统的热门工具)的性能提升了 3 倍。

相关媒体

Direct3D11 功能亮点

2019.6 版本旨在为从高性能计算到视觉效果等各种市场提供更详细的数据采集、探索和采集控制。2019.6 推出了新的数据源,改进了视觉数据导航,扩展了 CLI 功能,扩展了输出覆盖范围和统计数据。

观看视频

命令行会话功能亮点

NVIDIA Nsight Systems 2020.1 版本增加了对 Power9 架构的 CLI 支持。能够在 CLI 中同时运行多个录制会话。GUI 和 CLI 中的 UX 改进和统计信息输出选项。

观看视频

OpenMP 功能亮点

在 2020.3 版本中,Nsight Systems 新增了使用 OpenMP 并行分析应用程序的能力。

观看视频

统计驱动型分析

在 2019.3 版本中,Nsight Systems 新增了使用统计数据分析报告的能力,以便找机会改进 GPU 加速的应用程序。

观看视频

2019.4 版本亮点

2019.4 版本旨在为从高性能计算到视觉效果等各种市场提供更详细的数据采集、探索和采集控制。2019.4 推出了新的数据源,改进了视觉数据导航,扩展了 CLI 功能,扩展了输出覆盖范围和统计数据。

观看视频

Vulkan 追踪

在 2019.3 版本中,Nsight Systems 增加了在 Windows 和 Linux 目标上追踪 vulkan 的能力;允许您检查 CPU/GPU 关系,并解决 Vulkan 应用程序中复杂的帧卡顿问题。

观看视频

优化高性能计算模拟和可视化代码

观看伊利诺伊大学香槟分校大分子建模和生物信息学 NIH 中心的 John Stone 相关视频,讨论他如何将 VMD(一种用于分析大型生物分子系统的热门工具)的性能提升了 3 倍。

观看视频

NVIDIA Jetson 合作伙伴案例:Stereolabs

在无人机行业,主板的重量和尺寸很重要。借助 Stereolabs 的 ZED 立体相机,开发者可以 3D 方式拍摄,绘制高达 20 米的室内外场景的 3D 模型。借助外形小巧的 Jetson TX1,Stereolabs 可为越来越小的系统带来先进的计算机视觉功能。了解在无人机中结合使用这两项技术,为新的虚拟现实应用程序提供动力支持,可能会有何效果。

观看视频

NVIDIA 系统分析器 – 介绍

新的 NVIDIA 系统分析器简介。包括 NVIDIA Jetson 嵌入式平台上 NVIDIA 系统分析器的 UI 解决方案和设置详情。要下载和了解详情,请单击此处

观看视频

使用 NVIDIA Nsight Systems 分析 NCCL 占用率

NVIDIA Nsight Systems 新增了支持在 CUDA 应用程序中追踪 NCCL(NVIDIA 集合通信库)占用率。要下载和了解详情,请单击此处

观看视频

Nsight Systems 功能亮点:OpenMP

NVIDIA® Nsight™ Systems 是不可或缺的系统级性能分析工具,旨在帮助开发者跨 CPU 和 GPU 调整和扩展软件。要下载和了解详情,请单击此处

观看视频