NVIDIA JetPack

NVIDIA JetPack™ 是 NVIDIA Jetson™ 平台官方软件套件,涵盖丰富工具和库,可用于打造 AI 赋能的边缘应用。JetPack 7 是系列最新版本,专为前沿机器人和生成式 AI 提供支持。JetPack 7 完全兼容 NVIDIA Jetson 平台,实现超低延迟、确定性性能,以及可扩展的物理世界机器部署方案。

JetPack 下载和说明Jetson Linux 开发者指南开发者论坛


JetPack 7 概述

JetPack 7 为 NVIDIA® Jetson Thor™ 平台提供全方位支持,具备可抢占的实时内核、Multi-Instance GPU (MIG) 及集成式 Holoscan Sensor Bridge。采用 Linux Kernel 6.8 及 Ubuntu 24.04 LTS,模块化云原生架构,结合最新 NVIDIA AI 计算堆栈,可无缝衔接 NVIDIA AI 工作流。无论是开发人形机器人,还是搭建高负载生成式 AI 应用,JetPack 7 为您的项目提供软件基础。

JetPack 7 采用 SBSA 架构设计

JetPack 7 使 Jetson 软件与服务器基础系统架构(SBSA)对齐,让 Jetson Thor 与业界 ARM 服务器标准保持一致。SBSA 规范关键硬件和固件接口,带来更强操作系统支持、更简便的软件移植及流畅企业集成。在此基础上,Jetson Thor 支持所有 Arm 目标统一安装 CUDA 13.0,简化开发流程、降低分化,确保从服务器系统到 Jetson Thor 的一致性。

NVIDIA Jetson software stack

点击图片放大


JetPack SDK 组件

AI 计算堆栈

注意:Jetson Thor 基于 SBSA 堆栈。通过以下链接进行安装时,请使用 SBSA 安装程序。

CUDA

NVIDIA® CUDA® Toolkit 提供强大的开发环境,包含编译器、数学库、调试工具,用于 GPU 加速应用开发。

cuDNN

NVIDIA cuDNN (CUDA 深度神经网络) 库为深度学习提供高性能基础库,对卷积、池化、归一化、激活层等实现进行了优化。

TensorRT

NVIDIA TensorRT™ 是高性能推理运行时,加速并优化深度学习模型,实现低延迟和高吞吐量,支持主流框架。

AI 框架

PyTorch

PyTorch 是高效且灵活的深度学习框架,支持 NLP、计算机视觉及推荐系统等任务,并可通过 NGC 容器便捷部署。

vLLM

vLLM 是便捷、快速的大型语言模型推理与服务库。

SGLang

SGLang 是专为大语言模型及视觉语言模型打造的高效推理框架。

Triton 推理服务器

NVIDIA Triton Inference Server™ 支持云端与边缘环境无缝 AI 部署,实现性能优化和一致性。

Jetson Linux 组件和库

刷机

Jetson 设备可以通过多种方法 (从命令行工具到自动脚本) 使用 Jetson Linux 进行刷写,而 NVIDIA SDK Manager 提供了用户友好型选项。

安全

Jetson Linux 提供涵盖边缘到云端的安全功能,包含安全启动、磁盘加密、运行时完整性、fTPM 及安全 OTA 更新。

OTA

Jetson 上的 OTA (无线) 更新支持无缝远程交付软件和安全升级,无需人工干预即可让设备保持最新状态。

图形库

Jetson 支持 OpenGL、Vulkan 和 EGL 等各种图形 API,可为高级 3D 图形和 UI 渲染实现 GPU 加速的渲染和计算。

多媒体 API

Jetson Linux 多媒体 API 提供对摄像头和视频处理硬件的低级访问。这使您能够创建高性能应用程序,并对多媒体工作流进行精细控制。

计算机视觉库

JetPack 包含 OpenCV 和 VisionWorks 等经过优化的计算机视觉库,可使用 GPU 和专用硬件在 Jetson 平台上加速图像处理和视觉任务。

其他 JetPack 组件

Jetson 平台服务

Jetson 平台服务是一款模块化软件套件,可加速 Jetson 上的 AI 开发,并有助于快速部署边缘应用。

云原生设计

Jetson 上的云原生设计可帮助您通过容器化开发、Kubernetes 和微服务在边缘创建可扩展的 AI 应用,从而在云和边缘开发之间架起桥梁。

Nsight 开发者工具

NVIDIA Nsight™ 开发者工具提供强大的分析、调试和性能分析功能,可在 AI、图形和计算工作负载中优化 GPU 加速的应用。

支持的 SDK

NVIDIA DeepStream SDK

此 SDK 为您提供了一个功能强大的工具包,用于构建 AI 驱动的视觉应用,通过加速推理和物体追踪实现实时视频分析。

NVIDIA Isaac ROS

NVIDIA Isaac ROS 是 NVIDIA Jetson 的硬件加速 ROS 2 软件包集合。它非常适合机器人应用中的高性能感知、定位和 AI。

NVIDIA Holoscan SDK

NVIDIA Holoscan SDK 是一个流式 AI 框架,用于在边缘构建实时传感器处理应用。它为医疗健康、机器人和工业用例提供高性能管线。

社区支持

Jetson AI Lab

Jetson AI Lab 是一个交互式平台,用于在 NVIDIA Jetson 上学习和试验 AI,提供专为边缘 AI 开发定制的实战项目、教程和工具。

开发者论坛

NVIDIA 开发者论坛是开发者交流知识、答疑解惑并获得 NVIDIA 技术、平台与 SDK 支持的社区平台。


伦理 AI

NVIDIA 坚信可信赖的 AI 需要共同参与,并已制定相关政策与实践,保障多领域 AI 应用开发。应用产品与服务时,开发者应结合支持团队,确保模型符合行业和应用规范,并注意意外滥用风险。

如需更详尽伦理说明,请查阅 Model Card++ 的可解释性、偏见、安全与隐私等子版块。若发现安全漏洞或对 NVIDIA AI 有疑虑,可在官方渠道反馈

立即开始使用 JetPack。

下载 JetPack