NVIDIA JetPack

NVIDIA JetPack™ 是 NVIDIA Jetson™ 平台的官方软件栈,为构建由 AI 驱动的边缘应用提供完整的工具和库套件。JetPack 7 作为该系列的最新演进版本,是当前较为先进的软件栈之一,专为支持前沿机器人技术和生成式 AI 在边缘侧的应用而设计。它已为 agentic 工作流做好准备,集成 NVIDIA® NemoClaw™ 和专用的 Jetson agent 技能,使你可以通过单条命令配置边缘 AI 工作流。JetPack 7 对 NVIDIA Jetson 平台提供全面支持,为与物理世界交互的机器提供极低延迟、确定性性能以及可扩展的部署能力。

JetPack 下载和说明Jetson Linux 开发者指南开发者论坛


JetPack 7 概述

JetPack 7 为 NVIDIA Jetson Orin™ 和 Thor™ 平台提供全面支持,包括可抢占的实时内核、Multi-Instance GPU (MIG),以及集成的 Holoscan Sensor Bridge。它基于 Linux Kernel 6.8 和 Ubuntu 24.04 LTS 构建,采用模块化的云原生架构设计,集成最新的 NVIDIA AI 计算栈,并可无缝融入 NVIDIA AI 工作流。无论是开发类人机器人,还是构建高负载的生成式 AI 应用,JetPack 7 都能提供将其落地所需的软件基础。

JetPack 7 同时具备良好的 agent 适配能力,并针对主流 AI agents 通过专用的 Jetson agent 技能进行了优化。这使开发者能够快速搭建 agentic 工作流并加速开发进程。JetPack 7.2 还正式支持在 Jetson 上使用 Yocto Project,从而实现可定制、可复现的 Linux 发行版,进一步优化性能并实现确定性的边缘 AI 部署。

Jetson agent 技能通过可复用的工作流帮助开发者构建、配置、优化和评估 Jetson 应用。关键能力包括:通过自动化 BSP bring-up 实现自定义载板的 Jetson Linux 定制,从而加快产品上市进程;通过内存优化,在更小的内存占用和更低的总体拥有成本(TCO)下运行更复杂的工作负载;以及通过模型基准测试,为每个 Jetson 设备找到合适的模型配置。

借助 JetPack 7,Jetson 软件与 Server Base System Architecture (SBSA) 对齐,使 Jetson Thor 与行业标准的 Arm 服务器设计保持一致。SBSA 对关键硬件和固件接口进行了标准化,从而带来更完善的操作系统支持、更简化的软件可移植性以及更顺畅的企业级集成。在此基础上,Jetson Thor 现已支持在所有 Arm 目标平台上统一安装 NVIDIA® CUDA® 13.0,简化开发流程、减少碎片化,并确保从服务器级系统到 Jetson Thor 的一致性体验。

NVIDIA Jetson software stack

单击“Image” (图像) 放大


JetPack SDK 上的代理式框架

注意:Jetson Thor 基于 SBSA 堆栈。请在通过以下链接进行安装时使用 SBSA 安装程序。

NeMoClaw

JetPack 7 专为代理式 AI 而构建。从 JetPack 7.2 开始,只需一条命令即可安装 NVIDIA NemoClaw,使开发者能够在 Jetson 设备上轻松运行和编排本地和云 AI 模型。这简化了智能、自主和多模态边缘 AI 应用的构建。

Jetson 代理技能

智能体技能将 NVIDIA 专业知识整合到可重复使用、可代理部署的工作流中,帮助开发者通过清晰的指导和开发者在环控制来构建、配置、优化和验证系统,将 BSP 自定义、内存优化和模型基准测试等手动任务转化为结构化工作流,从而降低风险、缩短上市时间并降低 TCO。

探索 NVIDIA Jetson 智能体技能:

JetPack SDK 组件

AI 计算堆栈

注意:Jetson Thor 基于 SBSA 堆栈。通过以下链接进行安装时,请使用 SBSA 安装程序。

CUDA

NVIDIA® CUDA® 工具包提供了用于创建 GPU 加速应用程序的强大开发环境,其中包括编译器、数学库和调试工具。

cuDNN

NVIDIA cuDNN ( CUDA 深度神经网络) 库为深度学习提供高性能基元,并针对卷积层、池化层、归一化层和激活层优化实施。

TensorRT

NVIDIA TensorRT™ 是一种高性能推理运行时,可优化和加速深度学习模型,跨主要框架提供低延迟和高吞吐量。

AI 框架

PyTorch

PyTorch 是一种快速、灵活的深度学习框架,配备 NGC 容器,可在 NLP、计算机视觉和推荐系统等 AI 任务中轻松部署。

vLLM

vLLM 是一个快速且易于使用的库,用于 LLM 推理和服务。

SGLang

SGLang 是适用于大语言模型和视觉语言模型的快速服务框架。

Triton 推理服务器

NVIDIA Triton Inference Server™ 支持在云和边缘环境中无缝部署 AI,确保一致性和性能优化。

Jetson Linux 组件和库

刷机

Jetson 设备可以通过多种方法 (从命令行工具到自动脚本) 使用 Jetson Linux 进行刷写,而 NVIDIA SDK Manager 提供了最用户友好的选项。

安全性

Jetson Linux 提供了一套全面的安全功能,涵盖从边缘到云端的各种功能,包括安全启动、磁盘加密、运行时完整性、fTPM 和安全 OTA 更新。

OTA

Jetson 上的 OTA ( Over-the-Air) 更新支持无缝、远程交付软件和安全升级,无需人工干预即可让设备保持最新状态。

图形库

Jetson 支持 OpenGL、Vulkan 和 EGL 等各种图形 API,可为高级 3D 图形和 UI 渲染提供 GPU 加速的渲染和计算能力。

多媒体 API

Jetson Linux 多媒体 API 提供对摄像头和视频处理硬件的低级别访问。这使您可以创建高性能应用程序,并对多媒体工作流进行精细控制。

计算机视觉库

JetPack 包含 OpenCV 和 VisionWorks 等经过优化的计算机视觉库,可使用 GPU 和专用硬件加速 Jetson 平台上的图像处理和视觉任务。

Yocto 项目支持

NVIDIA 现已正式支持 Yocto Project,使开发者能够更轻松地为 Jetson 平台构建自定义嵌入式 Linux 发行版。通过 OE4T 提供经 NVIDIA 验证的全栈式方案和参考图像,为创建生产就绪、安全和优化的嵌入式 AI 系统提供简化的基础。

其他 JetPack 组件

云原生设计

Jetson 上的云原生设计可帮助您通过容器化开发、Kubernetes 和微服务在边缘创建可扩展的 AI 应用,从而在云和边缘开发之间架起桥梁。

探索 NGC 容器

Nsight 开发者工具

NVIDIA Nsight™ 开发者工具可提供强大的分析、调试和性能分析功能,用于优化 AI、图形和计算工作负载中的 GPU 加速应用。

支持的 SDK

NVIDIA DeepStream SDK

此 SDK 为您提供了一个强大的工具包,用于构建 AI 驱动的视觉应用,通过加速推理和目标跟踪实现实时视频分析。

NVIDIA Isaac ROS

NVIDIA Isaac ROS 是 NVIDIA Jetson 的硬件加速 ROS 2 软件包集合。它非常适合机器人应用中的高性能感知、定位和 AI。

NVIDIA Holoscan SDK

NVIDIA Holoscan SDK 是一种流式 AI 框架,用于在边缘构建实时传感器处理应用。它为医疗健康、机器人和工业用例提供高性能管线。

社区支持

Jetson AI 实验室

Jetson AI 实验室是一个用于在 NVIDIA Jetson 上学习和试验 AI 的交互式平台,提供专为边缘 AI 开发定制的实战项目、教程和工具。

开发者论坛

NVIDIA 开发者论坛是一个社区中心,供开发者提出问题、分享知识,并获得有关 NVIDIA 技术、平台和 SDK 的支持。


符合伦理的 AI

NVIDIA 认为值得信赖的 AI 是一项共同的责任,我们制定了相关政策和实践,以支持各种 AI 应用的开发。根据我们的服务条款下载或使用时,开发者应与其支持的模型团队合作,确保此模型满足相关行业和用例的要求,并解决不可预见的产品滥用问题。

有关此模型道德因素的更多详细信息,请参阅模型卡 可解释性、偏差、安全性和隐私子卡。请
单击此处
报告安全漏洞或 NVIDIA AI 问题。

立即开始使用 JetPack。

下载 JetPack