参加 GTC 2022,获取在线培训、开发者见解,以及与专家交流的机会。     免费注册 >

NVIDIA Isaac SDK

构建和部署 AI 赋能的商业级机器人。NVIDIA Isaac SDK™ 是一个包含基础模组和工具的工具套件,可加速需要 AI 支持的增强感知和导航功能的机器人开发。

开始使用





人工智能

此 SDK 具有用于感知和规划的 GPU 加速算法和深度神经网络 (DNN),以及用于监督和强化学习的机器学习工作流。

导航

模组化机器人算法可为两种导航用例提供感知、规划或驱动。

仿真

在高保真物理和逼真仿真中进行训练和持续测试可加速机器人的开发和部署。




面向基于 AI 的机器人开发的丰富软件平台

此 SDK 包含 Isaac 引擎(一个应用框架)、Isaac GEMS(高性能机器人算法包)、Isaac 应用(参考应用)和 NVIDIA Isaac Sim™(功能强大的仿真平台)。这些工具和 API 可更轻松地将感知和导航添加到机器人,从而加速机器人开发。



使用 Isaac SDK 带来 GPU 加速的实时性能


基于 DNN 的 GEMS 性能

推理分辨率 每秒 Jetson Xavier™ NX 帧数 每秒 Jetson AGX Xavier™ 帧数
13D 姿态:姿态卷积神经网络 (CNN)
+ DetectNetv2、ResNet-18
640x368 47 82
物体检测(Detect_netv2、resnet18) 640x368 120 205
自由空间分割 (Unet) 512x256 49 86
所有测量均采用 MAX 性能模式和 MAX 时钟完成。1用于物体检测的 3D 姿态使用默认未扭曲的模型。所有 DNN 均使用 FP16。

非 DNN GEMS 性能

分辨率 Jetson Xavier™ NX 执行时间 Jetson AGX Xavier™ 执行时间
超像素 640 x 360 20.72 毫秒 16.89 毫秒
AprilTag 检测 701 x 935 17.51 毫秒 11.64 毫秒
2双激光雷达初始/启动全球定位 1250 x 500(二进制地图) 6.93 秒 4.57 秒
3证据网格地图 (EGM) 融合 256 x 256(局部地图) 8.94 毫秒 3.33 毫秒
所有测量均采用 MAX 性能模式和 MAX 时钟完成。2双激光雷达定位单元测量为“初始定位完成”(或每次定位丢失)。3EGM 测量单元为局部地图 256X256X3(质量值)的“单融合运算”。


GPU 加速的 GEMS 精选内容

GEMS 是高性能的机器人算法。


3D 物体姿态估计

更新的 3D 姿态估计工作流包括物体检测和 3D 姿态估计,然后会使用深度图像来优化姿态。

更多信息

多激光雷达定位

基于激光雷达的更新定位算法现支持任意数量的激光雷达,可提高性能并支持更大的地图。


证据网格地图

基于 EGM 的局部映射可提供清晰快速的融合输出。所有 Isaac SDK 导航应用均采用 EGM 技术。

更多信息


在下方可查看更多的 Isaac SDK GEMS



基于 Visual SLAM 的定位

Isaac 的 VSLAM 定位(预览版本)可提供基于视觉的出色定位性能。事实上,在使用 KITTI 数据库查看基于公开可用结果的实时立体 VSLAM 实现时,它的表现非常出色。有兴趣探索基于视觉定位的优势的开发者可以从 Isaac Sim 或 NVIDIA Carter 机器人入手。

详细了解 Isaac Visual SLAM 定位


Isaac 远程控制 (RC)

Isaac 远程控制(预览版本)可为远程机器人操作员在控制应用上提供低延迟的视频流。Isaac RC 基于 Cloud XR,是一款高性能软件堆栈,可提供差异化的服务质量 (QOS)。

详细了解面向远程操作的 Isaac RC


室内移动机器人,Carter v2.0

Carter v2.0 是面向 Isaac SDK 用户的室内移动机器人参考设计平台。该平台基于 Segway Robotics 的 RMPLite 220 动力传动系统和集成的 IMU,非常灵活,可以添加和评估其他传感器。

获取有关组装 Carter v2.0 的详细信息


Isaac Sim,机器人模拟器

在仿真中测试和训练可以节省时间和精力。Isaac Sim 提供物理属性准确的逼真仿真环境,可与 Isaac SDK 无缝运行。SDK 中的许多功能已获得 Isaac Sim 的支持,包括 Carter 2.0、Isaac RC 和基于 VSLAM 的定位。

详细了解 Isaac SDK 中的 Isaac Sim 应用




Isaac SDK 合作伙伴

Isaac SDK 合作伙伴提供可与 Isaac SDK 无缝集成的驱动。单击此处可查看驱动和 Isaac 兼容硬件的完整列表。单击此处可查看 NVIDIA 自主机器生态系统的完整视图。





用户好评

“宝马团队致力于为客户提供‘选择的权利’,即为不同的客户定制不同车辆的不同功能。在一个工厂生产线上大量生产高质量、高度定制且款型多样的汽车需要端到端的先进计算解决方案。与 NVIDIA 的合作让我们能够在当下开发出未来工厂的物流系统,最终让宝马集团在世界各地的客户称心如意。”

– 宝马集团

“新加坡政府技术局为 Boston Dynamics 公司的‘Spot’四足机器人开发了附加功能,支持我们将其部署到新加坡一个公园内,从而让人们保持安全距离。我们的项目包括基于 AI 的算法,例如在 NVIDIA Jetson 平台上运行 Visual SLAM,从而提高机器人的自主性及其适应新环境的能力;我们还利用 NVIDIA Isaac SDK 来为‘Spot’机器人提供自动导航。”


– 新加坡政府技术局



Isaac 平台的详细视图


Isaac 引擎是一款软件架构,能够轻松构建模组化机器人应用。该架构支持用于智能机器人的高性能数据处理和深度学习。通过 Isaac 机器人引擎开发的机器人应用可在 NVIDIA® Jetson AGX Xavier™NVIDIA® Jetson Nano™ 等边缘设备以及搭载 NVIDIA® GPU(如 T4)独立显卡的工作站上无缝运行。



计算图

计算图和实体组件架构

  • 通过配置预包装组件,帮助将复杂的机器人用例分解为较小的基础模组并进行自定义
  • 通过为消息附加 CUDA® 缓冲区对象,避免主机设备内存复制,并提高应用性能
  • 将节点分组到子图,然后将它们有效组合到机器人应用




用于可视化、录制、回放等的工具

  • 随附可定制的可视化框架,能够为变量图、图纸、相机图像叠加或 3D 场景实现可视化
  • 随附 Isaac WebSight,可在 Web 浏览器中检查和调试机器人应用
“Isaac WebSight”应用




Python API

  • 使在 Python 中写入功能齐全的 Isaac 代码成为可能
  • 在 Python 应用中利用 Isaac C++ 和高性能 GEMS
  • 通过 Jupyter Notebook 轻松管理 Isaac 应用


GEMS 是用于感知、规划或驱动的模组化功能,可轻松插入机器人应用。例如,开发者可以添加障碍物检测、双目深度估计或人类语音识别,以丰富其机器人用例。同理,开发者也可对机器人使用 Isaac 导航应用,也即用于构建机器人导航应用的模组集合。



深度物体姿态估计 (DOPE)

深度物体姿态估计 (DOPE) 提供了一种新型模型,可使用 RGB 图像估算物体的六自由度 (6DOF) 姿态。这适用于操作任务。

更多信息

NVIDIA EGX™ 机器人任务提交

一款允许用户向机器人提交任务的应用,可通过可编程的任务依赖项控制多个机器人

更多信息

定位监控

一种监控和验证激光雷达通信的算法,可帮助解决反复发生的机器人错误定位

更多信息


基于 Visual SLAM 的定位

基于视觉的定位 GEM

更多信息

具有轨迹验证的 LQR 规划器

规划算法通过在执行前对轨道在碰撞、范围和速度方面进行检查来避免障碍物

具有语义区域的全球规划器

可定制的全球规划算法会利用降低速度、限制进入或单向移动等语义区域信息


OTG5 直连运动规划器

一种可实现顺畅、可预测的直向和向后移动的算法

更多信息

可定制的规划器代价函数

灵活的 LQR 规划器代价函数界面,可在不同的机器人上进行定制、组合和使用

深度摄像头传感器认证

一个定义明确的流程,有助于 Jetson 深度摄像头合作伙伴在 Isaac SDK 上启动摄像头


未来工厂 (FoF)/内部物流生产应用

该应用展示了 Isaac SDK 的导航和操作功能的广度,展示了机器人如何协同工作,从而在模拟工厂环境中完成任务。

更多信息

工业拾放 Python 应用

该应用展示了使用 UR10 机器人手臂运行 Isaac SDK 拾放操作功能。

更多信息

立方体堆栈拾放 Python 应用

该应用展示了使用 Franka 机器人手臂运行 Isaac SDK 拾放操作功能

更多信息


3D 姿态估计 Docker 容器

NGC™ Docker 可借助 Isaac Pose CNN GEM 轻松进行仿真实验 (Unity 3D)

更多信息

Jetbot 应用

在仿真中跟随球,演示如何为低成本机器人进行仿真训练和推理

更多信息

物体检测/姿态估计评估

用于仿真数据的工作流,允许用户评估障碍和 3D 姿态估计模型的性能

更多信息

Isaac Sim 提供用于构建虚拟机器人世界和实验所需的功能。借助 RGB-D、激光雷达和惯性测量单元 (IMU) 传感器、域随机化、真实数据标记、分割和边界框,Isaac Sim 通过 Isaac SDK 来支持导航及操控应用。


仿真中的机器学习训练(姿态估计)

借助 Isaac SDK 可以使用机器学习工作流训练姿态估计工作流

域随机化

显示材质(纹理、颜色)、光线方向、光照条件、阳光变化、物体/障碍物的位置、地板等的随机变化,训练机器人感知和行为,并测试现实生活中的可靠行为

多机器人仿真与硬件在环 (HIL)

多个 Carter 机器人在虚拟仓库中同时运行。每个操作均由独立的 Jetson Xavier 操作


有关 Isaac Sim 的详细信息 ›




使用 Isaac SDK 构建和部署 AI 赋能的商业级机器人。

开始使用