NVIDIA IGX Thor 为工业、医疗和机器人边缘 AI 应用提供动力支持

工业和医疗系统正在迅速增加高性能 AI 的使用，以提高工人的工作效率、人机交互和停机管理。从工厂自动化单元到自主移动平台，再到手术室，运营商正在边缘部署日益复杂的生成式 AI 模型、更多的传感器和保真度更高的数据流。

同时，安全和法规合规性对于确保确定性行为、高可用性和可验证的功能安全基本设计要求至关重要。

本文将介绍 NVIDIA IGX Thor 平台，该平台专为满足边缘工业 AI 的驱动需求而构建，包括深入探讨性能和安全功能。

什么是 NVIDIA IGX Thor？

NVIDIA IGX Thor 是适用于物理 AI 的企业就绪型平台。它提供服务器级 AI 性能以及工业级硬件、高级功能安全功能、延长的生命周期支持，以及适用于工业和医疗环境的企业软件堆栈配置。IGX Thor 将这种计算和安全基础扩展到边缘系统，在这些系统中，正常运行时间、可靠性和标准合规性是系统设计的核心。

借助 IGX Thor 平台，开发者可以构建任务关键型边缘计算机，使其能够在恶劣的物理条件下可靠地运行，与安全且受监管的基础设施集成，并在靠近数据生成位置执行先进的 AI 推理和传感器融合工作流。

IGX Thor 系列通过四个专用平台提供，专为工业级部署和高级开发工作流而设计：

• NVIDIA IGX T5000 系统模组 (SoM)：以紧凑的嵌入式外形提供高性能、安全的计算能力。IGX T5000 SoM 专为集成到定制载板中而设计，使客户能够构建特定领域的工业和机器人系统，同时缩短投产时间。
• NVIDIA IGX T7000 主板套件: 为要求严苛的边缘 AI 工作负载扩展性能和可扩展性。IGX T7000 基于 MicroATX 外形规格构建，将 NVIDIA Thor 级计算与丰富的 I/ O、功能安全支持、使用独立 GPU 增加 AI 计算的灵活性以及为安全关键型高吞吐量边缘系统提供支持的企业级网络相结合。
• NVIDIA IGX Thor 开发者套件： 提供用于构建、测试和验证新一代工业 AI 应用的全功能开发平台。它支持先进的传感、机器人和实时 AI 工作流，使开发者能够满怀信心地从原型过渡到部署。
• NVIDIA IGX Thor 开发者套件 Mini： 将 NVIDIA Thor 级功能与板载安全模块相结合，占用空间更小。它针对空间和电源受限的环境进行了优化，非常适合移动机器人、自主机器和紧凑型工业系统，这些系统需要强大的 AI 性能，且不会影响外形规格。

表 1 概述了 NVIDIA IGX Thor 系列，重点介绍了如何针对不同类别的工业、医疗和机器人边缘工作负载调整每种配置。

在边缘提供出色的 AI 性能

NVIDIA IGX Thor 可实现跨平台性能提升。与 NVIDIA IGX Orin 相比，它可在集成 GPU 上提供高达 8 倍的 AI 计算能力，通过独立 GPU 加速提供高达 2.5 倍的 AI 计算能力，以及高达 2 倍的网络带宽。这使工业和机器人应用能够处理要求更高的实时 AI 工作负载。

IGX T7000 将由 NVIDIA Blackwell 架构 iGPU 提供动力支持的 IGX T5000 Thor 模组与 NVIDIA RTX PRO 6000 Blackwell Max-Q 独立 GPU 配对，前者可提供 2070 FP4 TOPS 的 AI 性能，后者可额外增加 3511 FP4 TOPS。这种配置相结合，可显著提高总的 AI 计算能力，以处理要求严苛的边缘工作负载。

与 IGX Orin 700 相比，IGX T7000 可提供 5 倍的生成式 AI 推理性能。它通过同时使用 iGPU 和 dGPU 来处理多达 20 倍的交互式用户，因此非常适合处理高并发边缘工作负载。它还提供可靠的混合关键度隔离，因此在 dGPU 上运行的工作负载可以独立运行，而不会降低 iGPU 的性能。

这些功能使 IGX T7000 成为智能零售等场景的理想选择，智能零售涉及处理来自许多结账台的视频，同时运行 VLM 和 LLM 工作负载以实现低延迟的智能结账，从而加快结账速度。它也是工业安全和楼宇自动化等应用的理想选择。

图 2 比较了 IGX T7000 和 IGX Orin 700 在 tokens/sec > 25 和 TTFT = 200 msec 的情况下处理的用户数量。

配置：dGPU：NVIDIA RTX PRO 6000 Blackwell Max-Q (IGX T7000) 、NVIDIA RTX 6000 ADA (IGX Orin 700) ；ISL/ OSL：2028/ 128；量化：NVFP4 (IGX T7000) 、W4A16 (IGX Orin 700) ；框架：VLLM

配置：dGPU：NVIDIA RTX PRO 6000 Blackwell Max-Q (IGX T7000) 、NVIDIA RTX 6000 ADA (IGX Orin 700) ；ISL/ OSL：2028/ 128；量化：NVFP4 (IGX T7000) 、W4A16 (IGX Orin 700) ；Max Conc：9；框架：VLLM

与 NVIDIA Jetson T5000 类似，NVIDIA IGX T5000 SoM 可提供 2070 TOPS 的 FP4 性能，搭配 128 GB 的 LPDDR5X 显存和 273 GB/s 的显存带宽，非常适合以实时响应速度运行生成式 AI 工作负载。即使在完全启用 DRAM ECC 等工业功能时，IGX T5000 也能提供与 Jetson T5000 相同的性能。这些工业级功能不会降低 IGX T5000 的性能或可用显存容量。

适用于实时工作负载的高速连接

IGX T7000 主板套件通过双 200 GbE 网络显著提升了边缘连接性，带宽是 IGX Orin 双 100 GbE 接口的 2 倍。这种高速结构由 NVIDIA ConnectX-7 智能网卡 提供动力支持，可通过 RDMA 实现低延迟、高吞吐量的数据传输，使传感器数据能够绕过 CPU 并直接流入 GPU 显存。这将大幅提升端到端 AI 性能，尤其是在实时传感器密集型工作负载方面。

网络功能的飞跃释放了 NVIDIA Holoscan Sensor Bridge (HSB) 的全部潜力。HSB 旨在聚合和流式传输来自高带宽传感器 (例如摄像头、激光雷达、雷达和医学成像设备) 的大量数据，依靠确定性的无损网络来满足严格的延迟和同步要求。

借助 2 × 200 GbE 和 RDMA 加速，IGX Thor 可提供扩展多传感器工作流所需的带宽和确定性，从而在安全关键型实时系统中实现更快的提取、更紧密的传感器融合以及保真度更高的 AI 推理。

边缘应用的实时确定性

许多工业和机器人应用都需要严格的实时行为，而 IGX Thor 专为满足这些需求而设计。

• 实时 Linux 环境: 默认情况下，IGX 附带可抢占的实时 Linux 内核。这为机械臂、自主机器和闭环医疗系统中的严格控制回路和低延迟传感器处理提供了所需的确定性行为。
• 多实例 GPU (MIG)：NVIDIA Blackwell GPU 可划分为完全独立的实例，因此即使与低优先级任务一起运行，安全关键型实时工作负载也能获得难以实现的性能保证。
• 可编程加速器: 专用于视觉 (PVA) 、光流、硬件编解码器和实时推理的引擎，可降低延迟并分流 CPU 和 GPU 的工作负载，为大规模深度学习和复杂的生成式 AI 工作流留出更多空间。
• GPU Direct RDMA：借助 GPU Direct RDMA，传感器输入可以直接引入 GPU 内部，以实现超低延迟的传感器处理。

坚固耐用，适用于工业现实

从精密制造到医疗机器人，工业应用都需要能够在极端情况下可靠运行的平台：强烈振动、电气噪音、温度波动、ECC 等。他们还需要轻松地与工业网络集成。IGX Thor 平台专为满足这些需求而设计。

• 工业级组件: IGX Thor 的各个方面 (从显存到供电) 均经过精心挑选，具有出色的弹性，支持扩展的温度范围、防震、振动合规性和 ECC 实施。
• 坚固耐用的机箱: IGX Thor 提供坚固的工业外壳，可以部署在工厂、仓库、现场车辆或任何传统电子产品无法满足要求的地方。
• 长生命周期，全球支持: IGX 平台支持长达 10 年，为受监管行业提供出色的可靠性和供应链保证。
• 广泛的 I/ O: IGX Thor 提供丰富的工业 I/ O，包括多个 PCIe 5.0、SFP+、CAN 和高速数字接口，可简化与传统 PLC、传感器、机器人、控制网络等的集成。

功能安全和主动式 AI 安全

IGX Thor 将高性能 AI 和功能安全整合到一个平台中，实现机器人安全的“由内而外”。机器人可以依靠板载传感器或基础设施传感器做出安全决策。

IGX Thor 符合 ISO 26262 和 IEC 61508，适用于 ASIL D/ SC3 和 ASIL/ SIL 2。它包含各种安全功能，包括：

• 硬件故障检测
• 安全状态监控
• 在系统测试中
• DRAM 纠错码
• 无干扰 (FFI)
• 专用的功能安全岛 (FSI) ，这是一种独立、冗余的安全处理器，可监控和处理安全+ 关键型工作负载，在安全和非安全领域之间实现真正的硬件分离

NVIDIA Halos AI 系统检测实验室 (经 ANAB 认证) 通过公正的评估，帮助确保 NVIDIA IGX 客户满足严格的安全和网络安全标准。IGX 客户会收到一份检测报告和一份检测证书，以供技术服务或认证机构使用，以进行最终认证。有关更多详情，请参阅 IGX Thor 安全产品简介。

企业级工业平台

NVIDIA AI Enterprise – IGX 是适用于边缘 AI 的软件解决方案，使 IGX Thor 成为企业级生产就绪型平台，并提供可预测的长期支持。NVIDIA 承诺 IGX 的生命周期长达 10 年，涵盖硬件可用性、安全更新和全栈维护。这意味着工业、医疗和机器人开发部署可以在其整个使用寿命内保持修补和支持。

此外，NVIDIA AI Enterprise 还提供长期支持 (LTS) 分支，其版本锁定的 AI 框架和 SDK 可维护 10 年，以及企业服务水平协议 (如商业标准和关键业务支持) 。这可确保 API 稳定、定期进行安全修复，并可在需要时每周 7 天、每天 24 小时联系 NVIDIA 专家。如需了解详情，请参阅 NVIDIA AI Enterprise – IGX 许可指南。

从 NVIDIA Jetson Thor 无缝过渡

从NVIDIA Jetson Thor到NVIDIA IGX Thor的过渡是无缝的。Jetson T5000 和 IGX T5000 在引脚、外形规格和功能方面完全兼容，因此相同的载板设计适用于这两个平台。软件堆栈也进行了调整，内核、用户空间和 AI 库共享相同的版本，从而在 Jetson 和 IGX 之间提供一致的体验。

对于具有更深层次定制要求的团队，NVIDIA 将在 IGX 上推出 JetPack，为 IGX 硬件的行业稳健性带来 JetPack 的灵活性。有关更多信息，请参阅 NVIDIA IGX 用户指南。

开始使用 NVIDIA IGX Thor

自动化领域的领先企业、医学成像领域的先驱和大型制造商已经在采用 NVIDIA IGX Thor。 领先的 ODM 和传感器合作伙�可以提供生产就绪型系统和服务，以推动更快的 TTM。

AI 正在改变工业自动化、医疗健康、能源和智能基础设施，加速生产力、提高安全性并降低成本。但在这些环境中部署 AI 需要更多：硬件必须能够在严苛环境中生存和发展，数据必须受到保护，系统必须满足世界上最严苛的功能安全要求。

NVIDIA IGX Thor 可提供全方位支持。它弥合了现代 AI 的敏捷性与受监管的安全关键型工业环境的不妥协需求之间的差距。IGX Thor 具备从芯片到芯片的功能安全设计、对性能出色的 GPU 的支持，以及可用于合规性、管理和 AI 发展的软件堆栈，是未来十年工业 AI 值得信赖的平台。

IGX Thor 开发者套件和 IGX Thor 开发者套件迷你版可从全球分销商处购买。

开始使用 NVIDIA IGX Thor。

如需了解更多信息，请观看 NVIDIA 创始人兼首席执行官黄仁勋的 NVIDIA GTC 2026 主题演讲，并点播探索相关 GTC 会议。