TensorRT

2026年 6月 25日

使用 NVIDIA TensorRT 和多设备推理支持，跨多个 GPU 扩展 AI 推理

生成式 AI 工作负载的显存和计算预算正迅速超出单个 GPU。对于构建媒体生成工作流的推理开发者而言，
4 MIN READ
2026年 6月 24日

加速 NVIDIA GPU 上用于物理 AI 应用的 BEV 池化

鸟瞰图 (BEV) 感知是智能汽车 (智能汽车) 、机器人和空间 AI 系统日益常见的设计模式。
5 MIN READ
2026年 6月 22日

借助 DAQIRI 实现用于高速数据采集的实时 AI

当 AlphaFold2 在 2020 年彻底改变药物研发时，
3 MIN READ
2026年 6月 9日

模型量化：借助 NVIDIA TensorRT 将 FP8 检查点转变为高性能推理引擎

将量化检查点转换为 NVIDIA TensorRT 引擎可以弥合模型优化与生产部署之间的差距，从而实现更快的推理速度、
4 MIN READ
2026年 6月 2日

使用 Microsoft 和 NVIDIA 的新工具在 Windows PC 上构建个人 AI 智能体

AI 智能体正在改变您与 PC 的交互方式。创作者、开发者和 AI 爱好者已经在广泛使用这些智能体来协助完成编码、
3 MIN READ
2026年 4月 24日

可控核聚变：AI加速开启能源自由新时代

可控核聚变，模拟恒星的能量产生过程，被誉为解决能源问题的“终极方案”。然而，实现持续、稳定的“点火”，
1 MIN READ
2024年 7月 24日

借助最新 NVIDIA Merlin TensorFlow 插件实现大规模 Embedding 扩展

通过封装 NVIDIA Merlin HugeCTR，Sparse Operation Kit（以下简称 SOK）使得…
4 MIN READ
2024年 6月 11日

借助 NVIDIA TensorRT 轻量级引擎，为 AI 应用提供卓越性能和最小占用空间

NVIDIA TensorRT一个成熟的数据中心推理库，已迅速成为 NVIDIA GeForce RTX 和 NVIDIA RTX GPU…
2 MIN READ
2024年 6月 3日

NVIDIA 与 Hugging Face 合作，简化生成式 AI 模型部署

随着生成式 AI 的快速增长，社区通过两种重要方式加强了这种扩展：快速发布先进的基础模型，以及简化其与应用程序开发和生产的集成。
2 MIN READ
2024年 6月 2日

借助适用于 Windows RTX PC 的 NVIDIA RTX AI 工具包，简化 AI 驱动型应用的开发

NVIDIA 今日发布了 NVIDIA RTX AI 工具包，这是一个工具和 SDK 集合，
2 MIN READ
2024年 5月 30日

借助 Gipi、 NVIDIA TensortRT-LLM 和 AI 基础模型实现个性化学习

超过 1.2 亿人 正在积极学习新语言，而 5 亿学习者 正在数字学习平台（如 Duolingo）上学习。与此同时，全球很大一部分人口，
2 MIN READ
2024年 5月 14日

NVIDIA TensorRT 10.0 升级可用性、性能和 AI 模型支持

NVIDIA 今天宣布最新发布的 NVIDIA TensorRT，一个用于高性能深度学习推理的 API 生态系统。
2 MIN READ
2024年 5月 8日

NVIDIA TensorRT 模型优化器加速生成人工智能推理性能，现已公开

在快速发展的环境中，生成人工智能的发展对加速推理速度的需求仍然是一个紧迫的问题。随着模型规模和复杂性的指数级增长，
3 MIN READ
2024年 4月 2日

使用 NVIDIA TensorRT-LLM 调整和部署 LoRA LLM

大型语言模型 (LLM) 可以从大量文本中学习，并为各种任务和领域生成流畅、一致的文本，从而彻底改变自然语言处理 (NLP)。然而，
7 MIN READ
2024年 3月 19日

FP8：前沿精度与性能的新篇章

在深度学习和人工智能的快速发展背景下，尤其是大语言模型（Large Language Model, LLM）的蓬勃发展，
3 MIN READ
2024年 3月 18日

借助 NVIDIA NeMo Retriever，将企业数据转换为可行见解

在每个行业和每个工作职能部门，生成式 AI 正在激发组织内部的潜力，它将数据转化为知识，并使员工能够更高效地工作。
2 MIN READ