Posts by Lin Chai
数据中心/云端
2026年 10月 23日
借助全局性能调优器扩展 NVIDIA TensorRT 性能优化,超越单一构建路线,第 2 部分
全局性能调优器是 NVIDIA TensorRT 11.1 中发布的一项自动性能调优功能。它通过为不同的模型自定义不同的优化,
2 MIN READ
数据中心/云端
2026年 10月 23日
借助全局性能调优器扩展 NVIDIA TensorRT 性能优化,超越单一构建路线,第一部分
部署经过训练的神经网络不仅仅是将每个运算符转换为 GPU 内核。这是一个编译问题,有许多合理的答案。例如,
2 MIN READ
智能体/生成式 AI
2026年 9月 16日
TensorRT Edge-LLM 在 Jetson AGX Thor 上实现 MLPerf Edge Agentic Benchmark 6.4 倍加速
AI 智能体正从云数据中心转向车辆、机器人和其他边缘设备。与只回答单个提示的聊天机器人不同,智能体需要执行一系列步骤。它会选择工具、评估结果,
2 MIN READ
数据中心/云端
2026年 8月 28日
借助 NVIDIA TensorRT Model Connect,在两个命令中部署从检查点到推理的开放模型
开放 AI 模型的发展速度远超以往,但将其引入本地应用仍然需要模型特定的转换、预处理、后处理和运行时代码。
2 MIN READ
智能体/生成式 AI
2026年 1月 8日
NVIDIA TensorRT Edge-LLM 加速汽车与机器人领域的 LLM 和 VLM 推理
大语言模型(LLM)与多模态推理系统正迅速突破数据中心的局限。越来越多的汽车与机器人领域的开发者希望将对话式 AI 智能体、
2 MIN READ