Posts by Byungsoo Jeon
网络/通讯
2026年 9月 21日
借助 NVIDIA Dynamo-Triton 中的 NVIDIA TensorRT 多设备集成,简化跨多个 GPU 的模型服务
生成式 AI 对计算和内存的需求日益超出单个 GPU 的能力。NVIDIA TensorRT 多设备推理是一项新功能,
3 MIN READ
边缘计算
2026年 6月 25日
使用 NVIDIA TensorRT 和多设备推理支持,跨多个 GPU 扩展 AI 推理
生成式 AI 工作负载的显存和计算预算正迅速超出单个 GPU。对于构建媒体生成工作流的推理开发者而言,
4 MIN READ