Julien Demouth

Julien Demouth 是一位杰出的高级工程师,也是前沿 AI 实验室的工程主管。多年来,他一直专注于 GPU 优化,并在设计、开发和推进 TensorRT-LLM、CUTLASS、DLSS 和 TensorCores 等几项 NVIDIA 旗舰技术方面发挥了关键作用。

Posts by Julien Demouth

数据中心/云端

AI 模型协同设计:硬件友好型 LLM 设计

AI 性能可归结为三个维度: 部署必须平衡这三者:如果响应速度缓慢,就会浪费高准确度;如果每个用户的体验滞后,则原始吞吐量就意味着微不足道。 5 MIN READ