Bhargava Gopireddy

Bhargava Gopireddy 是 NVIDIA 的计算架构经理,致力于优化软件和硬件堆栈中深度学习应用的能效和性能。他获得了 UIUC 计算机科学博士学位,主要研究现代处理器的能效和硬件安全性。

Posts by Bhargava Gopireddy

数据中心/云端

AI 模型协同设计:硬件友好型 LLM 设计

AI 性能可归结为三个维度: 部署必须平衡这三者:如果响应速度缓慢,就会浪费高准确度;如果每个用户的体验滞后,则原始吞吐量就意味着微不足道。 5 MIN READ