Makesh Tarun Chandran

Makesh Tarun Chandran 是 NVIDIA 的高级深度学习性能工程师,从事生成式 AI 模型和 GPU 架构的联合设计,专注于大规模 AI 推理的性能和效率。他拥有宾夕法尼亚州立大学计算机科学与工程硕士学位。

Posts by Makesh Tarun Chandran

数据中心/云端

共同设计稀疏注意力以实现高效的长上下文推理

代理式工作负载、长文档和大型代码库正在将上下文长度从数万个 token 推向数十万个 token。在这些长度下, 6 MIN READ