Syed Ahmed

Syed Ahmed 是 NVIDIA PyTorch Core 团队的高级软件工程师,专注于在当前 NVIDIA 平台上保持 PyTorch 的速度和数字稳定性,并使 PyTorch 在未来的 NVIDIA 平台上更具表现力。他拥有宾夕法尼亚州大学电气工程硕士学位 (从事加速 FPGA 编译工作) 和罗彻斯特理工学院计算机工程学士学位。

Posts by Syed Ahmed

精选

在 NVIDIA GB300 NVL72 上进行 MoE 预训练创下世界纪录

前沿模型预训练已融合多专家模型 (MoE) ,这从根本上改变了对大规模 AI 训练的限制。随着每 token 的计算量下降, 3 MIN READ