Ankit More

Ankit More 是 NVIDIA ComputeArchitecture 团队的杰出工程师兼经理。他领导的团队为弹性、高效的 AI 系统开发硬件和软件技术,涵盖训练、推理和 LLM 服务。加入 NVIDIA 之前,他专注于 HPC、图形分析和 AI 工作负载的加速系统设计。他拥有 Drexel 大学电气和计算机工程博士学位。

Posts by Ankit More

数据中心/云端

使用 Noniform Tensor Parallelism 提高大规模 LLM 训练的效率

大规模训练 LLM 会带来独特的基础架构挑战,尤其是在作业跨越数千个 GPU 并长时间运行的情况下。这些作业运行的时间越长, 2 MIN READ