Ming Huang

Ming-Xu (Ming) Huang 是 NVIDIA 的高级开发者技术工程师。该公司专注于优化 LLM 训练工作流,将整个计算堆栈 (从端到端流程一直到内核级别) 的峰值性能推向新高。

Posts by Ming Huang

模拟/建模/设计

借助主机卸载减少基于 JAX 的 LLM 训练中的高带宽内存瓶颈

在充分利用计算能力之前,大语言模型 (LLM) 训练工作负载越来越多地遇到 GPU 显存限制。模型权重、梯度、优化器状态、 3 MIN READ