Jane (Zhenying) Liu

Jane (Zhenying) Liu 是 NVIDIA 的高级软件工程师,在 JAX 团队的 DL 框架团队工作。她拥有休斯顿大学计算机科学博士学位,曾在英特尔、高通、GraphCore onLLVM 编译器和 MLPerf 从事 AI 芯片方面的工作。

Posts by Jane (Zhenying) Liu

模拟/建模/设计

借助主机卸载减少基于 JAX 的 LLM 训练中的高带宽内存瓶颈

在充分利用计算能力之前,大语言模型 (LLM) 训练工作负载越来越多地遇到 GPU 显存限制。模型权重、梯度、优化器状态、 3 MIN READ