Jeremy Berchtold

Jeremy Berchtold 是 NVIDIA 开发 Transformer Engine 的高级软件性能工程师,Transformer Engine 是一个用于加速大规模 Transformer 模型训练和推理的库。他的工作重点是 Transformer 引擎 JAX 集成,以及针对混合专家模型、量化、注意力和其他性能关键型模型组件的优化实施。在使用 Transformer 引擎之前,他为 NVIDIA 的智能汽车堆栈做出了贡献,专注于复杂交集和结处理。

Posts by Jeremy Berchtold

智能体/生成式 AI

借助 NVIDIA Transformer 引擎在 JAX 中加速无模型 MoE 训练

多专家模型 (MoE) 已成为大规模 AI 模型训练中的关键架构趋势之一。DeepSeek、Qwen 和 Mixtral 是 MoE… 4 MIN READ