Megatron

2026年 10月 15日

在 NVIDIA GB300 NVL72 上扩展基于 Meta Muse Spark Open 的自主编程工作流程

Meta 推出 Muse Spark Open，这是一个经过编码优化的 816B 混合专家 (MoE) 模型，
2 MIN READ
2026年 10月 6日

使用 NVIDIA Megatron Core 扩展逐位确定性预训练

逐位确定性使大规模预训练更易于调试、验证和以可重现的方式恢复。在跨数千个 GPU 训练具有数万亿个参数的模型时，这些优势变得尤为重要，
3 MIN READ
2026年 8月 17日

使用 NVIDIA Model Optimizer 开发基于 QAD 的 Nemotron 3.5 Lightning NVFP4

团队可以自定义模型，在延迟、速度、内存和计算方面达到目标。借助开放式 NVIDIA Nemotron 系列模型，
6 MIN READ
2026年 7月 21日

在 NVIDIA GB300 NVL72 上进行 MoE 预训练创下世界纪录

前沿模型预训练已融合多专家模型 (MoE) ，这从根本上改变了对大规模 AI 训练的限制。随着每 token 的计算量下降，
3 MIN READ
2026年 6月 23日

通过全栈推理和训练优化，更大限度地提高 AI 工厂的能效

为运行 AI 工厂，电力成本可占运营支出（OpEx）的 40%。每瓦可用于开销、数据摄取、训练，或为客户生成 token。
2 MIN READ
2026年 6月 15日

使用 NVIDIA BioNeMo Recipes 使用 LoRA 微调生物基础模型

基础模型 正在重塑计算生物学。预训练在大量蛋白质或基因组序列的语料库上的模型，如 ESM2 （一种蛋白质语言模型）和 Evo 2 （一种…
4 MIN READ
2026年 5月 20日

掌握智能体技术：AI 智能体定制

自主 AI 智能体 正承担着企业中的各种任务：规划物流车队路线、分类支持工单、生成代码以及编排多步骤工作流。
3 MIN READ
2026年 1月 28日

借助动态上下文并行和 NVIDIA Megatron Core 加速可变长度训练

本文介绍了应用于 NVIDIA Megatron Core 中的一种新型调度方法 — — 动态上下文并行 (Dynamic-CP) ，
4 MIN READ