Blackwell
2026年 9月 1日
如何在不超支的情况下调整 GPU 大小以实现 AI 推理和 TCO
AI 采用率的激增正在改变从聊天机器人到内容生成的方方面面。尽管如此,一个常见的痛点仍然存在:
3 MIN READ
2026年 8月 26日
在 NVIDIA GB300 NVL72 上使用 Qwen3.8-Flash-Next 进行代理式编码实验
阿里巴巴发布了 Qwen3.8-Flash-Next 的模型权重,作为即将推出的 Qwen4 架构的预览,供开发者试验和评估。
2 MIN READ
2026年 8月 25日
在 NVIDIA Dynamo 中借助阴影引擎恢复在数秒内恢复 LLM 推理能力
当 LLM 引擎进程失败时,标准恢复路径涉及冷重启。这需要从存储中将权重加载到 HBM 中,编译内核并捕获 NVIDIA CUDA 计算图。
3 MIN READ
2026年 8月 24日
NVIDIA Vera Rubin 和 Blackwell 为代理式 AI 每瓦性能设定新标准
AI 智能体已将推理从单轮交互扩展到多步骤工作流,这些工作流能够进行推理、调用工具、协调子智能体,
3 MIN READ
2026年 8月 20日
生成式推荐系统如何大规模重新定义 RecSys
推荐系统 (RecSys) 是消费互联网行业最常见的机器学习问题之一,但众所周知,很难进行大规模训练和服务。
3 MIN READ
2026年 8月 12日
在 NVIDIA GB300 NVL72 上部署参数量达 2.4T 的 Qwen3.8-2.4T-A95B 模型,并支持可配置推理
阿里巴巴发布了其最大的开放权重模型 Qwen3.8-2.4 T-A95B (Qwen3.8-Max) 的开放权重,
2 MIN READ
2026年 8月 10日
在 NVIDIA 上使用 Meta 的运行本地代理式 AI
随着 Muse Glimmer 的发布,Meta 回归开源生态系统。Muse Glimmer 是一个 3000 亿开放权重密集型模型,
2 MIN READ
2026年 7月 30日
NVIDIA 示例云:释放 AI 基础设施全部性能的经验教训
由相同的 NVIDIA H100、GB200 NVL72 或 GB300 NVL72 系统构建的两个 AI…
4 MIN READ
2026年 7月 21日
在 NVIDIA GB300 NVL72 上进行 MoE 预训练创下世界纪录
前沿模型预训练已融合多专家模型 (MoE) ,这从根本上改变了对大规模 AI 训练的限制。随着每 token 的计算量下降,
3 MIN READ
2026年 7月 21日
深入了解 NVIDIA Rubin GPU 架构:助力代理式 AI 时代
最初是离散 AI 模型训练和面向人类的聊天界面,后来演变为始终在线的 AI 工厂,致力于大规模生产智能。现在,
4 MIN READ
2026年 7月 14日
排行榜上的经验教训:5000+ Kagglers 教我们如何改进 AI 推理
NVIDIA Nemotron 模型推理挑战赛邀请了 Kaggle 社区探讨一个重点问题:当每个人都从相同的开放模型、基准测试、
2 MIN READ
2026年 7月 10日
借助主机卸载减少基于 JAX 的 LLM 训练中的高带宽内存瓶颈
在充分利用计算能力之前,大语言模型 (LLM) 训练工作负载越来越多地遇到 GPU 显存限制。模型权重、梯度、优化器状态、
3 MIN READ
2026年 7月 10日
AI 模型协同设计:硬件友好型 LLM 设计
AI 性能可归结为三个维度: 部署必须平衡这三者:如果响应速度缓慢,就会浪费高准确度;如果每个用户的体验滞后,则原始吞吐量就意味着微不足道。
5 MIN READ
2026年 7月 9日
针对大规模分子动力学的 GPU 主动通信实用指南
分子动力学 (MD) 模拟是计算科学领域要求最严苛的工作负载之一。使用它们,研究人员可以非常详细地观察原子行为,从蛋白质折叠到药物和材料发现。
8 MIN READ
2026年 7月 6日
使用 Noniform Tensor Parallelism 提高大规模 LLM 训练的效率
大规模训练 LLM 会带来独特的基础架构挑战,尤其是在作业跨越数千个 GPU 并长时间运行的情况下。这些作业运行的时间越长,
2 MIN READ
2026年 7月 2日
基于硬件的 AI 安全性不会拖慢您的速度
AI 改变了组织的运营方式,推动了前所未有的生产力和创新水平。但是,数据隐私、主权以及如何保护使用中的数据,
2 MIN READ