LLM

2025年 11月 3日

借助 NVIDIA AI Blueprint 深入解析视频分析

企业组织正日益寻求从视频、音频及其他复杂数据源中提取有价值见解的方法。检索增强生成（RAG）技术使生成式AI系统能够利用专有的企业数据，然而，
3 MIN READ
2025年 10月 30日

在 Microsoft Azure 上利用 NVIDIA Run:ai 简化 AI 基础设施

现代人工智能工作负载，无论是大规模训练还是实时推理，都需要动态访问高性能 GPU 资源。然而，
3 MIN READ
2025年 10月 28日

利用 NVIDIA Nemotron Vision、RAG 和 Guardrail 新模型开发专用 AI 智能体

代理式 AI 是一个由专门的语言模型与视觉模型协同工作的生态系统，负责规划、推理、信息检索以及安全防护。
3 MIN READ
2025年 10月 24日

NVIDIA DGX Spark 的性能如何支持密集型 AI 任务

当今，要求严苛的 AI 开发者工作负载通常需要比台式电脑所能提供的内存更多，也往往需要访问笔记本电脑或 PC 所不具备的软件，
2 MIN READ
2025年 10月 22日

使用 NVIDIA Nemotron 构建您自己的 Bash 计算机使用代理，只需一小时

如果您能够通过自然语言与计算机通信，让计算机在 Bash 终端中执行任务，而无需手动编写任何命令，该怎么办？
5 MIN READ
2025年 10月 20日

在 NVL72 机架级系统上使用 Wide Expert Parallelism 扩展大型 MoE 模型

现代 AI 工作负载已远超单 GPU 推理服务的能力范围。模型并行技术通过在多个 GPU 之间高效划分计算任务，
3 MIN READ
2025年 10月 20日

使用 NVIDIA Nemotron 构建 IT 工单分析 AI 智能体

现代企业组织在运营过程中通过工单系统、事件报告、服务请求和支持上报等途径产生大量数据。这些工单往往蕴含着系统性问题、
2 MIN READ
2025年 10月 15日

通过 NVIDIA Jetson AGX Thor 实现 7 倍生成式 AI 性能，解锁更快速、更智能的边缘模型

NVIDIA 软件生态系统的一大显著优势在于其持续优化的承诺。今年 8 月，NVIDIA 发布了 Jetson AGX Thor，
2 MIN READ
2025年 10月 13日

使用 NVIDIA Dynamo 部署 72B 模型提升 PD 分离性能

在生产环境部署大模型推理服务时，技术团队往往会遇到诸多挑战，例如缺乏成熟的 PD 分离方案、自动扩缩容机制不够灵活、缺乏动态路由，
2 MIN READ
2025年 10月 11日

探索在大模型训练中使用 Megatron-Core 训练框架提高显存使用效率

在大模型训练中，显存（GPU Memory）始终是最稀缺的资源之一。随着模型规模迈入百亿、千亿甚至万亿参数级别，如何在有限显存中“塞下”…
3 MIN READ
2025年 10月 10日

使用 NVIDIA Nemotron 构建日志分析多智能体自校正 RAG 系统

日志是现代系统的核心所在。然而，随着应用规模不断扩大，日志往往演变成一片冗长繁杂的文本海洋，充斥着重复与冗余信息，令人不堪重负。
2 MIN READ
2025年 10月 9日

从助手到对手：利用代理式 AI 开发者工具

越来越多的开发者开始采用支持人工智能的编码工具，例如 Cursor、OpenAI Codex、Claude Code 和 GitHub…
3 MIN READ
2025年 10月 7日

使用 NVIDIA TensorRT Model Optimizer 剪枝和蒸 LLM

大语言模型（LLM）在自然语言处理（NLP）任务，如代码生成、推理和数学计算等方面，展现出卓越的性能，树立了新的标杆。然而，
3 MIN READ
2025年 9月 29日

利用 NVIDIA Run:ai 和 NVIDIA Dynamo 进行快速高效 LLM 推理的智能多节点调度

大语言模型的复杂性呈指数级增长，带来了诸多挑战，例如模型规模超出单个 GPU 的承载能力、对高吞吐量与低延迟工作负载的需求，
3 MIN READ
2025年 9月 23日

使用 NVIDIA Nemotron 构建检索增强生成 (RAG) 智能体

与基于 LLM 的传统系统受限于其训练数据不同，检索增强生成 (RAG) 通过整合相关的外部信息来提升文本生成效果。
5 MIN READ
2025年 9月 23日

借助生成式 AI 通过分子合成途径进行推理

无论是制药、化学还是材料应用，分子设计中反复出现的挑战在于构建可合成的分子。合成性评估通常需要绘制分子的合成路径：
2 MIN READ