智能体/生成式 AI

2026年 9月 9日

何时使用“编码-预填充-解码”解耦技术来加速多模态模型服务

编码 – 预填充 – 解码 (EPD) 分解是一种适用于多模态模型的推理优化技术，可将视觉编码器阶段与预填充和解码阶段分离开来。
4 MIN READ
2026年 9月 8日

GR-Inference：面向生成式推荐的推理系统设计与性能评估

基于 Semantic ID（SID）的生成式推荐，将推荐过程转化为短序列自回归生成。这类负载不同于 Chat LLM 的常规生成：
2 MIN READ
2026年 9月 4日

使用 NVIDIA NemoClaw 构建内存驱动型智能体

企业工作涵盖随时间变化的AI 智能体必须先对其进行重建，然后再进行贡献。 为了向智能体提供这种必要的环境，
1 MIN READ
2026年 9月 4日

前沿推理触手可及：如何在 NVIDIA Jetson 上部署和优化模型

在边缘运行推理和代理式 AI 比以往更加困难。直到最近，能够进行多步骤推理的模型还过于庞大，无法在边缘硬件上本地运行。
3 MIN READ
2026年 9月 2日

使用预测解码共同设计 AI 模型，加快 LLM 推理速度

本文是关于 AI 模型协同设计的系列文章中的第三篇。它探讨了如何使用预测性解码在保持准确性的同时加速 LLM 推理，
4 MIN READ
2026年 9月 1日

使用 NVIDIA Nemotron 构建自适应代理式网络安全系统

AI 正在改变网络安全的步伐。代理式系统可以协调工作并长期追求复杂的目标。安全团队开始在安全运营中应用智能体，但许多实施仍然依赖于现有警报、
2 MIN READ
2026年 9月 1日

如何在不超支的情况下调整 GPU 大小以实现 AI 推理和 TCO

AI 采用率的激增正在改变从聊天机器人到内容生成的方方面面。尽管如此，一个常见的痛点仍然存在：
3 MIN READ
2026年 8月 31日

运行 NVIDIA BioNeMo NIM 微服务，在 Claude Science 中进行蛋白质结构预测

代理式 AI 正在改变研究方式。AI 科学家可以阅读论文、提出假设、调用模型，并确定下一步要优先进行的实验。
5 MIN READ
2026年 8月 26日

如何使用 AI 智能体训练跨具身机器人导航策略

导航使机器人能够将感知和运动转化为有目的的自主性。与产生稳定运动的运动不同，导航必须用于不断定位机器人、解读不断变化的环境、选择路线，
4 MIN READ
2026年 8月 26日

在 NVIDIA GB300 NVL72 上使用 Qwen3.8-Flash-Next 进行代理式编码实验

阿里巴巴发布了 Qwen3.8-Flash-Next 的模型权重，作为即将推出的 Qwen4 架构的预览，供开发者试验和评估。
2 MIN READ
2026年 8月 25日

在 NVIDIA Dynamo 中借助阴影引擎恢复在数秒内恢复 LLM 推理能力

当 LLM 引擎进程失败时，标准恢复路径涉及冷重启。这需要从存储中将权重加载到 HBM 中，编译内核并捕获 NVIDIA CUDA 计算图。
3 MIN READ
2026年 8月 24日

NVIDIA Vera Rubin 和 Blackwell 为代理式 AI 每瓦性能设定新标准

AI 智能体已将推理从单轮交互扩展到多步骤工作流，这些工作流能够进行推理、调用工具、协调子智能体，
3 MIN READ
2026年 8月 24日

利用 NVIDIA Vera CPU 应对智能体 AI 集群面临的挑战

AI 工厂是互联系统，其中集群经济性取决于整个堆栈将电力和资本转化为已完成智能体任务的效率。GPU 运行模型时，CPU 会处理编排、
2 MIN READ
2026年 8月 24日

NVIDIA Groq 3 LPX 如何在 NVIDIA Vera Rubin 上实现长上下文的超快交互性

NVIDIA Groq 3 LPX 是适用于 NVIDIA Vera Rubin 平台 的交互式 AI 推理加速器。
4 MIN READ
2026年 8月 21日

NVIDIA AVO 在 ARC-AGI-3 上达到 100%，展示了适用于长距自动驾驶智能体的前沿通用架构

前沿语言模型只是 AI 智能体 的一个组成部分。周围的智能体系统——通常称为线束——决定了模型如何接收上下文、使用工具、维护状态、响应反馈、
2 MIN READ
2026年 8月 21日

AI 智能体技术栈中的安全定位

随着 AI 智能体的能力不断增强并能在更长的时间跨度内运行，在其驱动的应用中建立安全性和信任变得越来越重要。
1 MIN READ