Elias Bermudez

Elias Bermudez 是 NVIDIA 的高级系统软件工程师，负责领导 Triton Tools 团队的 GenAI-Perf 开发工作。他专门提供用于分析 AI 模型推理性能的工具。他非常关心为用户提供易于使用的强大软件，并始终进行迭代以实现这一目标。他拥有康奈尔大学电气和计算机工程专业的工程硕士和学士学位，以及波兰州立大学计算机科学学士学位。

Posts by Elias Bermudez

智能体/生成式 AI 2026年 9月 18日

借助 AIPerf 对 LLM 进行大规模基准测试推理

在系统上部署模型。启动后，提示得到响应。难题是：速度快吗？ 直觉可能会引导您发送 curl 命令、手动滚动异步脚本或另一个一次性负载生成器。 3 MIN READ
数据中心/云端 2025年 5月 6日

LLM 推理基准测试指南：NVIDIA GenAI-Perf 和 NIM

这是 LLM 基准测试系列 的第二篇文章，介绍了在使用 NVIDIA NIM 部署 Meta Llama 3 模型 时， 4 MIN READ
数据中心/云端 2025年 4月 2日

LLM 基准测试：基本概念

在过去几年中，作为广泛的 AI 革命的一部分， 生成式 AI 和 大语言模型 (LLMs) 越来越受欢迎。 4 MIN READ
数据中心/云端 2024年 8月 1日

使用 NVIDIA GenAI-Perf 和 OpenAI 兼容 API 测量生成式 AI 模型性能

NVIDIA 提供 Perf Analyzer 和 Model Analyzer 等工具，帮助机器学习工程师测量和平衡延迟与吞吐量之间的权衡， 2 MIN READ