Elias Bermudez

Elias Bermudez 是 NVIDIA 的高级系统软件工程师,负责领导 Triton Tools 团队的 GenAI-Perf 开发工作。他专门提供用于分析 AI 模型推理性能的工具。他非常关心为用户提供易于使用的强大软件,并始终进行迭代以实现这一目标。他拥有康奈尔大学电气和计算机工程专业的工程硕士和学士学位,以及波兰州立大学计算机科学学士学位。

Posts by Elias Bermudez

数据中心/云端

使用 NVIDIA GenAI-Perf 和 OpenAI 兼容 API 测量生成式 AI 模型性能

NVIDIA 提供 Perf Analyzer 和 Model Analyzer 等工具,帮助机器学习工程师测量和平衡延迟与吞吐量之间的权衡, 2 MIN READ