Jamie Li

Jamie Li 是 NVIDIA 的高级技术营销工程师,专注于研究 AI 推理领域的最新技术。他在 AI 软件工程和客户管理方面拥有深厚的背景知识,将创新转化为实际的客户成果。在加入 NVIDIA 之前,他曾在企业技术部门担任 AI 解决方案的开发、分解和修复工作。他还进行了医学成像研究,并拥有计算机科学 (专注于 AI) 硕士学位。

Posts by Jamie Li

数据中心/云端

用于降低 AI 推理延迟的预测性解码简介

使用大语言模型(LLM)生成文本时,通常会面临一个基本瓶颈。尽管 GPU 能够提供强大的计算能力,但由于自回归生成本质上是顺序进行的, 2 MIN READ