Afroze Syed

Afroze Syed 是 NVIDIA 的产品专家,专注于 NVIDIA Grace 产品组合产品。加入 NVIDIA 之前,Afroze 在移动技术和生成式 AI 应用的工程和产品角色方面积累了丰富的经验。他拥有加利福尼亚大学洛杉矶分校的技术管理工商管理硕士学位和印度理工学院德里分校的电气工程学士学位。

Posts by Afroze Syed

AI 平台/部署

通过 CPU-GPU 显存共享加速大规模 LLM 推理和 KV 缓存卸载

大语言模型(LLM)处于人工智能创新的前沿,但其庞大的规模往往会影响推理效率。例如,Llama 3 70B 和 Llama 4 Scout… 2 MIN READ