Houston Hoffman

Houston Hoffman 是 NVIDIA CUDA 驱动程序团队的高级软件工程师,专注于高性能工作调度机制,如 CUDA Graphs。他拥有加州大学圣地亚哥分校无线嵌入式系统硕士学位和加州理工大学计算机工程学士学位。

Posts by Houston Hoffman

生成式人工智能/大语言模型

用于直线 CUDA 图形和其他性能增强的恒定时间启动

CUDA Graphs 是一种将 GPU 运算定义为图形(而非一系列流启动)并将其批量处理的方法。CUDA Graph 将一组 CUDA… 3 MIN READ
生成式人工智能/大语言模型

具有条件节点的 CUDA 图的动态控制流

CUDA 图 可以显著提高性能,因为驱动程序能够使用任务和依赖关系的完整描述来优化执行。特别是在静态工作流中,图形可以提供难以置信的好处, 2 MIN READ