Posts by Houston Hoffman
生成式人工智能/大语言模型
2024年 9月 11日
用于直线 CUDA 图形和其他性能增强的恒定时间启动
CUDA Graphs 是一种将 GPU 运算定义为图形(而非一系列流启动)并将其批量处理的方法。CUDA Graph 将一组 CUDA…
3 MIN READ
生成式人工智能/大语言模型
2024年 5月 10日
具有条件节点的 CUDA 图的动态控制流
CUDA 图 可以显著提高性能,因为驱动程序能够使用任务和依赖关系的完整描述来优化执行。特别是在静态工作流中,图形可以提供难以置信的好处,
2 MIN READ