Keith Caton

Keith Caton 是一名 GPU 通信性能工程师和开发者。他于 2024 年加入 NVIDIA。他在 GPU 通信和运动学/ RF 模拟领域拥有五年的 HPC 和 CUDA 开发经验。

Posts by Keith Caton

AI 平台/部署

了解 NCCL 调优以加速 GPU 之间的通信

NVIDIA 集合通信库 (NCCL) 对于 AI 工作负载中的快速 GPU 到 GPU 通信至关重要,可使用各种优化和调优来提升性能。但是, 3 MIN READ
数据中心/云端

借助 NCCL 2.27 实现快速推理和弹性训练

随着 AI 工作负载的扩展,快速可靠的 GPU 通信变得至关重要,这不仅适用于训练,而且越来越适用于大规模推理。 3 MIN READ