Posts by Fred Oh
数据科学
2024年 3月 6日
CUDA 工具包 12.4 增强对 NVIDIA Grace Hopper 和机密计算的支持
最新版本的 CUDA 工具包,即 版本 12.4,继续利用最新的 NVIDIA GPU 来推动加速计算性能。
3 MIN READ
数据中心/云端
2024年 1月 5日
在某些场景中使用 cgroup 缩短 CUDA 初始化时间
在多 GPU 平台上运行的许多 CUDA 应用程序通常使用单个 GPU 来满足其计算需求。在这种情况下,应用程序会支付性能损失,
2 MIN READ
数据科学
2023年 11月 1日
CUDA 工具包 12.3 为加速计算提供新功能
NVIDIA DLSS 技术的最新版本使用最新的 NVIDIA GPU,通过 CUDA 工具包 继续推动加速计算性能的发展。此版本的新功能,
1 MIN READ
数据科学
2023年 10月 23日
NVIDIA 推出 CUDA Toolkit 12.3 版本,发布用于加速计算的一系列新功能!
NVIDIA推出最新版本的 CUDA Toolkit, 使用最新的 NVIDIA GPU 持续推动加速计算性能的发展。
1 MIN READ
生成式人工智能
2023年 10月 19日
现已公开发布!欢迎使用 NVIDIA TensorRT-LLM 优化大语言模型推理
NVIDIA 于 2023 年 10 月 19 日公开发布 TensorRT-LLM,
3 MIN READ
生成式人工智能
2023年 9月 8日
NVIDIA TensorRT-LLM 在 NVIDIA H100 GPU 上大幅提升大语言模型推理能力
大语言模型(LLM)提供异常强大的新功能,拓展了 AI 的应用领域。但由于其庞大的规模和独特的执行特性,很难找到经济高效的使用方式。
3 MIN READ