Posts by Dave Salvator
数据中心/云端
2023年 12月 13日
借助 NVIDIA H100 Tensor Core GPU 和 NVIDIA TensorRT-LLM 实现出色的推理性能
出色的 AI 性能需要高效的并行计算架构、高效的工具堆栈和深度优化的算法。NVIDIA 发布了 NVIDIA TensorRT-LLM,
2 MIN READ
数据中心/云端
2023年 12月 4日
新的 NVIDIA NeMo 框架功能和 NVIDIA H200 强效助力 LLM 训练性能和通用性
AI 在规模、复杂性和多样性方面的快速增长推动了对 大型语言模型 (LLM) 训练性能的不断需求。要提供出色的性能,
3 MIN READ
网络
2023年 7月 6日
新的 MLPerf 推理网络部门展示 NVIDIA InfiniBand 和 GPUDirect RDMA 功能
在 MLPerf Inference v3.0 中,NVIDIA 首次向新推出的 网络分割 投入,
3 MIN READ
模拟/建模/设计
2022年 4月 6日
在 MLPerf 推理 2.0 上获得最佳性能
Megatron 530B 等机型正在扩大人工智能可以解决的问题范围。然而,随着模型的复杂性不断增加,它们对人工智能计算平台构成了双重挑战:
4 MIN READ
图形/仿真
2021年 11月 29日
AWS 推出首款基于 NVIDIA GPU 加速引力子的 Amazon EC2 G5g 实例
今天,在 AWS re : Invent2021 大会上, AWS 宣布 推出了 Amazon EC2 G5g 实例,
1 MIN READ
人工智能/深度学习
2021年 9月 22日
利用 MLPerf 推断 1.1 结果进一步提升 NVIDIA 绩效领导力
人工智能继续推动跨行业的突破性创新,包括消费互联网、医疗保健和生命科学、金融服务、零售、制造和超级计算。研究人员继续推动快速发展的模型在规模、
2 MIN READ