在最近的 DC Anti-Conference Live 演示中,NVIDIA 首席数据中心杰出工程师 Wade Vinson 分享了基于 NVIDIA 自 2016 年以来设计、构建和运营 NVIDIA DGX SuperPOD 多兆瓦级数据中心所取得的工作成果的见解。
NVIDIA 致力于使数据中心更易于访问、更节约资源、更节能、更高效地开展业务,并可扩展到全球任何规模和地点。数据中心向 AI 数据中心的演进不仅是一种趋势,也是 AI 工作流日益增长的计算需求所驱动的必然趋势。
GPU 革命
这一转型的核心在于 GPU 的强大功能。自 2012 年引入数据中心以来,GPU 实现了并行处理,并显著缩短了密集型任务所需的时间,从而彻底改变了整个行业。这一转变带来了显著的改进,与基于 CPU 的传统系统相比,每瓦性能提高了 30 倍,每美元性能提高了 60 倍。
GPU 的影响不仅限于性能增强;它们正在重塑数据中心运营的基础,为更高效、更经济高效的 AI 驱动型基础设施铺平道路。
能效:新领域
推动可持续计算 发展是推动数据中心向 AI 工厂转型的关键因素。最近的进展导致训练和推断大型语言模型的能源效率大幅提高。曾经需要 40 吉瓦时的电力现在只需要 3 吉瓦时,这标志着效率的显著提高。
随着大型语言模型构建器的数量不断增长,这一进展至关重要。此外,效率还扩展到日常应用程序,典型的 ChatGPT 查询每小时仅消耗 0.4 瓦。
随着数据中心的发展,对每瓦特性能和每美元性能的关注将继续推动整个平台的创新,包括 GPU、CPU、互连、电源和冷却系统,最终打造出效率超高的 AI 工厂。
切莫错过 Wade Vinson 关于将数据中心转变为 AI 工厂的演讲,这是向第 5 次工业革命迈出的关键一步。立即观看 DC AC 直播主题演讲视频 ,掌握引领您的组织迈向 AI 驱动的数据中心未来所需的知识。