Uncategorized

使用 Magnum IO 加速云本机超级计算

超级计算机是一项重要的投资,但对于研究人员和科学家来说,它们是极其宝贵的工具。为了有效和安全地共享这些数据中心的计算能力, NVIDIA 引入了云本地超级计算架构。它结合了裸机性能、多租户和超级计算的性能隔离。

Magnum IO是数据中心的 I / O 子系统,它引入了新的增强功能,以加速支持多租户数据中心的 I / O 和通信。我们将这些增强功能称为 Magnum IO ,用于云本机超级计算架构。

它们由 NVIDIA Quantum-2 InfiniBand 平台提供,该平台包括 NVIDIA Quantum-2 交换机系列、BlueField-3 DPU 和 ConnectX-7 网络适配器。

这种进化环境的挑战是什么?

基于 GPU 的高性能计算已经通过机器学习和模拟改变了科学并增强了实验。运行这些深度学习框架和模拟工具的 GPU 会消耗数 PB 的数据,并在整个数据中心造成拥塞和瓶颈。使事情进一步复杂化的是,这些应用程序的多个实例在共享超级计算基础设施中同时运行会对每个应用程序的性能产生不利影响,从而导致无法预测的运行时间。

Magnum IO for Cloud 本机超级计算体系结构具有新的和改进的功能,以减轻在多租户环境中运行对最终用户性能的负面影响。它提供确定性的性能级别,就好像它们的应用程序是网络上唯一运行的应用程序一样。

第三代 NVIDIA SHARP (可扩展分层聚合和缩减协议)

夏普技术通过消除端点之间多次发送数据的需要,将集合操作从主机 CPU 卸载到交换机网络,从而提高了 MPI 操作的性能。这种方法减少了到达聚合节点时通过网络的数据量,并显著减少了 MPI 操作时间。

在网络中实现集体通信算法还有其他好处,例如释放宝贵的 CPU 资源用于计算,而不是使用它们来处理通信。

A block diagram of the architecture of  NVIDIA SHARP, show multiple connection paths for devices.
图 1 NVIDIA SHARP 聚合架构框图.

最近发布的 NVIDIA Quantum-2 InfiniBand 交换机为通过网络的大型数据聚合提供了几乎无限的可扩展性。由于支持无限的小消息缩减和每个交换机的多个大消息缩减流,跨共享系统运行应用程序的多个租户现在可以充分利用 SHARP 的优势。

Watch the In-Network Computing with NVIDIA SHARP Video.

性能隔离

多租户超级计算涉及许多在共享基础设施上运行的用户应用程序,可能会重复使用物理服务器、存储、网络以及这些应用程序生成的 I / O 流量模式。

NVIDIA Quantum InfiniBand 在检测到网络拥塞时管理网络拥塞,并在源位置实施控制以减少网络拥塞。但使用多租户,用户应用程序可能不知道对相邻应用程序流量的任意干扰,因此需要隔离以提供预期的性能级别。

借助最新的 NVIDIA Quantum-2 InfiniBand 平台和 Magnum IO ,创新的主动监控和拥塞管理提供了所需的流量隔离。这几乎消除了性能抖动,并确保了预期的预测性能,就像应用程序在专用系统上运行一样。

Two graphs side-by-side showing execution time lagging for traditional clouds and a fast iteration and execution time for NVIDIA Cloud platform and Supercomputing
图 2 :性能隔离的好处.

专为安全、多租户、裸机性能而打造

NVIDIA Cloud-Native Supercomputing体系结构使用 Magnum IO 在多租户环境中实现最高性能、安全性和编排。

To block diagrams side by side showing the management moving from the host to the BlueField DPU in isolation.
图 3 。使用 DPU 迁移到云本机超级计算体系结构.

此外,实现这种架构转换的另一个核心元素是数据处理单元( DPU ),也称为 BlueField 。作为一个完全集成的片上数据中心平台, BlueField 卸载和管理数据中心基础设施,而不是主机处理器,实现超级计算机的安全和协调。它还能够提供额外的通信框架卸载,产生 100% 的通信计算重叠,同时实现 MPI _ Alltoall 44% 的性能提升和 MPI _ iAllgather 36% 的性能提升。当结合 NVIDIA Quantum-2 的最新进展时,该体系结构在安全的多节点体系结构中展示了裸机性能的性能隔离。

Magnum IO 消除了 I / O 瓶颈,并公开了硬件级加速引擎、网络计算和拥塞控制方面的最新技术,这些技术是支持当今具有裸机性能的多租户数据中心所必需的。

了解更多信息:

nvidia.com/infiniband.developer

nvidia.com/magnum-io

 

Tags