Technical Walkthrough

NGC 上新增:最新版本的 NeMo 、 HPC SDK 、 DOCA 、 PyTorch Lightning 等

NVIDIA NGC 目录是 GPU 优化深度学习、机器学习和 HPC 应用程序的中心。借助高性能软件containers预训练模型、特定于行业的 SDK 和 Helm 图表,目录中的可用内容有助于简化和加速端到端工作流。

NGC 目录的一些新增内容和软件更新包括:

NVIDIA NeMo

NVIDIA NeMo (神经模块)是用于对话人工智能的开源工具包。它是为数据科学家和研究人员设计的,可以通过可连接的 API 兼容构建块轻松构建新的最先进的语音和 NLP 网络。

NeMo 的最新版本增加了对 Conformer ONNX 转换和长 AU 文件流式推断的支持,并提高了说话人聚类、验证和重分类的性能。此外,它还为 NMT 添加了多个数据集,从右到左的模型、嘈杂的信道重新排列和加密。它还提高了 NMT 培训效率,并为 NMT 数据清理和预处理添加了教程笔记本。

NVIDIA HPC SDK

NVIDIA HPC SDK是一套全面的编译器、库和工具,对于最大限度地提高开发人员的生产力、性能和 HPC 应用程序的可移植性至关重要。

最新版本包括对 NVIDIA ARM HPC 显影剂套件和 CUDA 11 . 4 的全面支持。它还提供具有 ARM 特定性能增强功能的 HPC 编译器,包括改进的矢量化和优化的数学函数。

NVIDIA 数据中心基础设施芯片架构( NVIDIA DOCA )

NVIDIA DOCA SDK 使开发人员能够在 BlueField 数据处理单元( DPU s )之上快速创建应用程序和服务。

NVIDIA DOCA 容器 资源有助于在 BlueField NVIDIA 上部署 NVIDIA DOCA 应用程序和开发设置。此部署基于 Kubernetes 和此资源包,这些资源包可随时使用不同 DOCA 容器所需的.yaml 配置文件。

NVIDIA 系统管理( NVSM )

NVSM是一个用于监控数据中心中DGX节点的软件框架,提供活动运行状况监控、系统警报和日志生成。 NVSM 向 DGX 站提供系统运行状况和诊断信息。

深度学习软件

我们最流行的培训和推理深度学习框架每月更新一次。拉取以下内容的最新版本( v21 . 07 ):

PyTorch Lightning

PyTorch Liightning 是一个轻量级框架,用于在多 GPU 多节点配置上大规模培训模型。它在不更改代码的情况下执行此操作,并通过切换标志来启用高级培训优化。

v1.4.0增加了对完全分片并行性的支持,并将更大的模型安装到多个 GPU 内存中,在 A100 上达到 400 多亿个参数。

此外,它还支持新的 DeepSpeed Infinity 插件和新的群集环境,包括 KubeflownEnvironment 和 LsfenEnvironment 。

查看新v1 . 4 . 0 功能>>

NGC 团队正在举办一场网络研讨会,现场问答将深入探讨如何使用 PyTorch Lightning 构建人工智能模型,这是一个基于 NGC 目录 PyTorch 构建的人工智能框架。

使用 PyTorch Lightning 、 NGC 和 AWS 简化并加速 AI 模型开发
9 月 2 日,太平洋时间上午 10 时
现在注册>>

NVIDIA Magnum IO 开发环境

NVIDIA Magnum IO是构成现代数据中心 I / O 子系统的 I / O 技术的集合,支持大规模应用。

Magnum IO 开发人员环境容器有两个主要用途:

  1. 允许开发人员开始在笔记本电脑、台式机、工作站或云中扩展应用程序。
  2. 作为本地或 CI / CD 系统中生成容器的基础。

访问NGC 目录了解 GPU 优化软件如何帮助简化工作流程和加快解决方案时间。