NVIDIA 宣布在 NGC catalog 中提供新的 SDK ，这是 GPU 优化的深度学习、机器学习和 HPC 应用程序的中心。有了高性能软件 容器 、 预训练模型 、行业专用 SDK 和 Jupyter 笔记本 ， AI 开发人员和数据科学家可以简化和降低端到端工作流的复杂性。
本文概述了 NGC 目录中的新服务和更新服务，以及最新的高级 SDK ，以帮助您简化工作流并更快地构建解决方案。
简化对大型语言模型的访问
大型语言模型（ LLM ）的最新进展推动了 NLP 应用程序的最新性能，如医疗保健中的虚拟文员、交互式虚拟助理等。
NVIDIA NeMo 威震天
NVIDIA NeMo Megatron 是一个用于训练和部署 LLM 的端到端框架，其参数高达数万亿，现已在 NGC 目录中公开测试。它包括用于自动化分布式数据处理的端到端工作流；培训大规模定制的 GPT-3 、 T5 和多语言 T5 （ mT5 ）模型；以及部署模型进行大规模推理。
NeMo Megatron 可以部署在多个云平台上，包括 Microsoft Azure 、 Amazon Web 服务和 Oracle 云基础设施。也可以通过 NVIDIA DGX SuperPOD 和 NVIDIA DGX Foundry 访问。
请求 NeMo Megatron in open beta 。
NVIDIA 公司
NVIDIA NeMo LLM 服务提供了使用 NVIDIA 托管云 API 或通过私有和公共云定制基础 LLM 并大规模部署它们的最快路径。
NVIDIA 和社区构建的基础模型可以使用 提示学习能力 进行定制，这是一种高效计算的技术，可以将上下文嵌入用户查询中，从而在特定用例中实现更高的准确性。这些技术只需要几百个样本就可以在建筑应用中实现高精度。这些应用程序可以从文本摘要和改写到故事生成。
该服务还提供对 Megatron 530B 模型的访问，该模型是世界上最大的 LLM 之一，具有 5300 亿个参数。其他型号检查点包括 3B T5 和 NVIDIA 训练的 5B 和 20B GPT-3 。
现在申请 NeMo LLM 早期访问 。
NVIDIA BioNeMo 公司
NVIDIA BioNeMo 服务是端到端、基于 AI 的药物发现工作流的统一云环境，无需 IT 基础设施。
如今， Bio NeMo 服务包括两个蛋白质模型， DNA 、 RNA 、生殖化学模型以及其他生物和化学模型即将推出。
ESM-1 是一种蛋白质 LLM ，经过 5200 万个蛋白质序列的训练，可用于帮助药物发现研究人员了解蛋白质特性，如细胞位置或溶解度，以及二级结构，如α – 螺旋或β – 片。
Bio NeMo 服务中的第二个蛋白质模型是 OpenFold ，这是一个基于 PyTorch 的 NVIDIA 优化的 AlphaFold2 复制品，它可以根据蛋白质的一级氨基酸序列快速预测蛋白质的 3D 结构。
通过 Bio NeMo 服务，化学家、生物学家和 AI 药物发现研究人员可以产生新的治疗方法，并了解蛋白质和 DNA 的性质和功能。最终，他们可以将许多 AI 模型组合在一个连接的、大规模的 in silico AI 工作流中，该工作流需要多个 GPU 的超级计算规模。
Bio NeMo 将实现端到端的模块化药物发现，以加速研究并更好地理解蛋白质、 DNA 和化学物质。
现在申请 BioNeMo 早期访问 。
3D 和数字孪生工作流的 AI 框架
数字孪生是一种虚拟表示——真实世界物理资产或系统的物理和材料的真实模拟，并不断更新。数字孪生不仅仅适用于无生命的物体和人。他们可以复制一个履行中心流程，在现场环境中激活某些机器人功能之前测试人与机器人的交互，并且应用程序尽可能广泛。
NVIDIA Omniverse 复制程序
NVIDIA Omniverse Replicator 是建立在 NVIDIA Omniverse 平台上的一个高度可扩展的框架，能够实现物理精确的 3D TensorRT ，以加速感知网络的训练和准确性。
技术艺术家、软件开发人员和 ML 工程师现在可以使用 NGC 目录中的 Omniverse Replicator 容器轻松地在云中或本地构建定制的、物理精确的合成数据生成管道。
下载 Omniverse Replicator container 进行自助云部署。
NVIDIA 模数
NVIDIA Modulus 是一个神经网络 AI 框架，使您能够为数字孪生、气候模型以及基于物理的建模和模拟创建可定制的训练管道。
Modulus 与 NVIDIA Omniverse 集成，因此您可以可视化 Modulus 训练模型的输出。该界面支持设计变量和参数的交互探索，以推断新的系统行为并近乎实时地将其可视化。
最新版本（ v22.09 ）包括关键增强功能，以提高神经算子体系结构的合成灵活性，提高训练收敛性和性能，最重要的是，显著改善了用户体验和文档。
下载 Modulus 最新版本 。
深度学习软件
最流行的用于训练和推理的深度学习框架每月更新一次。获取最新版本（ v22.09 ）：
新的预训练模型
我们不断为各种语音和视觉模型添加最先进的模型。以下预训练模型是 NGC 上的新模型：
- SLU Conformer-Transformer-Large SLURP ：直接从音频输入执行联合意图分类和插槽填充。
- Riva ASR Korean LM ：一种自动语音识别（ ASR ）引擎，可以选择性地调节 n 元语言模型上的转录输出。
- LangID Ambernet ：用于口语识别（ LangID 或 LID ），作为 ASR 的第一步。
- STT En Squeezeformer CTC Small Librispeech ：在 LibriSpeech 数据集上用 NeMo 训练的英语 ASR 模型。
- TTS De FastPitch HiFi-GAN ：本系列包含两个模型： FastPitch ，它是根据一个说话者超过 23 小时的德语语音进行训练的， HiFi GAN ，它是通过 FastPich 模型生成的梅尔谱图进行训练的。
在 NGC Models 页面上探索常见 AI 任务的更多预训练模型。
