内容创建/渲染

加速 AI 开发: NVIDIA AI Workbench 正式发布

NVIDIA AI Workbench 是面向 AI 和 ML 开发者的工具包。现在已正式推出 免费下载。它具有自动化功能,可为新手开发者消除障碍,并提高专家的工作效率。

无论技能水平如何,开发者都可以体验快速可靠的 GPU 环境设置,以及跨异构平台工作、管理和协作的自由。购买 NVIDIA AI Enterprise 许可证的客户还可以获得企业级支持。

AI 工作台的主要功能包括:

  • 快速安装、设置和配置,适用于基于 GPU 的开发环境。
  • 基于最新模型的预构建、随时可用的生成式 AI 和 ML 示例项目。
  • 从数据中心部署具有云端点的生成式 AI 模型,可以利用 NVIDIA API 目录 或与 NVIDIA 在本地的 NIM 微服务
  • 直观的 UX+命令行界面 (CLI)。
  • 轻松实现跨开发环境的再现性和可移植性。
  • 适用于 Git 和基于容器的开发者环境的自动化。
  • 容器和 Git 资源库的版本控制和管理。
  • 与 GitHub、GitLab 和 NVIDIA NGC 目录 提供预训练模型和工作台示例。
  • 透明地处理凭据、机密和文件系统更改。

自测试版发布以来,AI Workbench 还具有几个新的关键功能:

  • Visual Studio Code 支持:与 VS Code 集成,在 GPU 环境中编排容器化项目。
  • 基础图像选择:用户可以在创建项目时选择自己的容器镜像作为项目基础镜像。容器镜像必须使用遵循基础镜像规格的图像标签。
  • **管理软件包**:用户可以通过 Workbench 用户界面直接管理软件包并将其添加到容器中。
  • 安装简化:在 Windows 和 MacOS 上,安装路径更简单。对 Docker 容器运行时的支持也有改进。

将生成式 AI 引入 NVIDIA RTX

生成式 AI 已呈爆炸式增长。AI Workbench 可以在数以亿计的现代 NVIDIA RTX 驱动的工作站和 PC 上,或在数据中心和云中使用统一接口,将生成式 AI 开发引入任何 GPU 支持的环境。Mac 用户可以安装 AI Workbench,并将项目迁移到 NVIDIA 驱动的系统中,以实现协作和更强大的计算能力。

更快入门

除了快速的 GPU 工作站设置外,AI Workbench 还提供示例项目,作为现成的起点,帮助开发者更快地开始处理数据和用例。Workbench Projects 汇集了简化各种基础设施的工作流程管理所需的所有资源和元数据,同时促进随时随地实现无缝可移植性和再现性。

NVIDIA 提供了一系列免费的 Workbench 项目示例,帮助用户入门:

  • 与您的文档交谈 利用 Omniverse 的检索增强生成 (RAG) 功能。在系统上运行嵌入模型,将文档存储在私有向量数据库中。配置推理以在云中运行,使用 NVIDIA API 或在 RTX 系统上使用 NIM 推理微服务本地运行。
  • 您可以以任何规模自定义 LLM。从在本地运行量化模型到针对优化精度进行全面微调,皆可。无论是本地运行在 RTX 系统上,还是横向扩展到数据中心或云,都可进行微调和运行。有关如何微调和运行 Llama-2 或 Mistral-7B 的更多信息,请查看它们的GitHub 项目
  • 生成自定义图像 通过在 RTX PC 本地或云端运行 Stable Diffusion XL,从文本提示中提取数据。在您选择的支持 GPU 的环境中轻松重现,以便使用您的图像微调模型。

访问 NVIDIA 的 GitHub 参考 NVIDIA AI Workbench 项目,以更快速地获得结果。一些 NVIDIA API 模型有相关的 Workbench 项目,可支持在推理之前对其进行自定义和微调。

更好的开发者体验

许多因素都会影响开发者的工作效率。我们来看看其中一些因素,以及 AI Workbench 为提高工作效率和开发体验所做的工作。

设置和配置

AI Workbench 可自动完成任务以设置目标 GPU 系统,同时为您选择的开发环境配置支持 GPU 的容器。它可确保跨堆栈正确安装兼容组件,包括操作系统驱动程序、CUDA 驱动程序和固件。

随时随地自由工作和协作

在不同的系统和位置之间无缝迁移工作负载,而无需担心出现故障。迁移到适用于协作、速度、规模和成本的最佳平台,无论是本地、数据中心还是公有云;Windows、Linux 还是 macOS.在 Workbench 项目中使用公有云 API、本地微服务、容器和热门存储库。AI Workbench 可处理可移植性和再现性挑战的复杂性,因此开发者不必如此。

托管式 AI 和 ML 工作流程

AI Workbench 管理后台开发工作流程,以执行文件版本控制、位置更改和跟踪项目依赖项等任务。这使新手和熟练的开发者能够专注于执行,而无需担心配置和管理挑战。

获取 AI 工作台

NVIDIA AI 工作台适用于 Windows、macOS 和 Ubuntu Linux。从 NVIDIA AI 工作台 下载并安装后,您可以在 NVIDIA Launchpad 中立即获得短期访问权限,并尝试 AI 工作台示例项目。

Tags