数据中心/云端

借助 NVIDIA AI 软件构建企业级 AI

 

在推出 ChatGPT 后,全球各地的企业开始意识到 AI 的优势和功能,并竞相将其应用到工作流程中。

随着这种采用的加速,企业不仅必须跟上 AI 的快速发展,而且还必须解决优化、可扩展性和安全性等相关挑战。

企业 AI 开发之旅通常从数据 ETL (提取、转换、加载)阶段开始,在此期间准备用于训练的数据。接下来是训练 AI 模型。模型完成训练后,接下来的步骤包括部署和运行推理。企业需要在每个阶段使用经过优化的安全软件来构建生产就绪型 AI 应用。

使用 NGC 目录加速 AI 开发

NVIDIA NGC 目录 通过以容器形式提供一系列 GPU 优化的软件和 SDK,帮助企业加速其 AI 开发。

目录中的一些热门容器包括用于数据 ETL 阶段的 RAPIDS,以及用于模型开发阶段的 TensorFlowPyTorch。此外,还有用于模型部署阶段的 NVIDIA TensorRTNVIDIA Triton 推理服务器

图 1 展示了可用于 NLP、物体检测、推荐等多种用例的不同容器。探索 NGC 目录以找到适合您用例的软件。

Screenshot of the available containers for various use cases on the NGC catalog.
图 1.NGC 目录为各种用例提供容器

NGC 容器的优势

目录中的所有容器都经过优化,可在最新的 NVIDIA 加速计算堆栈上运行,并定期更新,以在相同硬件上提供增强的性能。这些容器经过测试,可确保各种 NVIDIA GPU 的兼容性和性能。

企业可以在任何地方部署这些容器,包括本地以及多云和混合云环境。这些容器可以与各种容器编排系统一起部署,包括广泛使用的开源平台 Kubernetes.此外,该目录提供了一系列 Helm 图表,以促进在 Kubernetes 集群上部署和管理容器。

安全和信任也是目录中可用的容器和模型不可或缺的一部分。所有*容器都会扫描 CVE,并为其分配安全评级,以便企业可以对所下载的软件充满信心。图 2 显示容器的不同安全评级。

Screenshot of the different security ratings available for the containers in the NGC catalog.
图 2.NGC 目录中容器的不同安全评级

一般来说,容器还具有其他一些优势,例如:

  • 依赖项封装:容器封装了所有依赖项(例如库和其他软件组件),以确保应用程序可以在任何环境中可靠运行,而无需额外配置。
  • 可再现性:容器包含了运行应用程序所需的所有内容,因此无论部署在何处,容器都将以相同的方式运行。这减少了与特定环境配置相关的问题的可能性。
  • 节省时间和资源:通过简化部署流程并确保跨环境的一致性,容器可节省大量时间和资源,而这些时间和资源原本只能用于手动设置和故障排除。

使用目录软件,企业开发者可以开始构建 POC 并测试其解决方案。当企业准备投入生产时,他们需要确保满足将 AI 集成到其业务应用程序中的要求。

这些要求包括企业级安全性、软件堆栈稳定性、企业级支持和可管理性。拥有清晰的路径来协助从开发到生产的过渡是成功实现价值所需时间的一部分。

从开发到生产的无缝过渡

多样化的软件组件和相关的相互依赖性使得维护安全、可靠的 AI 软件堆栈成为一项艰巨的任务,尤其是在需要将 AI 部署并集成到企业应用程序中时。NGC 目录通过提供基于社区的开发软件和用于生产的企业级软件分支,使企业开发者能够无缝过渡。

例如,目录提供了多个容器,包括NVIDIA Triton 推理服务器(图 3)。NVIDIA Triton 推理服务器功能分支是按月发布的最新版本,可让开发者访问最新功能和性能优化。

Image showing the search results for NVIDIA Triton Inference Server query.
图 3. NVIDIA Triton 推理服务器可使用不同的 NGC 容器

NVIDIA Triton 推理服务器生产分支专为 NVIDIA AI Enterprise 独家提供,主要构建任务关键型 AI 应用程序提供稳定性和安全环境而设计。生产分支每 6 个月发布一次,生命周期为 9 个月,确保 API 的稳定性。在 9 个月的生命周期内,NVIDIA 持续跟踪关键漏洞,每月发布 CVE 补丁和错误修复,而不破坏软件堆栈。

借助不同的优化 AI 软件选项,企业开发者可以利用目录选择适当的软件包,以支持给定的 AI 工作流,同时保持安全性。

借助 NVIDIA AI Enterprise 实现出色的不间断 AI

安全性、可靠性和可管理性对于企业级 AI 至关重要。为应对这些挑战,NVIDIA 推出了 NVIDIA AI Enterprise,这是一个企业级软件平台,可加速数据科学流程并简化生产级 AI 应用的开发和部署。

NVIDIA AI Enterprise 基于开源构建,并由 NVIDIA 精心策划、优化和提供支持,可提供多个受支持的分支(生产、功能和长期支持)。它还包括通过 NGC 在整个 AI 旅程中提供的企业级安全性、稳定性、可管理性和支持。

总结

NGC 目录和 NVIDIA AI Enterprise 为企业提供了必要的工具,以跟上 AI 的快速发展,同时解决优化、可扩展性和安全性等相关挑战。

访问 NGC 目录,浏览数百个预训练模型、容器、Helm 图表和 Jupyter Notebooks. 要开始使用 NVIDIA AI Enterprise,申请 90 天免费试用.

 

Tags