边缘计算

借助 NVIDIA AI Enterprise IGX 为任务关键型边缘 AI 提供支持

NVIDIA SDK 在加速智慧城市、医疗和机器人等一系列用例中的 AI 应用方面发挥了重要作用。但是,要实现可在边缘部署的生产级 AI 解决方案,以支持安全可靠的人机协作,就需要针对企业需求量身定制的高质量硬件和软件。

NVIDIA 再次加速边缘任务关键型 AI 应用程序。 NVIDIA AI Enterprise IGX 是一款企业级软件解决方案,用于在 NVIDIA IGX 平台上运行边缘 AI。

NVIDIA IGX 为您的工业级硬件提供超快的 AI 性能,在边缘所需的大小和功率范围内实现高吞吐量数据处理,以及强大的边缘安全性、远程管理性和内置安全机制。

NVIDIA IGX 与 NVIDIA AI Enterprise 的集成使边缘 AI 更易于访问、更高效且更便于企业使用。

企业的边缘 AI 需求

AI 堆栈由许多第三方应用程序和开源软件 (OSS) 组成,并依赖于这些应用程序和开源软件 (OSS).在依赖程度不断增加的情况下,维护 AI 软件堆栈的安全性和稳定性十分复杂,这是一项艰巨的任务。这项资源密集型任务阻碍了企业的 AI 创新步伐。

以下是需要考虑的一些因素:

  • 稳定性和可靠性
  • 安全和威胁缓解
  • 监管问题

稳定性和可靠性

了解软件包中的所有依赖项对于保持 API 稳定性至关重要。更改任何第三方和 OSS 包可能需要后续更改相关 API,而这可能会破坏堆栈。这种依赖关系网络使企业几乎不可能在其部署中标准化最新开源版本。

安全和威胁缓解

不断扩展的软件依赖项增加了引入软件漏洞的风险。这些漏洞可能会导致攻击并带来严重后果,例如数据泄露、服务中断和巨大的财务损失。

与 2021 年相比,2022 年报告的关键漏洞数量增加了 59%,共计 4135 个关键漏洞。即使在延迟、隐私、带宽和监管要求方面具有更高标准的行业,也不能不受这种趋势的影响。根据 临床医生对医疗网络安全和网络威胁的看法 文章指出,2019 年,有 24%的网络攻击发生在医疗健康行业。2022 年,针对医院的网络攻击激增。

监管问题

许多高度监管的行业都对 AI 软件的维护实施了严格的法规。

例如,在航空航天领域,AI 越来越多地用于导航系统和飞行控制算法,严格的准则确保持续监控和更新,以保持系统完整性和安全标准。

同样,在医疗保健行业,AI 驱动的治疗和诊断工具必须遵守严格的维护协议,以保证医疗决策过程的准确性和可靠性。

2023 年,FDA 发布了最终指导文件“医疗设备的网络安全:质量系统注意事项和上市前提交内容”。该文件规定,对于不包含第 524B 节(“确保设备的网络安全”)要求的信息的上市前提交内容,应遵循拒绝接收(RTA)政策。这意味着 FDA 现在可以通过网络安全标准来拒绝新的医疗设备。

NVIDIA AI Enterprise IGX

NVIDIA AI Enterprise IGX 是一款专用软件解决方案,适用于在 NVIDIA IGX Orin 平台上运行的任务关键型应用程序。

它为整个软件堆栈提供出色的性能、安全性、稳定性和支持,帮助企业摆脱维护和保护复杂 AI 软件平台的复杂性。这不仅简化了 AI 驱动的操作,还提高了大规模部署 AI 应用的信心。

基于 NVIDIA AI Enterprise 在数据中心和云中取得的成功, NVIDIA AI Enterprise IGX 的推出将这些优势扩展到边缘。

作为一种高性能的工业级企业级边缘解决方案, NVIDIA AI Enterprise IGX 与 NVIDIA IGX 结合使用,可在固件、操作系统、驱动、AI 框架、SDK 和库中提供全面的端到端软件支持。借助专为 NVIDIA IGX 构建的稳定软件发行版,您可以获得关键用例所需的延长期限所需的硬件和软件支持,并依赖于单一支持来源*、长期 API 稳定性和一致的软件材料清单 (SBOM)。

随附的企业支持的价值为及时处理技术问题提供了解决方案,以确保边缘 AI 系统的稳定性和可靠性,同时避免可能导致重大财务损失或运营中断的机时间。

Architecture diagram shows NVIDIA Metropolis, NVIDIA Holoscan, and NVIDIA Isaac operating on the NVIDIA AI Enterprise - IGX software platform, which enables enterprises to run edge AI on NVIDIA IGX Orin hardware.
图 1. NVIDIA AI Enterprise IGX 和 NVIDIA IGX 平台

NVIDIA AI Enterprise IGX 包含基本的 AI 库和 SDK,例如 NVIDIA TensorRT、TensorFlow、PyTorch、 NVIDIA Triton 推理服务器、Holoscan 和企业 Ubuntu Linux 操作系统。

有两个附加选项:

  • Yocto:适用于部署 Yocto 的企业。
  • 功能安全:在安全、人员和财产至关重要的领域(如工业制造领域),这可确保系统能够保护关键资产和人员生命,避免主动和被动安全方法的影响。

NVIDIA AI Enterprise IGX 旨在助力企业构建尖端技术,同时降低 TCO、缩短上市时间,并提高整体产品开发效率。

它配备灵活的软件分支,可为您提供选择,具体取决于您的行业需求和产品开发周期:

  • 生产分支:通过每月安全更新确保 API 的稳定性。这些分支是在需要稳定性时在生产环境中部署 AI 的理想选择。每 6 个月发布一次,生命周期为 9 个月。
  • 长期支持分支:通过季度安全更新支持长期应用程序生命周期。这些分支是受高度监管的 AI 应用程序的理想选择。每 2.5 年发布一次,生命周期长达 10 年。

该解决方案为在具有挑战性且复杂的边缘 AI 开发流程中取得成功提供了可靠的途径。

开始使用 NVIDIA AI Enterprise IGX

如果您正在开发边缘 AI 应用程序或准备投入生产,请立即开始使用 NVIDIA AI Enterprise:

 

Tags