计算机视觉/视频分析

宣布推出适用于 Jetson 的 NVIDIA Metropolis 微服务,助力 Rapid Edge AI 开发

 

为边缘构建视觉 AI 应用通常需要漫长且昂贵的开发周期。与此同时,快速开发原生云、灵活且安全的边缘 AI 应用比以往任何时候都更加重要。现在,新的 NVIDIA Metropolis 微服务可提供强大而简单的 API 驱动的边缘 AI 开发工作流。

NVIDIA Metropolis 微服务 是一套可定制的云原生构建块,用于开发视觉 AI 应用和解决方案。此版本在 NVIDIA Jetson 平台上可进一步加速边缘视觉 AI 应用的开发和部署。

这些新的 Jetson 微服务使开发者能够实现 AI 应用程序堆栈的现代化,简化流程,并为未来的应用程序提供保护。您可以轻松地将最新的 生成式 AI 进展集成到您的应用程序中,这些进展是通过 API 和微服务实现的,例如视频存储和管理、预构建的 AI 感知流程、跟踪算法、系统监控、用于安全边缘到云连接的物联网服务等。

此处下载适用于 Jetson 的 NVIDIA Metropolis 微服务 。

A graphic that compares using a do-it-yourself approach, where developers have to create all the pieces from scratch, and using prebuilt NVIDIA Metropolis microservices, which reduce development time from years to months.
图 1.借助 NVIDIA Metropolis 微服务更快地开发边缘 AI 应用

版本亮点

生产就绪型边缘 AI 应用需要众多组件,包括 AI 模型、优化的处理和推理流程、胶水逻辑、安全措施、云连接等。适用于 Jetson 的 NVIDIA Metropolis 微服务使用云原生、模块化和可扩展的架构为最常见的组件提供预构建微服务,从而简化应用开发流程。

该平台的灵活性提高了开发效率,标准 API 与其他应用和服务无缝集成。该平台还提供物联网、安全和监控等基本服务,为生产应用提供即用型核心组件。

通过访问应用程序、平台服务和云服务中的超过 15 种微服务,开发者可以专注于构建知识产权并在市场中实现差异化。

NVIDIA 合作伙伴正在将 NVIDIA Metropolis 微服务集成到他们的产品中,包括 AAEONAetinaAdvantechAllxonCRGCVEDIANamlaRebotnixRidgeRunSeeed Studio,以及 Silicon Highway。每天都会有更多内容加入。

参考工作流程和应用程序

包含两个参考应用,可帮助您开始使用适用于 Jetson 的 NVIDIA Metropolis 微服务:支持 AI 的网络录像机 (AI-NVR) 和具有零样本检测功能的生成式 AI 应用。这些工作流程展示了微服务和 API 如何结合在一起,构建完整的应用,包括视频提取、AI 推理、分析和监控,以及安全连接到云。

支持 AI 的网络录像机

AI-NVR 参考工作流将几乎所有的微服务整合到一个综合应用中。其中包括:

  • 使用 Video Storage Toolkit (VST) 微服务提取和存储视频
  • 利用 AI 感知服务进行人员检测和追踪,如 NVIDIA DeepStream
  • 使用分析服务的线交叉和兴趣区域 (ROI) 见解和警报

我们提供了 Android 参考移动应用,用于演示如何使用 API 构建客户端应用。如需了解更多信息,请查看 NVIDIA On-Demand 播放列表,使用 Metropolis 微服务实现 Jetson 的 AI-NVR

Graphic showing the complete cloud-native architecture of AI-NVR application showing VST, AI perception service, analytics service, and all the other platform services.
图 2.支持 AI 的网络录像机 (AI-NVR) 应用架构

使用生成式 AI 的零样本检测

适用于 Jetson 的 Metropolis 微服务使开发者能够针对边缘对生成式 AI 应用进行原型设计和产品化。生成式 AI 参考应用支持对直播数据进行零样本检测。模型可以检测通过提示指定的任何对象。

可以通过 REST API 远程向 AI 感知服务发出提示,以动态更改类别以进行检测。生成式 AI 为边缘提供新型 AI 驱动的应用程序。如需详细了解 Metropolis 微服务中的生成式 AI,请参阅借助适用于 Jetson 的 NVIDIA Metropolis 微服务,将生成式 AI 引入边缘

Graphic showing the cloud-native architecture of the generative AI reference application for zero-shot object detection using a visual prompting agent.
图 3.用于零射目标检测的生成式 AI 参考应用

功能强大的微服务和 API

适用于 Jetson 的 Metropolis 微服务是功能丰富的微服务和 API 的集合,包括应用服务、平台和板级支持包 (BSP) 服务以及云服务。模块化和可扩展的微服务使您能够轻松为边缘构建现代云原生应用。

作为开发者,您可以根据产品的成熟度灵活选择一项、多项或所有服务。

Graphic showing the complete software stack from the reference AI workflow, application microservice, platform, and BSP services to cloud services.
图 4.适用于 Jetson 软件堆栈的 Metropolis 微服务

应用服务

  • 视频存储工具包:提供视频提取和存储服务。
  • 使用 NVIDIA DeepStream 的 AI 感知服务:用于 AI 推理、对象追踪和元数据创建
  • 用于零样本检测的 AI 感知服务:用于使用 NanoOWL 模型和视觉提示进行生成式 AI 推理
  • 分析服务:物体计数分析,例如线交叉、兴趣区域和视野

平台服务

  • Redis:用于进程间通信的全局消息总线
  • API 网关:将传入的 API 请求映射到后续服务
  • 监控:监控和可视化边缘设备状态,例如利用率和应用程序 KPI
  • IoT 网关:边缘和云之间的安全双向通信

云服务

  • 物联网云:创建从云到边缘的安全连接,包括身份验证和授权

总结

NVIDIA Metropolis 微服务能够迅速推动边缘的视觉 AI 开发,提供现成的应用以及超过 15 种适用于平台服务、像素感知、视频存储、分析等的微服务。下载适用于 Jetson 的 NVIDIA Metropolis 微服务

如需了解适用于 Jetson 的 Metropolis 微服务的技术细节,请阅读 适用于 Jetson 的 NVIDIA Metropolis 微服务白皮书

有关使用 Metropolis API 构建应用的教程,请参阅借助 NVIDIA Metropolis 微服务和 API 构建边缘视觉 AI 应用。如需了解更多信息,请注册参加我们的由两部分组成的在线研讨会,借助适用于 Jetson 的 Metropolis API 和微服务加速边缘 AI 开发(第 1 部分)和如何使用适用于 Jetson 的 Metropolis 微服务进行构建(第 2 部分)。

 

Tags