机器人

使用 NVIDIA Jetson AGX Orin 开发套件模拟 NVIDIA Jetson Orin NX

在产品开发的早期,组织经常寻求评估项目的最低硬件需求。这通常需要在芯片上购买几个具有不同系统的开发套件来测量原型性能。评估阶段可能会延迟,这取决于开发人员工具包的可用性,这反过来会延迟上市时间。

幸运的是,只需使用 Jetson AGX Orin 开发套件 。此开发套件使您能够在本地模拟任何 NVIDIA Jetson Orin 模块,包括 Jetson Orin NX 和 Jetson Orin Nano 。它模拟所选模块的硬件规范,从而复制其性能。有关详细信息,请参阅 利用一个开发套件的力量开发所有六个 NVIDIA Jetson Orin 模块 并访问 Jetson 下载中心 .

仿真功能的主要优点是,您只需要一个套件即可开发针对任何 Jetson Orin 模块的任何产品。这加快了原型阶段,但也大大降低了成本。

这篇文章向您展示了如何使用一个开发工具包来仿真不同的 Jetson 模块,并总结了通过仿真 Jetson Orin NX 获得的性能。请注意,虽然 Jetson Orin Nano 也可以仿真,但这里没有讨论,因为这些模块不包括用于视频编码的硬件单元。因此,性能测量不会在 Jetson Orin NX 和 Jetson AGX Orin 相同的条件下进行。

使用 全景拼接和 WebRTC 流参考设计 测量性能。本演示使用 Jetson AGX Orin 开发套件,从三个不同的鱼眼摄像头实时创建 360 度全景图像。该过程使用 RidgeRun 用于 NVIDIA Jetson 的 GstStitcher 图像拼接 。然后使用带有 RidgeRun WebRTCWrapper 的 WebRTC 将结果流式传输到远程浏览器。图 1 显示了结果的示例。

A screenshot showing a demo of NVIDIA Jetson AGX Orin from RidgeRun with Panoramic Stitching and WebRTC Streaming.
图 1 。 RidgeRun 的 NVIDIA Jetson AGX Orin 演示,显示全景拼接和 WebRTC 流

参考设计使用 NVIDIA Jetson AGX Orin 中可用的以下硬件单元:

  • CPU : RTSP 摄像机视频捕获、缓冲区处理和 WebRTC 流
  • NVENC : H.264 硬件加速编码
  • VIC :鱼眼投影转换为部分等矩形图像; 1080p 传输的边界裁剪和图像缩放
  • GPU :将部分等矩形图像拼接成单个表示

如何在 NVIDIA Jetson AGX Orin 开发套件上启用仿真

要启用仿真,请使用 NVIDIA Jetson AGX Orin 开发套件的闪烁功能。这种方法使您能够选择目标模块,然后使用该配置闪存板。

假设 NVIDIA JetPack 5.0.2 安装正常,第一步是将主板置于强制恢复模式。然后使用flash.sh命令行工具为目标模块选择适当的闪烁脚本。可用的闪烁命令见表 1 。

Target module Flashing command
Jetson AGX Orin 64 GB sudo ./flash.sh jetson-agx-orin-devkit mmcblk0p1
Jetson AGX Orin 32 GB sudo ./flash.sh jetson-agx-orin-devkit-as-jao-32gb mmcblk0p
Jetson Orin NX 16 GB sudo ./flash.sh jetson-agx-orin-devkit-as-nx16gb mmcblk0p1
Jetson Orin NX 8 GB sudo ./flash.sh jetson-agx-orin-devkit-as-nx8gb mmcblk0p1
Jetson Orin Nano 8 GB sudo ./flash.sh jetson-agx-orin-devkit-as-nano8gb mmcblk0p1
Jetson Orin Nano 4 GB sudo ./flash.sh jetson-agx-orin-devkit-as-nano4gb mmcblk0p1
表 1 。每个 Jetson Orin 模块可用的闪烁命令

闪烁过程完成后,开发工具包将自动重新启动。完成初始启动过程后,可以使用 NVIDIA SDK 管理器安装剩余的 NVIDIA JetPack 组件。或者,您可以运行以下命令:

sudo apt update
sudo apt install nvidia-jetpack

要了解更多信息,请参阅 NVIDIA Jetson Orin 闪烁命令用于仿真 .

Performance results

RidgeRun 参考设计使用 Jetson AGX Orin 开发套件执行,该套件配置为在 MAXN 功率设置下模拟 Jetson Orin NX 16 GB 。

图 2 显示,与模拟 NVIDIA Jetson Orin NX 时的负载相比,开发套件 Jetson AGX Orin CPU 上的负载稍小。这是意料之中的,因为与 Jetson Orin NX 16 GB 的八个内核相比,开发套件在 12 个内核上运行。

Bar graph showing comparison of the CPU load while running Panoramic Stitching and WebRTC Streaming Demo using the Jetson AGX Orin Developer Kit for emulation.
图 2 .运行 Panoramic Stitching 和 WebRTC Streaming 演示时的 CPU 负载比较

图 3 显示 CUDA AGX-Orin 上的 GPU 负载几乎是 Jetson Orin NX 16 GB 上相同负载的一半。考虑到开发套件 Jetson AGX Orin 模块具有 2048 个 CUDA 内核,而 NVIDIA Jetson Orin NX 上的 1024 个 Jetson 内核,结果是预期的。这两个选项都为参考设计中使用的所有视频保持了 30 FPS 的稳定流。图 2 和图 3 所示的结果表示每个度量的 55 个样本的平均值。

Bar graph showing comparison of the GPU load while running Panoramic Stitching and WebRTC Streaming Demo using the Jetson AGX Orin Developer Kit for emulation.
图 3.GPU 运行全景缝合和 WebRTC 流演示时的负载比较

NVIDIA Jetson Orin NX 的八个 CPU 中的每一个的性能如图 4 所示。负载通常在 10% 至 35% 之间,频率范围为 729 MHz 至 2000 MHz 。

Chart demonstrating the CPU load and frequency results of the Panoramic Stitching and WebRTC Streaming Demo.
图 4 .运行 Panoramic Stitching 和 WebRTC Streaming 演示的 CPU 负载和频率结果

图 5 显示, GPU 负载在 10% 至 80% 之间变化,频率大部分时间保持在 611MHz 。

Chart showing the GPU load and frequency results of running the Panoramic Stitching and WebRTC Streaming Demo.
图 5 .运行 Panoramic Stitching 和 WebRTC Streaming 演示的 GPU 负载和频率结果

表 2 显示了 Jetson AGX Orin 开发套件在仿真 Jetson Orin NX 时测得的性能。将此与表 3 进行比较,表 3 显示了在 Jetson AGX Orin 开发套件上无仿真的全景缝合和 WebRTC 流演示的硬件性能。

总之, Jetson Orin NX 获得了与 Jetson AGX Orin 相同的结果。不同之处在于资源使用, Jetson Orin NX 的资源使用更高。这是由于硬件的差异而导致的。

例如, Jetson Orin NX 在八个 CPU 核上运行, Jetson AGX Orin 在 12 个 CPU 核上。 Jetson Orin NX 上的 CPU 的最大频率也降低了。此外, Jetson Orin NX 上的 GPU 在具有 32 个 Tensor 核的 1024 核 NVIDIA Ampere 架构 GPU 上运行,而 Jetson AGX Orin 在具有 64 个 Tensor 核的 2048 核 NVIDIA Ampere 架构 GPU 上运行。

Table showing hardware performance of the Panoramic Stitching and WebRTC Streaming demo while emulating the Jetson Orin NX.
表 2 。模拟 Jetson Orin NX 时,全景缝合和 WebRTC 流式演示的硬件性能
Table showing hardware performance of the Panoramic Stitching and WebRTC Streaming demo without emulation on the Jetson AGX Orin Developer Kit.
表 3 。在 Jetson AGX Orin 开发套件上无仿真的全景缝合和 WebRTC 流演示的硬件性能

总结

全景拼接和 WebRTC 流参考设计 仅使用 NVIDIA Jetson AGX Orin 开发套件及其仿真功能,使用两种不同的硬件规格进行了测试。运行参考设计表明,尽管 NVIDIA Jetson Orin NX 具有更精简的硬件规格,但它运行演示以及更强大的硬件。

观看在两个平台上运行的全景缝合和 WebRTC 流参考设计。视频还包括参考设计及其工作原理的简要说明。

Video 1. 了解 NVIDIA Jetson Orin 开发套件的仿真性能

有关 NVIDIA Jetson AGX Orin 仿真功能的更多信息,请参阅 利用一个开发套件的力量开发所有六个 NVIDIA Jetson Orin 模块 .

Tags