Edge Computing

新しい NVIDIA Jetson Orin NX 16GB でエッジ AI の性能を向上

Reading Time: < 1 minute

昨年の NVIDIA Jetson エッジ AI デバイスの拡大の勢いを受け、NVIDIA Jetson Orin NX 16GB モジュールが全世界で販売開始されました。

小型のフォーム ファクター、低電力ロボット、自律マシン向けに比類ない性能と効率性を発揮する Jetson Orin NX 16GB モジュールは、ドローンやハンドヘルド機器などの製品に最適です。このモジュールは、製造、物流、小売、農業、ヘルスケア、ライフ サイエンスなどの分野の高度なアプリケーションに簡単に利用でき、すべてがコンパクトで電力効率の高いパッケージに収められています。

Jetson で最小のフォーム ファクターで、最大 100 TOPS の AI 性能を発揮し、消費電力は 10 W から 25 W の間で設定可能です。NVIDIA Jetson AGX Xavier の 3 倍、NVIDIA Jetson Xavier NX の 5 倍の性能を開発者に提供します。

システム オン モジュール (SoM) は、NVIDIA Ampere アーキテクチャ GPU、次世代ディープラーニングおよびビジョン アクセラレータ、高速 I/O、高速メモリ帯域幅により、複数の AI アプリケーション パイプラインをサポートします。自然言語理解、3D 知覚、マルチセンサー融合において、最大かつ最も複雑な AI モデルを用いたソリューションを開発することができるようになります。

NVIDIA は、NVIDIA JetPack 5.1 を使用して、性能の大きな飛躍を示すいくつかのコンピューター ビジョン ベンチマークを実施しました。テストには、NGC の高密度 INT8 および FP16 の学習済みモデルがいくつか含まれていました。同じモデルを比較するために、Jetson Xavier NX でも実行しました。

以下が、実施された全てのベンチマークです。

これらのベンチマークの幾何平均をとると、Jetson Orin NX は、Jetson Xavier NX と比較して 2.1 倍の性能向上を示しています。今後のソフトウェアの最適化により、高密度なベンチマークでは 3.1 倍近くなると予想されています。他の Jetson デバイスでは、最初のソフトウェア リリースから 1.5 倍に性能が向上しており、Jetson Orin NX 16GB でも同様の結果が期待されます。

Jetson Orin NX は、スパース性をサポートすることで、さらに高い性能を実現します。スパース性を利用することで、ディープラーニング ネットワークにおけるきめ細かく構造化されたスパース性を活用し、Tensor コアの演算のスループットを向上させることができます。

図 1: コンピュータ ビジョン用事前学習済みモデルのベンチマーク

すべての Jetson Orin モジュールは、世界標準の NVIDIA AI ソフトウェア スタックを実行します。サービスや製品のエコシステムによってサポートされ、市場投入までの道のりがかつてないほど速くなりました。同じく本日リリースされた NVIDIA JetPack 5.1 も、Orin NX 16 GB と Jetson Orin の最新の CUDA-X スタックをサポートします。

さらに、Jetson パートナー エコシステムは、センサー、カメラ、接続モジュール (5G、4G、Wi-Fi) など、Jetson Orin NX 16GB モジュール用のキャリア ボードや周辺機器を幅広くサポートしています。

オプションは以下の通りです。

NVIDIA Jetson AGX Orin 開発者キットも現在発売中で、Jetson Orin NX 16GB モジュールを含む Jetson Orin モジュール全ファミリ製品をソフトウェア エミュレーションでサポートしています。

今すぐ Jetson AGX Orin 開発者キットを使い始めることができます。

Jetson ダウンロード センターで提供している NVIDIA Jetson Orin NX のドキュメントをお読みください。より詳細な情報やサポートについては、NVIDIA 組込み開発者向けページ Jetson フォーラムをご覧ください。

Jetson Orin NX 16GB は、パートナー各社からご購入いただけます。

翻訳に関する免責事項

この記事は、「Developing Accelerated Code with Standard Language Parallelism」の抄訳で、お客様の利便性のために機械翻訳によって翻訳されたものです。NVIDIA では、翻訳の正確さを期すために注意を払っておりますが、翻訳の正確性については保証いたしません。翻訳された記事の内容の正確性に関して疑問が生じた場合は、原典である英語の記事を参照してください。

Tags