JetPack SDK



NVIDIA JetPack SDK は、エンドツーエンドのアクセラレーテッド AI アプリケーション構築のための最も包括的なソリューションです。JetPack は、NVIDIA Jetson モジュール上でハードウェア アクセラレーションを活用したエッジ AI 開発を行うための充実した開発環境を提供します。

JetPack には、Jetson Linux とブートローダー、Linux カーネル、Ubuntu デスクトップ環境のほか、GPU コンピューティング、マルチメディア、グラフィックス、コンピューター ビジョンのアクセラレーション用ライブラリ一式が含まれます。またホスト コンピューターと開発者キット向けのサンプル、ドキュメント、開発者ツールも付属しており、ストリーミング ビデオ分析用の DeepStream、ロボティクス用の Isaac、対話型 AI 用の Riva といった上位レベルの SDK をサポートしています

JetPack 5.1

JetPack 5.1 は、運用レベルのリリースで、Jetson Orin NX 16GB モジュールをサポートしています。Linux カーネル 5.10、Ubuntu 20.04 ベースのルート ファイル システム、UEFI ベースのブートローダー、OP-TEE (Trusted Execution Environment) を備えた Jetson Linux 35.2.1 BSP が含まれています。また、CUDA 11.4、TensorRT 8.5.2、cuDNN 8.6.0、VPI 2.2 がその他のアップデートと共にパッケージングされています。機能の一覧については、以下の各セクションをご覧ください。

このリリースは、Jetson AGX Orin 32GB 製品モジュール、Jetson AGX Orin 開発者キット、Jetson Orin NX 16GB 製品モジュールをサポートしています。Jetson AGX Xavier シリーズと Jetson Xavier NX シリーズの各モジュール、Jetson AGX Xavier 開発者キット、Jetson Xavier NX 開発者キットもサポート対象です。

JetPack のインストール


Debian パッケージを使用した方法

JetPack は Jetson で動作する Debian パッケージ管理ツールを使って、インストールやアップグレードを行うことができます。すべての JetPack コンポーネントのためのランタイム パッケージと開発用 Debian メタ パッケージも NVIDIA がホストしています。開発パッケージには、ランタイム パッケージに含まれない開発用のサンプルやドキュメントも同梱されます。Jetson Linux では、JetPack のフル インストールか、JetPack ランタイム コンポーネントのみのインストールが可能です。

ホスト対象の Debian パッケージのリストについては、JetPack ドキュメントをご参照ください。また、Jetson Linux に JetPack 5.1 をインストールする方法や、JetPack をアップグレードする方法についても、JetPack ドキュメントをご覧ください。

SD カード イメージを使用した方法

NVIDIA SDK Manager を使用した方法

JetPack の主な機能

Jetson Linux

NVIDIA Jetson Linux 35.2.1 は、Linux カーネル 5.10、UEFI ベースのブートローダー、Ubuntu 20.04 ベースのルート ファイル システム、NVIDIA ドライバー、必要なファームウェア、ツールチェーンなどを提供します。

JetPack 5.1 には Jetson Linux 35.2.1 が含まれており、以下の機能が追加されています (詳細はリリース ノートをご確認ください)。

  • Jetson AGX Orin 16GB 製品モジュールのサポートを追加
  • セキュリティ
  • Over The Air のアップデート:
    • JetPack 4.x リリースを実行する Jetson AGX Xavier または Jetson Xavier NX モジュールをアップグレードする、A/B サポート付きのイメージ ベース OTA ツール
    • Jetson Orin モジュールをアップグレードするためのイメージ ベースの OTA ツールは、次回リリースで提供する予定です。2
  • ディスプレイ:
    • HDMI 2.0 と DP コンプライアンスに関する修正
  • カメラ:
    • AR1335 YUV カメラのサポート
    • V4L2 と Argus の同時撮影サポートを強化
    • Orin でサポートされる RGB 出力のための Argus Demosaic (argus_demosaicOutput サンプル) を新規追加
    • ファイルから Bayer RAW 画像を読み込み、再処理された YUV 出力をファイルに書き込むための Argus RAW 再処理 (syncStereoRawReprocess サンプル) を新規追加
    • Argus SyncSensorCalibrationData 拡張機能の更新によって EEPROM キャリブレーション データを強化し、カメラ モジュールのシリアル番号と IMU ノイズ パラメータをサポート
  • マルチメディア:
    • TAQ (Temporal Adaptive Quantization) のサポートを H264 エンコーダーに拡張

    1署名をサポートしました。暗号化は次回リリースで対応予定です。

    2Jetson Linux 35.2.1 は、次回リリースで提供される OTA ツールを使用する際に変更が必要になることはありません。Jetson Linux 35.2.1 を実行する Jetson Orin ベースの製品は、次回リリースで提供される OTA ツールでアップグレードできます.

TensorRT

TensorRT は画像分類、セグメンテーション、物体検出ニューラル ネットワークのための高性能ディープラーニング推論ランタイムです。TensorRT は NVIDIA の並列プログラミング モデルである CUDA を基盤としており、すべてのディープラーニング フレームワークに対して推論を最適化できます。ディープラーニング推論オプティマイザーおよびランタイムが含まれ、ディープラーニング推論アプリケーションにおける低レイテンシ、高スループットを実現します。

JetPack 5.1 にはTensorRT 8.5.2 が含まれます。

cuDNN

CUDA Deep Neural Network ライブラリはディープラーニング フレームワーク用の高パフォーマンスなプリミティブを提供します。フォワード畳み込み、バックワード畳み込み、プール、正規化、アクティベーション層などの標準ルーチンが高度に調整されて実装されています。

JetPack 5.1 には cuDNN 8.6.0 が含まれます。

CUDA

CUDA Toolkit は C や C++ の開発者が GPU アクセラレーション対応アプリケーションを開発するための統合開発環境を提供します。このツールキットには NVIDIA GPU 用コンパイラ、Math ライブラリ、アプリケーションのデバッグおよびパフォーマンスの最適化のためのツールが含まれます。

JetPack 5.1 には CUDA 11.4.19 が含まれます。

JetPack 5.0.2 から、Jetson Linux や他の JetPack コンポーネントをアップデートすることなく、CUDA 11.8 以降の最新かつ最高性能の CUDA リリースにアップグレードすることができます。JetPack で最新の CUDA を入手する方法については、CUDA ドキュメントの説明をご参照ください。

Multimedia API

Jetson Multimedia API パッケージは柔軟なアプリケーション開発のための下位レベルの API を提供します。

カメラ アプリケーション API: libargus はカメラ アプリケーション用の下位レベルのフレーム同期 API を提供します。フレーム単位のカメラ パラメータ コントロール、複数台の (同期を含めた) カメラ サポート、EGL ストリーム出力に対応しています。ISP を必要とする RAW 出力 CSI カメラは libargus または GStreamer プラグインで使用できます。どちらの場合も V4L2 メディアコントローラー センサー ドライバー API を使用します。

センサー ドライバー API: V4L2 API はビデオのデコード、エンコード、フォーマット変換、スケーリング機能を利用できます。エンコード用 V4L2 はビット レート制御、品質プリセット、低レイテンシのエンコード、一時的なトレードオフ、モーション ベクター マップなど多くの機能を利用できます。

JetPack 5.1 Camera の主な新機能:

  • AR1335 YUV カメラのサポート
  • V4L2 と Argus の同時撮影サポートを強化
  • Orin でサポートされる RGB 出力のための Argus Demosaic (argus_demosaicOutput サンプル) を新規追加
  • ファイルから Bayer RAW 画像を読み込み、再処理された YUV 出力をファイルに書き込むための Argus RAW 再処理 (syncStereoRawReprocess サンプル) を新規追加
  • Argus SyncSensorCalibrationData 拡張機能の更新によって EEPROM キャリブレーション データを強化し、カメラ モジュールのシリアル番号と IMU ノイズ パラメータをサポート

JetPack 5.1 Multimedia の主な新機能:

  • TAQ (Temporal Adaptive Quantization) のサポートを H264 エンコーダーに拡張

コンピューター ビジョン

VPI (Vision Programing Interface) は、PVA (Programmable Vision Accelerator)、GPU、NVDEC (NVIDIA Decoder)、NVENC (NVIDIA Encoder)、VIC (Video Image Compositor) など、Jetson 上の複数のハードウェア アクセラレータに実装されたコンピューター ビジョン/画像処理アルゴリズムを提供するソフトウェア ライブラリです。

OpenCV はコンピューター ビジョン、画像処理、機械学習向けのオープン ソース ライブラリです。

JetPack 5.1 には、以下の新機能を備えた VPI 2.2 が含まれます。

  • 新しいアルゴリズム:
    • CPU バックエンドと CUDA バックエンドの両方に対応した Canny エッジ検出器
    • CPU バックエンドと CUDA バックエンドの両方に対応した Oriented FAST and rBRIEF (ORB) 特徴検出器
    • CPU バックエンドと CUDA バックエンドの両方に対応したテンプレート マッチング
    • CPU バックエンドと CUDA バックエンドの両方に対応した画像統計
  • メディアン フィルター
    • 3x3 カーネルの PVA 実装を追加

JetPack 5.1 には OpenCV 4.5.4 が含まれます。

グラフィックス

JetPack 5.1 には、以下のグラフィックス ライブラリが含まれています。

  • Vulkan® 1.3 (Roadmap 2022 Profile を含む)
  • Vulkan® SC 1.0
    • Vulkan SC は Vulkan 1.2 をベースとした下位レベルの、決定論的かつ堅牢な API です。この API は、最先端の GPU アクセラレーションを利用したグラフィックスとコンピューティングをセーフティ クリティカルなシステムに展開できるようにするもので、業界の機能安全規格を満たしていると認定されています。詳細については https://www.khronos.org/vulkansc/ をご覧ください。
    • Vulkan SC は、リアルタイムの非セーフティ クリティカルな組み込みアプリケーションにも有用です。ランタイム アプリケーション環境の準備をオフラインに、またはアプリケーションのセットアップに可能な限り移すことにより、決定性を高めアプリケーション サイズを削減できます。GPU でのデータ処理方法を定義するグラフィックス パイプラインのオフライン コンパイルや、静的メモリ割り当てなどによって、詳細な GPU 制御が可能になり、制御を厳密に指定したりテストしたりすることができます。
    • Vulkan SC 1.0 は Vulkan 1.2 をベースにして、セーフティ クリティカルな分野では必要とされないランタイム機能の削除、予測可能な実行時間と結果を提供するための最新設計、動作における潜在的なあいまいさを取り除くための明確化が行われています。詳細は https://www.khronos.org/blog/vulkan-sc-overview をご覧ください。
    • : Jetson の Vulkan SC サポートは安全規格の認定を受けていません。
    OpenWF™ Display 1.0
    • OpenWF Display は、Jetson のネイティブ ディスプレイ ドライバーとのやり取りを低オーバーヘッドで行うための Khronos API であり、Vulkan SC とやり取りして画像を表示できます。
    • : Jetson の OpenWF Display サポートは安全規格の認定を受けていません。

Nsight 開発者ツール

CUDA Toolkit は C や C++ の開発者が CUDA ライブラリを使用して GPU アクセラレーション対応の高性能アプリケーションを開発するための統合開発環境を提供します。このツールキットには Nsight Visual Studio Code EditionNsight Eclipse PluginNsight Compute をはじめとするデバッギングおよびプロファイリング ツール、アプリケーションのクロスコンパイル用ツールチェーンが含まれます

NVIDIA Nsight Systems はシステム全体を網羅する低オーバーヘッドのプロファイリング ツールで、ソフトウェアのパフォーマンスを分析して最適化するために必要なインサイトが得られます。

NVIDIA Nsight Graphics はグラフィックス アプリケーションのデバッグやプロファイリング用のスタンドアロン アプリケーションです。

NVIDIA Nsight Deep Learning Designer は、アプリ内の推論のためのディープ ニューラル ネットワークを効率的に設計および開発するための統合型開発環境です。

Nsight System、Nsight Graphics、Nsight Compute はいずれも Jetson Orin モジュール上でサポートされ、自律動作マシンの開発を支援します。

JetPack 5.1 には NVIDIA Nsight Systems v2022.5 が含まれます。

JetPack 5.1 には NVIDIA Nsight Graphics 2022.6 が含まれます。

JetPack 5.1 には NVIDIA Nsight Deep Learning Designer 2022.2 が含まれます。

詳細は リリース ノート をご覧ください。

サポート対象の SDK とツール

NVIDIA DeepStream SDK は AI ベースのマルチセンサー処理やビデオおよび音声理解のための包括的な分析ツールキットです。

JetPack 5.1 対応の DeepStream 6.2 を近日中にリリースします。

NVIDIA Triton™ Inference Server を使用すると、AI モデルの大規模な展開が容易になります。Triton Inference Server はオープンソースで、NVIDIA TensorRT、TensorFlow、ONNX Runtime でトレーニング済みの AI モデルを Jetson に展開できます。Jetson では、Triton Inference Server は C API と直接統合するための共有ライブラリとして提供されます。

PowerEstimator はカスタムの電力モード プロファイルを簡単に作成し、Jetson モジュールの消費電力を推定できる Web アプリです。

JetPack 5.1 は Jetson AGX Orin および Jetson Xavier NX モジュールの PowerEstimator をサポートします。

クラウドネイティブ

Jetson により、コンテナーやコンテナー オーケストレーションなどのクラウドネイティブ テクノロジをエッジで利用できるようになります。NVIDIA JetPack には NVIDIA Container Runtime と Docker 統合が含まれ、Jetson プラットフォーム上で GPU アクセラレーションを活用したコンテナー化されたアプリケーションを実現できます。

NVIDIA NGC では、Jetson 向けの複数のコンテナー イメージをホストしています。サンプルやドキュメントが含まれていてソフトウェア開発に適しているものもあれば、ランタイム コンポーネントのみが含まれていて運用ソフトウェアの展開に適しているものもあります。詳細とコンテナー イメージの一覧は、Cloud-Native on Jetson のページをご確認ください。

セキュリティ

NVIDIA Jetson モジュールにはハードウェア RoT、セキュア ブート、暗号化ハードウェア アクセラレーション、TEE、ディスクとメモリの暗号化、物理攻撃に対する保護などの各種セキュリティ機能が含まれます。セキュリティ機能の詳細については、Jetson Linux 開発者向けガイドのセキュリティに関するセクションでご確認ください。

JetPack 5.1 セキュリティ関連の主な新機能:

JetPack の関連資料とウェビナー

ドキュメント

  • サンプルやドキュメントの一覧は JetPack 関連資料をご参照ください。
  • ハードウェアおよびソフトウェアの関連資料へのリンクについては、Jetson サポート資料のページをご覧ください。

ウェビナー

サポート

    ご質問や不明点がある場合は、NVIDIA Jetson フォーラムをご利用ください。NVIDIA の Jetson エキスパート専任チームが、フォーラムでサポートします。


旧バージョンの JetPack については、JetPack アーカイブをご覧ください。