Jetson ソフトウェア
NVIDIA® Jetson™ の各モジュールは同じ NVIDIA のソフトウェア スタックでサポートされているため、一度開発すればあらゆる場所に展開できます。Jetson Software は、AI アプリケーションにエンドツーエンドの高速化を提供し、市場投入までの時間を短縮するように設計されています。データセンターとクラウドの展開を強化するのと同じ強力な NVIDIA テクノロジーをエッジにもたらします。
Jetson ソフトウェアスタックは、完全な開発環境を提供し、開発を開始するための CUDA-X アクセラレーションライブラリやその他の NVIDIA テクノロジーを含む NVIDIA JetPack™ SDKから始まります。
JetPack は、AI アプリケーションを構築するための最も包括的なソリューションです。AI アプリケーションをエンドツーエンドで高速化するために、AI 推論を高速化するための TensorRT と cuDNN、一般的なコンピューティングを高速化するための CUDA、コンピュータービジョンと画像処理を高速化するための VPI、マルチメディアを高速化するための Jetson Multimedia API、カメラを高速化するための libArgus と V4l2 が含まれています。
JetPack には、Jetson プラットフォーム用の Linux カーネル、ブートローダー、NVIDIA ドライバー、フラッシュユーティリティ、サンプルファイルシステム、およびツールチェーンを提供する Jetson Linux ドライバーパッケージが含まれています。また、セキュリティ機能、無線更新機能なども含まれています。
JetPack には NVIDIA コンテナランタイムが含まれており、エッジでクラウド ネイティブ テクノロジーとワークフローを実現します。AI アプリケーションをコンテナ化し、クラウドネイティブテクノロジーを使用して大規模に管理することで、ソフトウェアの開発とデプロイのエクスペリエンスを変革します。
以下のリンクをたどって、Jetpack、Jetson Linux、および Jetson 上のCloud-Native の詳細をご覧ください。
NVIDIA TAO は、データの準備からトレーニング、最適化まで、ディープラーニングワークフローの時間のかかる部分を簡素化し、完成までの時間を短縮します。 NVIDIA NGC™ カタログ から本番環境で事前にトレーニングされた AI モデルで始めれば、開発を 10 倍高速化できます。これらのモデルは、コンピューター ビジョン、会話型 AI、morex などのドメイン向けに高精度にトレーニングされています。
データの収集とタグ付けは、費用と手間がかかるプロセスです。シミュレーションは、データの必要性を埋めるのに役立ちます。NVIDIA Omniverse Replicator は、シミュレーションを使用して、実際のデータよりも 1 桁速く、安価に作成できる合成データを生成します。Omniverse Replicator を使用すると、AI モデルをトレーニングするための多様で大規模で正確なデータセットをすばやく作成できます。
NVIDIA Triton™ Inference Server は、AI モデルの大規模な展開を簡素化します。Triton Inference Server はオープンソースであり、データセンター、クラウド、組込みデバイス、仮想化環境などのさまざまな展開でマルチ フレームワークモデルの推論をサポートできる単一の標準化された推論プラットフォームを提供します。高度なバッチ処理およびスケジューリング アルゴリズムを通じてさまざまなタイプの推論クエリをサポートし、ライブモデルの更新をサポートします。
NVIDIA Riva は、エンドツーエンドのディープラーニング パイプラインを使用してマルチ モーダル会話型 AI アプリケーションを構築するために高速化された SDK です。Riva SDK には、事前トレーニングされた会話型 AI モデル、NVIDIA TAO Toolkit、および音声、視覚、自然言語処理（ NLP ）タスク用に最適化されたエンドツーエンドのスキルが含まれています。
NVIDIA の DeepStream SDK は、AI ベースのマルチセンサー処理、ビデオおよび画像理解のためのストリーミング分析ツールキット一式を提供します。DeepStream は、ピクセル データやセンサー データを実用的なインサイトに変換するエンドツーエンドのサービスやソリューションを構築するためのプラットフォーム、NVIDIA Metropolis に不可欠な部分です。
NVIDIA Isaac ROS GEM は、ROS 開発者が NVIDIA ハードウェア上で高性能ソリューションを簡単に構築できるようにするハードウェア アクセラレーションパッケージです。Omniverse を搭載した NVIDIA Isaac Simは、スケーラブルなロボットシミュレーションアプリケーションです。これには、知覚モデルをトレーニングするための多様な合成データセットを生成するツールであるレプリケーターが含まれています。Isaac Sim は、AI ベースのロボットを開発、テスト、および管理するための、フォト リアリスティックで物理的に正確な仮想環境を強化するツールでもあります。