NVIDIA TAO Toolkit

高精度でカスタマイズされた運用レベルの AI モデルを作成して、音声およびコンピューター ビジョン AI アプリケーションを強化します。

TAO をダウンロード     今すぐ始める

NVIDIA TAO Toolkit とは

AI/機械学習モデルを一から作成するには、膨大な量のデータと何人ものデータ サイエンティストが必要です。しかし、転移学習を利用すれば、モデル開発プロセスをスピード アップできます。これは、既存のニューラル ネットワーク モデルから学習済みの特徴量を抽出して、新しいカスタム モデルに転移するという一般的な手法です。

TensorFlow と PyTorch をベースにした NVIDIA TAO Toolkit は、NVIDIA TAO フレームワークをローコードで利用できるようにしたもので、AI/ディープラーニング フレームワークの複雑さを抽象化して、モデルのトレーニング プロセスを促進します。TAO Toolkit を利用すれば、AI の専門知識や大規模なトレーニング データセットがなくても、転移学習によって、NVIDIA の学習済みモデルを独自データで微調整して、推論向けに最適化できます。

What is TAO Toolkit and how does it fit into AI model development workflow?

主なメリット

TAO toolkit lets you train models with Jupyter notebooks easily.

モデルを簡単にトレーニング

TAO Toolkit は、Jupyter Notebook でモデルをトレーニングするローコード ソリューションのため、AI フレームワークの専門知識は不要です。

TAO toolkit helps you build highly accurate AI models for your use-case.

高精度の AI を構築

NVIDIA の学習済みモデルとモデル アーキテクチャを使用して、ユース ケースに合った高精度のカスタム AI モデルを作成できます。

TAO toolkit allows you to optimize the model for inference.

推論向けに最適化

カスタマイズするだけでなく、推論向けにモデルを最適化することで、性能を最大 4 倍に向上できます。

TAO toolkit helps you deploy optimized models with ease.

簡単に展開

ビジョン AI 向けの NVIDIA DeepStream、音声 AI 向けの RivaTriton Inference Server™ を使用して最適化モデルを展開できます。

学習済み AI モデルとは

学習済み AI/ディープラーニング モデルは、あらかじめ代表的なデータセットでトレーニングされ、重み付けとバイアスによって微調整されています。一からトレーニングする場合と比べて、わずかな量の実データや合成データによって短時間で簡単にモデルをカスタマイズできます。

ビジョン AI 向け学習済みモデル

NVIDIA の 100 種類以上の最適化モデル アーキテクチャを使用して、画像処理、分類、物体検出、セマンティック セグメンテーションといったコンピューター ビジョン タスク向けのカスタム ディープラーニング モデルを作成できます。

また、タスクベース モデルを使用して、人間の動作や姿勢の認識、混雑した空間における人の検出、車両およびナンバー プレートの検出や分類なども実行できます。

NGC から Jupyter Notebook をダウンロード 性能表を確認

対話型 AI 向け学習済みモデル

自動音声認識 (ASR)、自然言語処理 (NLP)、テキスト読み上げ (TTS) を基盤とするモデルを微調整して、個別のリアルタイム コール センター体験、スマート キオスク、その他の対話型 AI サービスを設計できます。

NGC から Jupyter Notebook をダウンロード

主な機能

Rest API を使用して TAO Toolkit をアプリケーションに統合

Kubernetes 上の最新クラウドネイティブ インフラストラクチャに TAO Toolkit を展開し、REST API を使用してアプリケーションに統合できます。新しい AI サービスを構築するか、既存のサービスに TAO Toolkit を統合して、異種ツール間の自動化を有効にします。

詳細を見る

ONNX モデルの重みをインポート

独自の分類モデルやセグメンテーション モデルの重みを ONNX モデルから TAO Toolkit にインポートして、微調整および最適化します。

デモを見る

データを拡張

空間変換や色変換などのデータ拡張機能により、既存の画像データセットを多様化することで、モデルの性能を向上します。

詳細を見る

TensorBoard で視覚化

トレーニング損失、検証損失、精度、モデルの重み、予測画像などのスカラーを視覚化し、モデルがどのように収束するかを理解します。

詳細を見る

推論向けに最適化

プルーニングと INT8 量子化により、同じ精度を維持しながら、推論スピードが最大 4 倍に向上します。

ブログ記事を読む

DeepStream や Riva をパワーアップ

TAO Toolkit で生成された最適化モデルは、ビジョン AI 向けの NVIDIA DeepStream SDK や音声 AI 向けの Riva と簡単に統合できるため、モデルの性能向上やアプリケーション開発の促進に役立ちます。

DeepStream と統合 Riva と統合

あらゆる場所で AI を作成できる NVIDIA AI Enterprise

TAO Toolkit は、AI およびデータ分析ソフトウェアのエンドツーエンドのクラウドネイティブ スイートとして、NVIDIA AI Enterprise の不可欠なコンポーネントです。NVIDIA によって最適化、認定、サポートされているため、企業はあらゆる場所で展開できる AI を作成でき、AI プロジェクトを進めるためのエンタープライズ向けサポートも受けられます。

詳細を見る

推論性能

NVIDIA の学習済みモデルを使用して、エッジ (NVIDIA Jetsons) からクラウド (NVIDIA Ampere アーキテクチャ GPU) までのプラットフォームでピーク推論性能を実現します。バッチ サイズやその他のモデルについては、パフォーマンス データシートの詳細を参照してください。

Xavier NX
AGX Xavier
AGX Orin
T4
A2
A30
A100
モデル アーキテクチャ
推論の解像度
演算精度
モデルの精度
GPU + 2*DLA(FPS)
GPU + 2*DLA(FPS)
GPU + 2*DLA(FPS)
GPU(FPS)
GPU (FPS)
GPU (FPS)
GPU (FPS)
PeopleNet
960x544x3
INT8
80%mAP
263
418
1294
1064 
581
3160
6245
3 次元姿勢推定
256x192x3
FP16
8 ピクセル エラー
147
235
711
713 
471
2242
4179
姿勢/動作分類
3x300x34x1
FP16
90%
87
150
262
376
211
1122
2145
DashCamNet
960x544x3
INT8
84% mAP
423
670
1895
1676
865
4900
9500
ナンバー プレート認識
96x48x3
FP16
98% mAP
706
1190
4118
3959 
2180
12400
27200
2 次元動作認識
224x224x96
FP16
83%
245
471
1577
1897
1044
6000
12600
人体セマンティック セグメンテーション
960x544x3
FP16
87% mIoU
199
356
673
1027
631
2862
5745

導入事例

OneCup AI Customer Story

OneCup AI

OneCup AI のコンピューター ビジョン システムは、NVIDIA の学習済みモデルと TAO Toolkit を使用して動物の行動を追跡、分類することで、開発時間を数か月から数週間に大幅に短縮しました。

詳細を見る
RocketBoots Customer Story

RocketBoots

RocketBoots は、NVIDIA TAO Toolkit と学習済みモデルを使用して、社内の自動人材管理ソリューションの推論性能を向上させました。

詳細を見る
Floatbot Customer Story

Floatbot

Floatbot は、カスタマイズ済みのシンガポール英語の音声 AI アプリケーションに NVIDIA Riva と NVIDIA TAO を使用して、世界規模の保険および金融機関のクライアントのコール センター業務を自動化しています。

詳細を見る

主な導入企業

booz allen
Kion group
Inex tech
Lexmark ventures
One cup AI
Rocketboots
SmartCow
appen
cvedia
hasty
lexset
lightly
Rendered AI
Sky Engine
Innotescus
Yuva AI

よく寄せられる質問

NVIDIA TAO は、大規模なトレーニング データセットや AI に関する専門知識がなくても、独自のカスタム データによってコンピューター ビジョンおよび対話型 AI モデルを短時間でトレーニング、適応、最適化するフレームワークです。

TAO には 2 種類のバージョンがあります。
  1. TAO の機能をローコードで利用できる TAO Toolkit
  2. ノーコードの GUI ベース ソリューション (現在開発中) 早期アクセスをご希望の場合は、こちらからお申し込みください。
転移学習とは、あるアプリケーションから別のアプリケーションに学習済みの特徴量を転移させるプロセスのことで、1 つのタスクでトレーニングしたモデルを別のタスクで使用できるように再トレーニングする場合に、よく使用される手法です。転移学習はビジョン、音声、言語理解の各モデルに適用できます。
はい、TAO Toolkit モデルの商用利用は無料です。ライセンス条項の詳細は、モデルのエンドユーザー ライセンス契約 を参照してください。
TAO Toolkit は、100 種類以上の NVIDIA 最適化モデル アーキテクチャとバックボーン (EfficientNet、YOLOv3/v4、RetinaNet、FasterRCNN、UNET など) の組み合わせをサポートしています。

対象となるモデル アーキテクチャの一覧は、こちらをご覧ください。
TAO Toolkit は、ユーザーとはまったく関係ない TensorFlow と PyTorch フレームワークを使用します。ユーザーは文書化されている仕様ファイルに従って TAO Toolkit を操作するため、DL フレームワークについて学ぶ必要はありません。
  • ビジョン モデルは、DeepStream を使用して展開できます。
  • 音声モデルは、Riva を使用して展開できます。
  • モデルの展開には、Triton Inference Server を使用することもできます。

展開方法の詳細については、ドキュメントの対応セクションを参照してください。

TAO Toolkit では、人を検出するモデルを使用し、そのモデルに新しい「ヘルメット クラス」を追加することができます。その後、人とヘルメットの両方のクラスを含むデータセットで微調整を行います。詳細については、ホワイトペーパーをご覧ください。
はい。TAO Toolkit はクラウドに展開することができます。AWS、Azure、GCP で TAO Toolkit を実行する方法の詳細については、TAO Toolkit のドキュメントを参照してください。
トレーニングは、x86 システム上で TAO Toolkit を使用する必要がありますが、最適化されたモデルは Jetson ソリューションに展開できます。
NVIDIA Metropolis は、視覚データと AI を組み合わせ、幅広い業界で業務効率と安全性の向上を目指す、アプリケーション フレームワーク、開発者ツール、パートナー エコシステムなどの総称です。詳細については、こちらをご覧ください。

リソース

新しい開発者向けブログ

NVIDIA Isaac Sim と NVIDIA TAO を使用した AI 搭載ロボットの開発と展開

ブログ記事を読む

ホワイトペーパー

転移学習の活用で無限に広がる、AI ワークフローの適応と開発の高速化の方法

ホワイトペーパーを読む

GTC ウェビナー

TAO Toolkit を使用して、開発者がデータに関する課題を克服し、最小限のコーディングでモデルを微調整する方法などをご紹介します。

オンデマンド ウェビナーを視聴する

TAO Toolkit ですばやくシンプルな AI トレーニングを実現

今すぐ始める