今日のめまぐるしいビジネス環境では、優れたカスタマー サービスを提供することは、もはや単に「あれば良いこと」ではなく、「必要不可欠なこと」です。技術的な問題への対応、請求に関する質問の解決、サービスの最新情報の提供など、顧客は、迅速かつ正確で、顧客の都合にカスタマイズされた対応を期待しています。しかし、このレベルのサービスを実現するには、大きな課題が伴います。
パーソナライズされたリアルタイムのサポートを提供するには、多くの場合、静的なスクリプトや手作業によるプロセスといった従来のアプローチでは不十分です。さらに、多くのカスタマー サービス業務では、機密性が高くかつ断片的なデータを取り扱うことになり、厳しいデータ管理とプライバシー規制の対象となります。生成 AI の台頭により、企業は運用効率の向上、コスト削減、ROI の最大化によってカスタマー サービスに革命を起こすことを目指しています。
AI を既存のシステムに組み込む際には、透明性、精度、セキュリティに関する課題に直面し、導入を妨げ、ワークフローを中断させることもあるかもしれません。こうしたハードルを克服するために、企業は生成 AI を活用したバーチャル アシスタントを利用して幅広いタスクを管理し、最終的に応答時間を短縮して、リソースを解放しています。
この投稿では、開発者が、AI バーチャル アシスタントに NVIDIA AI Blueprint を使用して、生成 AI で業務を拡張する方法について説明します。サンプル コードを含むこの情報を活用することで、企業は、データの整合性とデータ ガバナンスを確保しながら、優れたカスタマー サービスへの高まる要求に応えることができます。既存のシステムの改善または新しいシステムの構築にかかわらず、この Blueprint によってチームは効率的で意味のあるやりとりを通じて顧客のニーズに対応することができます。
検索拡張生成 (RAG) を使用した AI クエリ エンジンによるスマートな AI バーチャル アシスタント
AI バーチャル アシスタントを構築する場合、独自のユース ケース要件および組織の知識やニーズに合わせて調整することが重要です。従来のボットでは、多くの場合、柔軟性の乏しいフレームワークと時代遅れのメソッドを利用しており、今日のカスタマー サービスのような常に変化し続ける要求に対応できません。
あらゆる業界で、AI ベースのアシスタントが革新的な存在となり得ます。たとえば、通信会社や小売、サービス プロバイダーの大多数は、AI バーチャル アシスタントを使用して、24 時間 365 日稼働するサポートを提供しながら、多言語で幅広い顧客の問い合わせに対応し、トラブルシューティングやアカウント管理を合理化する、ダイナミックでパーソナライズされたやりとりを提供することで、顧客体験を向上させことができます。これにより、待ち時間を短縮し、さまざまな顧客ニーズに対して一貫したサービスを提供することができます。
もうひとつの例として、医療保険の支払業界では、加入者にとって満足度の高い体験を確実に提供することが重要です。バーチャル アシスタントは、医療規制の遵守を確保しながら、加入者にパーソナライズされたサポートを提供し、請求、補償に関する問い合わせ、給付金、支払いに関する問題に対処することで、こうした体験を向上しています。これにより、医療従事者の管理上の負担を軽減することもできます。
NVIDIA AI プラットフォームを使用することで、企業は、検索拡張生成 (RAG) を使用する AI クエリ エンジンを作成し、AI アプリケーションを企業データに接続することができます。AI バーチャル アシスタントの Blueprint により、開発者は、より洗練された顧客体験を提供するソリューションを迅速に構築し開始することができます。この Blueprint は、以下の NVIDIA NIM マイクロサービスを使用して構築されます。
- LLM 向け NVIDIA NIM: 最先端の大規模言語モデル (LLM) のパワーをアプリケーションに取り入れ、大幅に効率化して、卓越した自然言語処理を提供します。
- Llama 3.1 70B Instruct NIM: 優れた文脈理解、推論、テキスト生成で複雑な会話が可能です。
- NVIDIA NeMo Retriever NIM: RAG パイプラインの基礎となる構成要素である最先端モデルに簡単にアクセスできます。この RAG パイプラインによって、バーチャル アシスタントは企業データへのシームレスなアクセスが可能になり、迅速かつ正確でスケーラブルな回答で、組織の知識を活用できます。
- NeMo Retriever Embedding NIM: テキストの QA 検索タスクに特化されており、バーチャル アシスタントはこの高品質のテキスト埋め込みを利用します。
- NeMo Retriever Reranking NIM: ファインチューニングされたリランキング モデルであり、埋め込みモデルと併用することで検索性能をさらに向上させることができます。入力文に最も関連性の高い文章を見付け出し、LLM に文脈として渡します。
この Blueprint は、情報セキュリティに関する義務に反することなく、既存のカスタマー サービス アプリケーションとシームレスに統合できるように設計されています。NVIDIA NIM の移植性のおかげで、企業は、データがどこにあっても統合することができます。生成 AI をデータに取り入れることで、AI バーチャル アシスタントは、顧客固有のプロファイル、ユーザーとの対話履歴、その他の関連データなどを活用して、各顧客に合わせたよりパーソナライズされた体験を提供できるようになります。
Blueprint は、企業独自のユース ケースに合わせてカスタマイズが可能な ”土台” のようなものです。たとえば、Nemotron 4 Hindi 4B Instruct など他の NIM マイクロサービスを統合すれば、AI バーチャル アシスタントが現地の言語でコミュニケーションできるようになります。その他のマイクロサービスにより、合成データの生成やモデルのファインチューニングなどの追加機能が可能になり、特定のユース ケース要件に適合させることができます。また、デジタル ヒューマン AI Blueprint に接続すると、AI バーチャル アシスタントに人間のようなインターフェイスが提供されます。
独自のデータ (企業やユーザーのプロファイル、特定のデータ) を備えた RAG バックエンドを実装することで、AI バーチャル アシスタントは、文脈に沿った対話を行い、リアルタイムで各顧客のニーズの特定事項に対応することができます。さらに、このソリューションはすでに運用しているガバナンス フレームワーク内で安全に運用され、特に機密データを扱う際には、プライバシーとセキュリティ プロトコルの遵守を保証します。
独自の AI バーチャル アシスタントを構築する 3 つの構成要素
開発者として、最も関連性の高い最新の情報をリアルタイムで取得し、常に人間のような応答ができるよう日々進化する独自の AI バーチャル アシスタントを構築できます。図 1 は、3 つの機能コンポーネントを含む AI バーチャル アシスタントのアーキテクチャ図です。

1. データの取り込みと検索パイプライン
パイプライン管理者は、取り込み (Ingest) パイプラインを使用して、構造化データや非構造化データをデータベースに読み込むことができます。構造化データの例として、顧客プロファイル、注文履歴、発送状況などがあります。非構造化データには、製品マニュアル、製品カタログ、FAQ ドキュメントなどのサポート資料が含まれます。
2. AI エージェント
2 つ目の機能コンポーネントは AI バーチャル アシスタント です。ユーザーは、ユーザー インターフェイスを介してバーチャル アシスタントと対話します。エージェント型 LLM プログラミング フレームワークである LangGraph で実装された AI エージェントが、顧客からの複雑な問い合わせに対応する方法を計画し、その問い合わせを再帰的に解決します。LangGraph エージェントは Llama3.1 70B Instruct NIM のツール呼び出し機能を使用して、非構造化データと構造化データの両方から情報を取得し、正確な応答を生成します。
また AI エージェントにより、短期メモリと長期メモリの機能を使用してマルチターンの対話履歴を実現できます。アクティブな会話に対する問い合わせや応答が埋め込まれているため、会話の後半で追加の文脈として検索し利用できます。これにより、より人間に近いやりとりが可能になり、顧客がすでにエージェントと共有した情報を繰り返す提供する必要がなくなります。
最終的に、会話の最後に AI エージェントが感情の判定とともに議論を要約し、構造化データベースに会話履歴を保存します。ユーザーとの対話は、今後の会話で追加の文脈として検索できます。通話の要約と会話履歴を検索することで、通話時間を短縮し、顧客体験を向上させることができます。感情判定によって、エージェントの有効性に関する貴重な洞察をカスタマー サービス管理者に提供できます。
3. 運用パイプライン
顧客運用パイプラインは、ソリューション全体の 3 つ目の構成要素です。このパイプラインは、カスタマー サービス オペレーターに重要な情報と洞察を提供します。管理者は、運用パイプラインを使用して、チャット履歴、ユーザーのフィードバック、感情分析データ、通話の要約を確認することができます。Llama 3.1 70B Instruct NIM を活用した分析マイクロサービスを使用して、平均通話時間、解決までの時間、顧客満足度などの分析を生成できます。また分析結果は、ユーザー フィードバックとしても活用され、LLM モデルを再トレーニングして精度を向上します。
NVIDIA パートナーと本番環境に着手
NVIDIA のコンサルティング パートナーは、各企業が、NVIDIA アクセラレーテッド コンピューティングと、NeMo、NIM マイクロサービス、AI Blueprint を含む NVIDIA AI Enterprise ソフトウェアで構築された世界水準の AI バーチャル アシスタントを導入できるように支援しています。
Accenture
NVIDIA AI Foundry 上に構築された Accenture AI Refinery は、自律的で顧客の意図に沿った対話を設計し、企業がデジタル ヒューマンやインタラクション エージェントなどの革新的なチャネルを通じて、個人に合わせてカスタマイズできるようにします。特定のユース ケースは、通信会社のコール センター、保険契約のアドバイザー、医薬品のインタラクティブ エージェント、自動車ディーラーのネットワーク エージェントなど、各業界のニーズに合わせてカスタマイズできます。
Deloitte
Deloitte Frontline AI は、NVIDIA ACE、NVIDIA Omniverse、NVIDIA Riva、NIM などの NVIDIA のテクノロジによって加速された NVIDIA AI Blueprint を利用して構築されたデジタル アバターや LLM エージェントでカスタマー サービス体験を向上しています。
Wipro
Wipro Enterprise Generative AI (WeGA) Studio は、ヘルスケア、金融サービス、小売などのコンタクト センターのエージェントを含む業界固有のユース ケースを加速しています。
Tech Mahindra
Tech Mahindra は、デジタル ヒューマン向けの NVIDIA AI Blueprint を活用して、カスタマー サービス向けのソリューションを構築しています。RAG と NVIDIA NeMo を使用したこのソリューションは、トレーニング受講者が、会話中に手を挙げて明確な質問をすることで、エージェントを止める機能を提供します。このシステムは、多くの業界のユース ケースでデプロイできる洗練された学習管理システムで、バックエンドのマイクロサービスと接続するように設計されています。
Infosys
Infosys Topaz の一部である Infosys Cortex は、AI を活用した顧客エンゲージメント プラットフォームであり、生成 AI、スピーチ AI、デジタル ヒューマン機能を実現する NVIDIA AI Blueprint と NVIDIA NeMo、Riva、ACE 技術を統合し、カスタマー サービス組織のあらゆるメンバーに専門的で個人に合わせたプロアクティブかつオンデマンドの支援を提供することで、顧客体験の向上、運用効率の改善、コスト削減に重要な役割を果たします。
Tata Consultancy Services
NVIDIA NIM を搭載し ServiceNow の IT 仮想エージェントと統合された Tata Consultancy Services (TCS) の仮想エージェントは、IT と HR のサポートを最適化するように設計されています。このソリューションは、プロンプト チューニングと RAG を使用して、応答時間、精度を向上させ、マルチターンの会話機能を提供します。サービス デスクのコスト削減、サポート チケットの減少、ナレッジ活用の強化、より迅速なデプロイ、そして従業員と顧客の全体的な体験の向上などのメリットがあります。
Quantiphi
Quantiphi は、NVIDIA AI Blueprint を対話型 AI ソリューションに統合し、リアルなデジタル アバターでカスタマー サービスを強化しています。NVIDIA Tokkio と ACE、NVIDIA NIM マイクロサービス、NVIDIA NeMo を搭載した最先端のアバターが、既存のエンタープライズ アプリケーションとシームレスに統合し、リアリティを高めながら運用と顧客体験を向上させます。デジタル アバター ワークフローにファインチューニングされた NIM のデプロイは、費用対効果が高く、企業のトークンに対する支出を削減することが実証されています。
SoftServe
SoftServe Digital Concierge は、NVIDIA AI Blueprint と NVIDIA NIM マイクロサービスによって加速されており、NVIDIA ACE、NVIDIA Riva、NVIDIA Audio2Face NIM マイクロサービスを使用して、非常にリアルなバーチャル アシスタントを提供します。Character Creator ツールを使用することで、音声や顔の表情を驚くほど正確かつリアルに詳細を再現できます。
NVIDIA NeMo Retriever の RAG 機能により、SoftServe Digital Concierge は、文脈を参照し、特定の最新情報を提供することで、顧客からの問い合わせにインテリジェントに対応できます。複雑な問い合わせを簡素化し、明確で簡潔な回答にまとめ、必要に応じて詳細な説明を提供することもできます。
EXL
EXL の Smart Agent Assist 製品は、NVIDIA Riva、NVIDIA NeMo、NVIDIA NIM マイクロサービスを活用したコンタクト センター AI ソリューションです。EXL は、AI 仮想エージェント向けの NVIDIA AI Blueprint を使用して、ソリューションを強化する予定です。
NVIDIA AI Summit India で、NVIDIA コンサルティング パートナーが、インドを AI のフロント オフィスに変革するために、NVIDIA とのコラボレーションを発表しました。NVIDIA テクノロジを使用することで、これらのコンサルティング大手は、顧客がカスタマー サービス エージェントの Blueprint をカスタマイズし、好みの AI モデル (インドに拠点を置くモデル メーカーが提供するソブリン LLM を含む) を使用して独自のバーチャル アシスタントを構築し、希望のインフラで効率的に本番稼動できるようにします。
今すぐ始める
Blueprint を無料で試したり、システム要件を確認するには、Blueprint カードをご参照ください。これらのマイクロサービスを使用してアプリケーションの構築を始めるには、NVIDIA API カタログにアクセスしてください。サインインするには、NIM で構築するさまざまなオプションにアクセスするため、個人用またはビジネス用のメール アドレスを入力する必要があります。詳細については、NVIDIA NIM FAQ をご覧ください。
関連情報
- GTC セッション: 金融部門向けの安全で効率的なバーチャル アシスタント
- GTC セッション: 生成 AI の課題への対応と可能性の活用: NVIDIA のエンタープライズ デプロイから得られた洞察
- NGC コンテナー: retail-shopping-advisor-chatbot-service
- NGC コンテナー: retail-shopping-advisor-frontend-service
- ウェビナー: 金融サービス コンタクト センター向けの AI 音声対応バーチャル アシスタントの構築と導入方法
- ウェビナー: 通信企業が対話型 AI で顧客体験を変革する方法