Scot Junkin

Scot Junkin は、NVIDIA の応用研究部門のシニア マネージャーで、自動回帰型ディープラーニング モデルの生産性化に専念しています。最近では、NIM LLM をリリースしました。LLM を手掛ける前は、NVIDIA のスピーチおよび翻訳 AI である RIVA を担当するチームを率いていました。

Posts by Scot Junkin

Generative AI

NVIDIA NIM で LoRA アダプター群をシームレスにデプロイ

LoRA の概要と、LoRA でファインチューニングされたモデルをデプロイする 2 つの方法、また LoRA アダプター群のヘテロジニアスな LoRA デプロイを可能にして、混合バッチ推論リクエストを可能にするためのアプローチについても説明します。 3 MIN READ