Wei Du

Wei Du は、NVIDIA の NeMo チームに所属する研究エンジニアで、大規模言語モデル (LLM) と自然言語処理 (NLP) の応用研究を専門としています。学習、ファインチューニング、および LLM のデプロイの分野で豊富な経験を持っています。最近では、LoRA 学習と NIM LLM のデプロイに貢献しました。

Posts by Wei Du

Generative AI

NVIDIA NIM で LoRA アダプター群をシームレスにデプロイ

LoRA の概要と、LoRA でファインチューニングされたモデルをデプロイする 2 つの方法、また LoRA アダプター群のヘテロジニアスな LoRA デプロイを可能にして、混合バッチ推論リクエストを可能にするためのアプローチについても説明します。 3 MIN READ