Posts by Kotaro Yamamoto
Generative AI
2024 年 11 月 8 日
NeMo Framework で日本語 LLM をファインチューニング - DPO 編 -
NeMo Framework を使用して、日本語の大規模言語モデル (LLM) で、人間の嗜好や価値観に沿うようにモデルを調整するアライメント手法の一つである、DPO (Direct Preference Optimization) を実行する方法を説明します。
4 MIN READ
Generative AI
2024 年 9 月 25 日
NeMo Curator を使った日本語データのキュレーション
NeMo Curator を使用した、効率的な日本語データセットの構築方法をご紹介します。
7 MIN READ
Generative AI
2024 年 7 月 18 日
Transformer Engine ではじめる FP8 Training (導入編)
Transformer Engine とは、Transformer モデルの学習を効率的に行うためのオープンソース ライブラリで、GPU における Transformer モデルの学習効率を大幅に向上します。
5 MIN READ