AI Inference
2024 年 3 月 18 日
NVIDIA GB200 NVL72 は兆単位パラメーターの LLM トレーニングとリアルタイム推論を実現
新しい NVIDIA GB200 NVL72 は、計算負荷が高く、リソースを大量に消費する大規模なモデルのトレーニングとデプロイに対応するシステムの 1 つです。
4 MIN READ
2024 年 1 月 17 日
cuDLA による NVIDIA Jetson Orin 上での YOLOv5 の紹介
この投稿は、Orin プラットフォームを使用する組込み開発者が、YOLOv5 をリファレンスとして、
5 MIN READ
2023 年 11 月 17 日
LLM テクニックの習得: 推論の最適化
LLM 推論における最も差し迫った課題と、いくつかの実用的な解決策について説明します。
6 MIN READ