BoYang Hsueh

BoYang Hsueh 于 2019 年加入 NVIDIA ,担任开发者技术工程师。他专注于大型语言模型推理优化,并担任 NVIDIA TensorRT-LLM 的核心开发者。

Posts by BoYang Hsueh

生成式人工智能/大语言模型

借助 NVIDIA NIM 无缝部署大量 LoRA Adapters

最新的先进基础大型语言模型 (LLM) 拥有数十亿个参数,并已在数万亿个输入文本标记上进行了预训练。它们通常在各种用例上都取得了惊人的成果, 2 MIN READ