Asha Anoosheh

Asha Anoosheh 是 NVIDIA 的深度学习算法工程师,致力于开发 TensorRT Model Optimizer 库。他拥有理科硕士学位。专注于计算机视觉。

Posts by Asha Anoosheh

数据中心/云端

使用 NVIDIA NeMo 框架进行 LLM 模型剪枝和知识蒸馏

模型剪枝和知识蒸馏是功能强大且经济高效的策略,用于从最初较大的同级获得较小的语言模型。 在一篇“ 如何剪枝和蒸馏 Llama-3.1 8B ”… 4 MIN READ