Nikita Korobov

Nikita Kolobov 是 NVIDIA 的高级 AI 开发者技术工程师,专门负责计算机视觉、大语言模型和图形的深度学习流程的性能优化。Nikita 拥有莫斯科物理技术研究所的学士学位和慕尼黑工业大学的硕士学位。

Posts by Nikita Korobov

生成式人工智能/大语言模型

NVIDIA TensorRT-LLM 现支持 Recurrent Drafting,实现 LLM 推理优化

Recurrent Drafting (简称 ReDrafter) 是苹果公司为大语言模型 (LLM) 推理开发并开源的一种新型推测解码技术, 2 MIN READ