Llama
2024年 12月 16日
2024 年热门文章:NVIDIA NIM、语言模型突破和数据科学优化的精要
对于使用 NVIDIA 技术的开发者、研究人员和创新者来说,2024 年又是具有里程碑意义的一年。
2 MIN READ
2024年 11月 19日
Llama 3.2 全栈优化释放 NVIDIA GPU 的高性能
Meta 最近发布了 Llama 3.2 系列视觉语言模型(VLM),其中包含 11B 参数和 90B 参数变体。这些模型是多模态模型,
2 MIN READ
2024年 11月 13日
NVIDIA Blackwell 在 MLPerf 训练 v4.1 中将 LLM 训练性能提高一倍
随着模型规模的扩大以及使用更多数据进行训练,它们的能力也随之提升,实用性也随之提升。为了快速训练这些模型,需要在数据中心规模上提供更高的性能。
3 MIN READ
2024年 11月 8日
NVIDIA TensorRT-LLM KV 缓存早期重用实现首个令牌速度 5 倍提升
在上一篇 博客文章 中,我们展示了通过将键值 (KV) 缓存卸载到 CPU 内存来重复使用该缓存如何在基于 x86 的 NVIDIA…
2 MIN READ
2024年 9月 25日
借助 Llama-3.1-Nemotron-51B 实现准确性和效率的突破性发展
今天,NVIDIA 发布了一个独特的语言模型,可提供无与伦比的准确性和效率性能。Llama 3.1…
3 MIN READ
2024年 7月 23日
在 NVIDIA 平台上为 Lama 3.1 提供强效助力
Meta 的 Llama 大型语言模型集合是当今开源社区中最受欢迎的基础模型,支持多种应用场景。全球数百万开发者正在基于这些模型构建衍生模型,
2 MIN READ
2024年 7月 23日
利用 Llama 3.1 405B 生成合成数据
合成数据并不是创建新信息,而是将现有信息转换为不同的变体。十多年来,合成数据一直用于全面提高模型准确性,无论是转换图像以改进对象检测模型、
3 MIN READ