Blackwell

2025年 8月 1日

通过训练后量化优化 LLM 的性能和准确性

量化是开发者的核心工具，旨在以最小的开销来提高推理性能。通过以可控的方式降低模型精度，无需重新训练，该技术可显著降低延迟、
4 MIN READ
2025年 7月 30日

大语言模型上车，软硬结合是关键

随着汽车行业的飞速发展，当乘用车从交通工具向智能移动终端不断进化，舱驾智能化水平已成为衡量整车厂竞争力的核心标尺，
3 MIN READ
2025年 7月 28日

新的 GB300 NVL72 功能如何为 AI 提供稳定的动力

电网的设计目的是支持相对稳定的负载，例如照明、家用电器和以恒定功率运行的工业机器。但如今的数据中心，尤其是运行 AI 工作负载的数据中心，
2 MIN READ
2025年 7月 24日

使用 Torch-TensorRT 将扩散模型的 PyTorch 推理速度翻倍

NVIDIA TensorRT 是一个 AI 推理库，用于优化机器学习模型，以便在 NVIDIA GPU 上部署。
2 MIN READ
2025年 7月 11日

突破延迟极限：在 NVIDIA Blackwell GPU 上优化 DeepSeek-R1 的性能

近年来，大语言逻辑推理模型取得了显著进步，但也带来了新的部署挑战。其中，因复杂的“思考与逻辑推理”过程而引起的输出序列长度 (OSL)…
3 MIN READ
2025年 7月 7日

提出一个维基百科规模的问题：如何利用数百万 token 的实时推理使世界更加智能

现代 AI 应用越来越依赖于将庞大的参数数量与数百万个令牌的上下文窗口相结合的模型。无论是经过数月对话的 AI 智能体、
3 MIN READ
2025年 7月 2日

通过低精度量化优化用于图像编辑的 FLUX.1 Kontext

FLUX.1 Kontext 是 Black Forest Labs 最近发布的模型，是对社区图像生成模型的一项令人着迷的补充。
3 MIN READ
2025年 6月 24日

隆重推出 NVFP4，实现高效准确的低精度推理

为了充分利用 AI，优化至关重要。当开发者考虑优化用于推理的 AI 模型时，通常会想到量化、蒸馏和剪枝等模型压缩技术。毫无疑问，
4 MIN READ
2025年 6月 18日

抢先体验 NVIDIA GB200 系统如何帮助 LMarena 构建评估 LLM 的模型

在 NVIDIA 和 Nebius 的帮助下，加州大学伯克利分校的 LMArena 可以更轻松地了解哪些大语言模型在特定任务中表现出色。
2 MIN READ
2025年 6月 12日

借助 RAPIDS 单细胞技术推动十亿细胞分析和生物学突破

细胞生物学和虚拟细胞模型的未来取决于大规模测量和分析数据。在过去 10 年里，单细胞实验一直以惊人的速度增长，从数百个细胞开始，
2 MIN READ
2025年 6月 4日

NVIDIA Blackwell 在 MLPerf Training v5.0 中实现高达 2.6 倍的性能提升

创建先进的大语言模型 (LLM) 的过程始于预训练过程。预训练最先进的模型具有很高的计算要求，因为热门的开放权重模型具有数百亿到数千亿个参数，
3 MIN READ
2025年 6月 4日

重现 NVIDIA MLPerf v5.0 的 LLM 基准测试训练成绩

运行 NVIDIA 基准测试时，您的系统需要具备以下内容： 运行 NVIDIA MLPerf 训练基准测试需要：
4 MIN READ
2025年 6月 3日

NVIDIA Base Command Manager 为 AI 集群管理提供免费的启动程序

随着 AI 和高性能计算 (HPC) 工作负载变得越来越常见和复杂，系统管理员和集群管理员是确保一切平稳运行的核心。他们的工作 (构建、
1 MIN READ
2025年 5月 30日

全球五大洲电信运营商正建立 NVIDIA 赋能的主权人工智能基础设施

AI 正在成为各行各业创新的基石，将创造力和生产力提升到新的水平，并从根本上重塑我们的生活和工作方式。AI 工厂是一种新型基础设施，
3 MIN READ
2025年 5月 22日

Blackwell 借助 Meta 的 Llama 4 Maverick 突破 1000 TPS/ 用户门槛

NVIDIA 的大语言模型 (LLM) 推理速度创下了世界纪录。在包含 400 亿参数的 Llama 4 Maverick 模型 (…
3 MIN READ
2025年 5月 20日

NVIDIA 800V HVDC 架构赋能新一代 AI 工厂发展

AI 工作负载的指数级增长正在增加数据中心的功率需求。传统的 54 V 机架内配电专为千瓦（KW）-scale 机架设计，
2 MIN READ