Development & Optimization

2025年 7月 7日

提出一个维基百科规模的问题：如何利用数百万 token 的实时推理使世界更加智能

现代 AI 应用越来越依赖于将庞大的参数数量与数百万个令牌的上下文窗口相结合的模型。无论是经过数月对话的 AI 智能体、
3 MIN READ
2025年 7月 3日

新视频：使用 NVIDIA Data Flywheel Blueprint 构建可自我提升的 AI 代理

由大语言模型驱动的 AI 智能体正在改变企业工作流，但高昂的推理成本和延迟可能会限制其可扩展性和用户体验。为解决这一问题，
1 MIN READ
2025年 7月 2日

先进的 NVIDIA CUDA 内核优化技术：手写 PTX

随着加速计算不断提升 AI 和科学计算各个领域的应用程序性能，人们对 GPU 优化技术的兴趣也越来越浓厚，以确保应用程序获得尽可能好的性能。
3 MIN READ
2025年 6月 25日

如何使用 NVIDIA NeMo 技能简化复杂的 LLM 工作流程

改进 LLM 的典型方法涉及多个阶段：合成数据生成 (SDG) 、通过监督式微调 (SFT) 或强化学习 (RL) 进行模型训练以及模型评估。
4 MIN READ
2025年 6月 18日

编译器资源管理器：CUDA 开发者必备的内核实验室

您是否曾想过，当您编写 GPU 核函数时，CUDA 编译器究竟会生成什么？是否曾想与同事轻松分享精简的 CUDA 示例，
2 MIN READ
2025年 6月 18日

NVIDIA 集合通信库 2.26 实现性能和监控功能的提升

NVIDIA 集合通信库 (NCCL) 可实现针对 NVIDIA GPU 和网络优化的多 GPU 和多节点通信基元。
3 MIN READ
2025年 6月 13日

使用 FlashInfer 运行 NVIDIA 的高性能 LLM 推理内核

出色的 LLM 推理需要两个关键要素：速度和开发者速度。速度是指通过使用高度优化的计算内核算法，最大限度地提高底层硬件的效率。
2 MIN READ
2025年 6月 12日

借助 MMseqs2-GPU 和 NVIDIA NIM 加速蛋白质科学序列对齐

蛋白质序列对齐 (比较蛋白质序列的相似性) 是现代生物学和医学的基础。它通过重建进化关系 (技术上称为 homology…
3 MIN READ
2025年 6月 11日

隆重推出 NVIDIA DGX 云 Lepton：面向开发者的统一 AI 平台

AI 原生应用的时代已经到来。开发者正在构建先进的代理式 AI 和物理 AI 系统，但跨地区和 GPU 提供商进行扩展仍然是一项挑战。
2 MIN READ
2025年 6月 11日

使用开源 NVIDIA cuOpt 加速决策优化

企业每天都会做出成千上万的决策，包括生产什么、在哪里发货、如何分配资源。大规模优化这些决策成为一项计算挑战。线性规划 (LP) 、
2 MIN READ
2025年 6月 6日

NVIDIA GB200 NVL72 和 NVIDIA Dynamo 如何提升 MoE 模型的推理性能

最新一批开源大语言模型 (LLMs) 采用了 Mixture of Experts (MoE) 架构，如 DeepSeek R1、
4 MIN READ
2025年 6月 4日

借助 NVIDIA 多进程服务更大限度地提高 OpenMM 分子动力学吞吐量

分子动力学 (MD) 模拟模拟原子在一段时间内的相互作用，并且需要强大的计算能力。然而，许多模拟的系统规模很小 (约 400K 个原子) ，
3 MIN READ
2025年 6月 3日

NVIDIA Base Command Manager 为 AI 集群管理提供免费的启动程序

随着 AI 和高性能计算 (HPC) 工作负载变得越来越常见和复杂，系统管理员和集群管理员是确保一切平稳运行的核心。他们的工作 (构建、
1 MIN READ
2025年 5月 27日

在 NVIDIA Grace Hopper 上分析大型语言模型训练工作流

AI 的快速发展催生了模型大小呈指数级增长的时代，特别是在大语言模型 (LLMs) 领域。这些模型凭借其变革能力，正在推动各行各业的创新。
3 MIN READ
2025年 5月 27日

在 NVIDIA Grace Hopper 上训练大型语言模型的高级优化策略

虽然分析有助于识别效率低下的情况，但高级优化策略对于解决硬件限制和有效扩展 AI 工作负载至关重要。在本文中，我们将探讨 CPU 卸载、
3 MIN READ
2025年 5月 22日

聚焦：Infleqtion 利用 Q-CHOP 和 NVIDIA CUDA-Q Dynamics 进行投资组合优化

计算是现代金融服务行业必不可少的工具。根据指导财务决策的算法的速度和准确性，利润是成败的。
2 MIN READ