Triton 推理服务器

2024年 4月 22日

借助 NVIDIA TensorRT-LLM 和 NVIDIA Triton 推理服务器提升 Meta Llama 3 性能

我们很高兴地宣布支持 Meta Llama 3 系列模型，通过 NVIDIA TensorRT LLM 加速和优化 LLM 推理性能。
2 MIN READ
2024年 4月 2日

使用 NVIDIA TensorRT-LLM 调整和部署 LoRA LLM

大型语言模型 (LLM) 可以从大量文本中学习，并为各种任务和领域生成流畅、一致的文本，从而彻底改变自然语言处理 (NLP)。然而，
7 MIN READ
2024年 3月 18日

借助 NVIDIA NeMo Retriever，将企业数据转换为可行见解

在每个行业和每个工作职能部门，生成式 AI 正在激发组织内部的潜力，它将数据转化为知识，并使员工能够更高效地工作。
2 MIN READ
2024年 3月 7日

在 NVIDIA AI 推理平台上使用 Stable Diffusion XL 生成令人惊叹的图像

扩散模型正在各行各业中改变创意工作流程。这些模型通过采用降噪扩散技术，将随机噪声逐步塑造为 AI 生成的艺术，
4 MIN READ
2024年 3月 6日

在 NVIDIA AI 推理平台上使用 Stable Diffusion XL 生成令人惊叹的图像

扩散模型正在各行各业中改变创意工作流程。这些模型通过采用降噪扩散技术，将随机噪声逐步塑造为 AI 生成的艺术，
4 MIN READ