Erin Ho

Erin Ho 是 NVIDIA 的 TensorRT 量化和 Megatron-Core 产品经理,她在训练和推理方面拥有丰富的经验。她目前的重点是塑造 NVIDIA 的 AI 软件方向,以更好地服务社区。她拥有国立清华大学的计算机科学硕士学位,并拥有卡内基梅隆大学的商业学位。

Posts by Erin Ho

对话式人工智能

NVIDIA TensorRT 模型优化器 v0.15 提高推理性能扩展模型支持能力

NVIDIA 宣布推出新版 v0.15 NVIDIA TensorRT 模型优化器,这是一种先进的模型优化技术量化工具包,包含量化、 2 MIN READ
对话式人工智能

利用新的 NVIDIA Megatron-Core 功能高效训练生成式 AI 模型

NVIDIA Megatron-LM 于 2019 年首次推出,在 AI 社区引发了一波创新浪潮, 3 MIN READ
生成式人工智能/大语言模型

NVIDIA TensorRT 模型优化器加速生成人工智能推理性能,现已公开

在快速发展的环境中,生成人工智能的发展对加速推理速度的需求仍然是一个紧迫的问题。随着模型规模和复杂性的指数级增长, 3 MIN READ
生成式人工智能/大语言模型

NVIDIA TensorRT 通过 8 位预训练量化将 Stable Diffusion 的速度提升近 2 倍

在生成式 AI 的动态领域,扩散模型脱颖而出,成为使用文本提示生成高质量图像的功能强大的架构 . 3 MIN READ