Zihao Kong

Zihao Kong 是 NVIDIA TensorRT 团队的软件工程师。他专注于在 NVIDIA 数据中心 GPU 和边缘 Jetson 平台 GPU 上提供出色的深度学习推理性能。他还在性能分析和分析以及深度学习加速器方面拥有丰富经验。他拥有加州大学圣地亚哥分校计算机工程学士学位。

Posts by Zihao Kong

数据中心/云端

NVIDIA Blackwell 平台在 MLPerf Inference v4.1 中创下新的 LLM 推理记录

大型语言模型 (LLM) 推理是一项全栈挑战。实现高吞吐量、低延迟推理需要强大的 GPU、高带宽 GPU 之间的互连、 4 MIN READ