Jason Tichy

Jason Tichy 是 NVIDIA Grace 产品线的首席解决方案架构师,以在 ARM 架构和低功耗计算解决方案方面的专业知识而闻名。他的工作主要侧重于优化 ARM CPU 上的软件,以增强 AI 应用和节能计算的性能。Jason 的贡献对于开发基于 ARM 的技术至关重要,首先是利用 NVIDIA Jetson 在自动驾驶汽车和物联网设备方面取得突破,现在将高性能节能计算带回数据中心。他的工作不仅体现了技术的卓越性,也体现了对创新的承诺,以实现可持续的未来。

Posts by Jason Tichy

AI 平台/部署

通过 CPU-GPU 显存共享加速大规模 LLM 推理和 KV 缓存卸载

大语言模型(LLM)处于人工智能创新的前沿,但其庞大的规模往往会影响推理效率。例如,Llama 3 70B 和 Llama 4 Scout… 2 MIN READ