刘霖

阿里云容器服务高级开发工程师,负责容器服务和云原生AI解决方案研发。在加入阿里云之前,他参与了百度智能云容器服务平台的搭建。他对MLOps、Kubernetes等相关的主题感兴趣。

Posts by 刘霖

Uncategorized

使用 NVIDIA NIM 在阿里云容器服务(ACK)中加速 LLM 推理

大语言模型(LLM)是近年来发展迅猛并且激动人心的热点话题,引入了许多新场景,满足了各行各业的需求。随着开源模型能力的不断增强, 4 MIN READ