Vijay Singh

Vijay Singh은 NVIDIA 플랫폼에서 가속화된 컴퓨팅 워크로드 최적화에 주력하는 선임 성능 엔지니어입니다. 그는 네트워킹을 전문으로 하는 시스템 소프트웨어 경력을 보유하고 있습니다. 또한 UC 버클리에서 데이터 과학 석사 학위를 받았습니다.

Posts by Vijay Singh

Data Center / Cloud

추론 속도를 2배 높인 NVIDIA GH200 슈퍼칩, Llama 모델과의 멀티턴 상호작용에서 추론 가속화

프로덕션 환경에 거대 언어 모델(LLM)을 배포하려면 사용자 상호 작용을 향상시키는 것과 시스템 처리량을 늘리는 것 사이에서 어려운 절충점을 찾아야… 4 MIN READ