Pallab Bhattacharya

Pallab Bhattacharya는 NVIDIA의 저명한 엔지니어입니다. NVIDIA에 합류하기 전에는 Meta에서 AI 트레이닝 클러스터의 설계 및 배포를 지원하여 애플리케이션을 CPU 기반 트레이닝에서 GPU 기반 트레이닝으로 전환했습니다. 인피니밴드 및 RDMA를 사용한 고성능 통신, 대규모 분산 및 멀티스레드 애플리케이션의 구축, 디버깅 및 성능 분석 분야에서 폭넓은 경험을 보유하고 있습니다.

Posts by Pallab Bhattacharya

Data Center / Cloud

추론 속도를 2배 높인 NVIDIA GH200 슈퍼칩, Llama 모델과의 멀티턴 상호작용에서 추론 가속화

프로덕션 환경에 거대 언어 모델(LLM)을 배포하려면 사용자 상호 작용을 향상시키는 것과 시스템 처리량을 늘리는 것 사이에서 어려운 절충점을 찾아야… 4 MIN READ