Hao Wang

Hao Wang은 AI 및 데이터 인프라 최적화를 담당하는 선임 시스템 소프트웨어 엔지니어입니다. 그는 하드웨어 아키텍처 설계와 소프트웨어 시스템 최적화 분야에서 모두 경험을 쌓은 시스템 전문가입니다. 그는 UW-Madison에서 컴퓨터 아키텍처 박사 학위를 받았습니다.

Posts by Hao Wang

Data Center / Cloud

추론 속도를 2배 높인 NVIDIA GH200 슈퍼칩, Llama 모델과의 멀티턴 상호작용에서 추론 가속화

프로덕션 환경에 거대 언어 모델(LLM)을 배포하려면 사용자 상호 작용을 향상시키는 것과 시스템 처리량을 늘리는 것 사이에서 어려운 절충점을 찾아야… 4 MIN READ