Yongming Ding

Yongming Ding은 NVIDIA의 시니어 소프트웨어 엔지니어입니다. 데이터센터 규모의 AI 워크로드를 위한 LLM 추론 시스템과 데이터 플랫폼 구축에 주력합니다.

Posts by Yongming Ding

Agentic AI / Generative AI

DynoSim: 파레토 프런티어를 시뮬레이션하다

오늘날의 LLM 서빙은 튜닝하기가 까다롭습니다. 배포마다 모델 백엔드, 텐서 병렬(TP) 형태, 프리필/디코드 분할, 워커 수, 스케줄러 설정… 8 MIN READ