Joseph Loftin

Joseph Loftin은 NVIDIA TensorRT 팀의 딥러닝 소프트웨어 추론 엔지니어입니다. 그래프 병렬화 구현, 컴파일러 개선, 분산 집단 연산 개발, 특화 커널을 통해 멀티 디바이스 추론을 지원하고 최적화하는 업무를 담당하고 있습니다. Georgia Institute of Technology에서 컴퓨터과학 석사 학위를, University of Louisiana at Lafayette에서 전기공학 학사 학위를 받았습니다.

Posts by Joseph Loftin

Agentic AI / Generative AI

NVIDIA Dynamo-Triton의 NVIDIA TensorRT Multi-Device 연동을 통한 다중 GPU 모델 서빙 단순화

생성형 AI의 연산 및 메모리 요구량은 단일 GPU가 제공할 수 있는 수준을 지속적으로 뛰어넘고 있습니다. 5 MIN READ