Posts by Ankit Patel
Generative AI
2024년 5월 3일
NVIDIA TensorRT-LLM 및 NVIDIA Triton Inference Server로 Meta Llama 3 성능 강화
LLM 추론 성능을 가속화 및 최적화하는 NVIDIA TensorRT-LLM의 Meta Llama 3 모델 제품군에 대한 지원을 발표합니다.
5 MIN READ
Generative AI
2023년 9월 12일
추론 성능 가속화하는 새로운 소프트웨어 TensorRT-LLM 출시
대규모 언어 모델(LLM)의 획기적인 새로운 기능은 AI의 영역을 넓히고 있습니다. 그러나 큰 크기와 특수한 실행 특성으로 비용 효율적인 방식으로…
5 MIN READ
주요 소식
2023년 3월 29일
NVIDIA GTC 2023에서 선보인 NVIDIA AI 소프트웨어 업데이트 소식
NVIDIA GTC 2023에서 공개된 NVIDIA AI 소프트웨어 제품군의 주목할 만한 업데이트가 개발자들의 컴퓨팅 가속화를 책임집니다.
6 MIN READ