Benchmark

2024년 11월 22일

MLPerf Training v4.1에서 LLM 트레이닝 성능을 두 배로 향상시킨 NVIDIA Blackwell

모델이 커지고 더 많은 데이터로 학습되면서 기능이 늘어나고 활용도도 높아지고 있습니다. 이런 모델을 빠르게 훈련하려면 데이터센터 수준의 높은 성능이…
5 MIN READ
2024년 11월 13일

NVIDIA NeMo를 사용한 최첨단 멀티모달 생성형 AI 모델 개발

생성형 AI는 텍스트 기반 모델에서 멀티모달 기능으로 빠르게 확장되며, 이미지 캡션 생성과 시각적 질문 응답 같은 작업을 수행해 보다 인간과 유사한…
4 MIN READ
2024년 10월 30일

추론 속도를 2배 높인 NVIDIA GH200 슈퍼칩, Llama 모델과의 멀티턴 상호작용에서 추론 가속화

프로덕션 환경에 거대 언어 모델(LLM)을 배포하려면 사용자 상호 작용을 향상시키는 것과 시스템 처리량을 늘리는 것 사이에서 어려운 절충점을 찾아야…
4 MIN READ
2024년 10월 25일

사람들의 선호도에 부합하는 새로운 리워드 모델을 활용한 LLM 구축

사람의 피드백을 통한 강화 학습(RLHF)은 사람의 가치와 선호도에 부합하는 AI 시스템을 개발하는 데 필수적입니다. RLHF를 통해 ChatGPT…
3 MIN READ
2024년 10월 4일

코드 변경 없이 pandas를 150배 가까이 가속화하는 RAPIDS cuDF

이제 950만 명의 pandas 사용자에게 코드를 변경 없이도 RAPIDS cuDF로 GPU 가속을 제공할 수 있게 되었다는 소식이 NVIDIA…
3 MIN READ
2024년 7월 24일

하이브리드 상태 공간 모델 지원을 통해 LLM 혁신을 가속화하는 NVIDIA NeMo

오늘날의 거대 언어 모델(LLM)은 2017년에 도입된 트랜스포머 모델 아키텍처를 기반으로 합니다. 2017년 이후로 AI 컴퓨팅 성능이 빠르게…
4 MIN READ
2024년 5월 9일

하이엔드 그래픽 워크로드를 위한 NVIDIA RTX 가상 워크스테이션이 탑재된 GPU 기반 Windows 365 클라우드 PC

그래픽 집약적인 시나리오에 대한 수요가 증가함에 따라 전문 워크플로우는 더욱 복잡해졌습니다. 일반 사무용 애플리케이션부터 까다로운 제조, 건축…
5 MIN READ
2023년 9월 12일

추론 성능 가속화하는 새로운 소프트웨어 TensorRT-LLM 출시

대규모 언어 모델(LLM)의 획기적인 새로운 기능은 AI의 영역을 넓히고 있습니다. 그러나 큰 크기와 특수한 실행 특성으로 비용 효율적인 방식으로…
5 MIN READ
2023년 6월 30일

NVIDIA H100 GPU로 MLPerf 트레이닝 기록 경신

빠르게 확장되고 있는 AI 기반 애플리케이션의 중심에는 강력한 AI 모델이 있습니다. 이러한 모델을 배포하려면 먼저 엄청난 양의 AI 컴퓨팅 성능이…
8 MIN READ