Deep dive

NVIDIA DLI(Deep Learning Institute), 새로운 생성형 AI 티칭 키트 공개
2024년 9월 10일

NVIDIA DLI(Deep Learning Institute), 새로운 생성형 AI 티칭 키트 공개

생성형 AI와 거대 언어 모델 개발 및 배포의 복잡성을 이해하는 데 중요한 최첨단 도구, 프레임워크 그리고 실습에 대한 액세스가 제공됩니다.
3 MIN READ
2024년 8월 30일

NVLink Switch가 탑재된 NVIDIA HGX H200의 Medusa로 최대 1.9배 향상된 Llama 3.1 성능

거대 언어 모델(LLM)의 크기와 복잡성이 계속 증가함에 따라, 실시간 생성형 AI 애플리케이션이 요구하는 짧은 지연 시간과 높은 처리량을 제공하기…
3 MIN READ
2024년 8월 28일

파인 튜닝을 위한 LoRA의 강력한 대안, DoRA 살펴보기

전체 파인 튜닝(FT)은 일반적으로 특정 다운스트림 작업에 맞게 미리 학습된 일반 모델을 조정하는 데 사용됩니다. 학습 비용을 줄이기 위해 최소한의…
4 MIN READ
2024년 8월 9일

CUDA 그래프로 llama.cpp AI 추론 최적화하기

오픈 소스인 llama.cpp 코드 베이스는 원래 2023년에 출시된 가볍지만 효율적인 프레임워크로서 Meta Llama 모델에 대한 추론을…
5 MIN READ
2024년 8월 2일

NVIDIA NeMo Retriever로 RAG를 위한 프로덕션급 텍스트 검색 파이프라인 개발

기업들은 효율성을 개선하고 비용을 절감하며 궁극적으로 생산성을 높이는 데 활용되기를 기다리는 데이터의 금광에 앉아 있습니다.
4 MIN READ
2024년 8월 2일

NVIDIA 플랫폼 전반에서 Llama 3.1 강화하기

Meta의 Llama 거대 언어 모델 컬렉션은 오늘날 오픈 소스 커뮤니티에서 가장 인기 있는 파운데이션 모델로, 다양한 사용 사례를 지원합니다.
5 MIN READ
2024년 7월 19일

기하학적 구조에 대한 시뮬레이션과 실제 로봇 조립 기술 훈련

가정 및 산업 환경에서 대부분의 물체는 조립해야 하는 여러 부품으로 이루어져 있습니다. 조립은 일반적으로 인간 작업자가 하지만…
6 MIN READ
2024년 7월 18일

새로운 NVIDIA Megatron-Core 기능으로 생성형 AI 모델을 더 효율적으로 훈련하기

2019년에 처음 소개된 NVIDIA Megatron-LM은 AI 커뮤니티에 혁신의 물결을 일으켰으며, 연구원과 개발자는 이 오픈 소스 라이브러리를…
6 MIN READ
2024년 7월 12일

NVIDIA Holoscan 및 RTI Connext를 통해 실현하는 AI 지원 의료 기기의 미래

실시간 인사이트와 자율 의사 결정에 대한 수요는 산업 전반에 걸쳐 증가하고 있으며 헬스케어 및 의료 기기도 예외는 아닙니다.
5 MIN READ
2024년 6월 17일

엔터프라이즈 규모에서 CVE 분석을 위한 생성형 AI 적용

소프트웨어 개발 및 배포 프로세스는 복잡합니다. 최신 엔터프라이즈 애플리케이션은 복잡한 소프트웨어 종속성을 가지고 있으며…
7 MIN READ
2024년 6월 12일

NVIDIA cuDNN 9로 트랜스포머 가속화

NVIDIA CUDA 딥 뉴럴 네트워크 라이브러리(cuDNN)는 최첨단 성능으로 딥 러닝 기본 요소를 가속화하기 위한 GPU 가속 라이브러리입니다.
7 MIN READ
2024년 5월 29일

업그레이드된 NVIDIA TensorRT 10.0의 사용성, 성능, AI 모델 지원

NVIDIA는 오늘 고성능 딥 러닝 추론을 위한 API 에코시스템인 NVIDIA TensorRT의 최신 릴리스를 발표했습니다.
4 MIN READ
2024년 5월 17일

VILA를 사용하는 NVIDIA 하드웨어의 시각적 언어 모델

시각 언어 모델은 최근 크게 발전했습니다. 하지만 기존 기술은 대체로 하나의 이미지만 지원합니다. 기존 기술은 여러 이미지 중에서 추론을 하거나…
7 MIN READ
2024년 5월 17일

NVIDIA TensorRT Model Optimizer로 생성형 AI 추론 성능 가속화

빠르게 진화하는 생성형 AI 환경에서 가속화된 추론 속도에 대한 요구는 여전히 시급한 문제입니다. 모델 크기와 복잡성이 기하급수적으로 증가함에 따라…
6 MIN READ
2024년 5월 13일

Tensor 병렬 처리 방식의 자율 주행 차량을 위한 인식 모델 훈련

멀티 카메라 입력 및 심층 합성곱 백본망(deep convolutional backbone network)의 채택으로 인해 자율주행 인식 모델을…
6 MIN READ
2024년 4월 26일

NVIDIA AI Enterprise IGX를 통해 엣지에서 중요 업무용 AI 지원

NVIDIA SDK는 스마트 시티, 의료, 로보틱스를 아우르는 다양한 사용 사례에서 AI 애플리케이션을 가속하는 데 중요한 역할을 해왔습니다.
3 MIN READ
2024년 4월 12일

생성형 AI가 NVIDIA Earth-2를 통해 기후 과학 기술을 강화하는 방법

지구 온난화로 인해 점점 더 심각해지는 기상이변에 대응하기 위해 NVIDIA Earth-2는 실용적인 인사이트를 창출하는 기후 기술의 중추적인…
8 MIN READ