Restaurant / Quick-Service

2024년 7월 3일

NVIDIA NIM을 통해 원활하게 여러 LoRA 어댑터 배포

최신 최첨단 파운데이션 거대 언어 모델(LLM)에는 수십억 개의 매개 변수가 있으며 수조 개의 입력 텍스트 토큰에 대해 사전 트레이닝됩니다.
7 MIN READ
2024년 5월 17일

NVIDIA TensorRT Model Optimizer로 생성형 AI 추론 성능 가속화

빠르게 진화하는 생성형 AI 환경에서 가속화된 추론 속도에 대한 요구는 여전히 시급한 문제입니다. 모델 크기와 복잡성이 기하급수적으로 증가함에 따라…
6 MIN READ
2024년 5월 11일

NVIDIA H100 Tensor 코어 GPU에서의 컨피덴셜 컴퓨팅 일반 액세스 발표

NVIDIA는 2023년 7월 NVIDIA LaunchPad를 통해 컨피덴셜 컴퓨팅(CC) 초기 버전 솔루션을 비공개 프리뷰 형태의 얼리 액세스…
2 MIN READ
2024년 4월 18일

NVIDIA TensorRT-LLM으로 LoRA LLM 조정 및 배포

거대 언어 모델(LLM)은 방대한 양의 텍스트로 학습하여 다양한 작업 및 분야에 대해 유창하고 일관된 텍스트를 생성하는 기능으로 자연어…
10 MIN READ
2024년 3월 15일

LLM 아키텍처에 Mixture of Experts(MoE)를 활용하기

Mixture of Experts(MoE) 거대 언어 모델(LLM) 아키텍처는 최근 GPT-4와 같은 독점 LLM은 물론 Mixtral 8x7B의…
7 MIN READ
2024년 1월 19일

NVIDIA TensorRT로 가속화된 새롭고 안정적인 확산 모델

CES에서 NVIDIA는 SDXL Turbo, LCM-LoRA 및 Stable Video Diffusion이 모두 NVIDIA TensorRT에…
2 MIN READ
2024년 1월 10일

NVIDIA RTX 시스템으로 Windows PC에서 LLM 애플리케이션 강화하기

거대 언어 모델(LLM)은 우리가 컴퓨터와 상호작용하는 방식을 근본적으로 바꾸고 있습니다. 이러한 모델은 인터넷 검색부터 사무 생산성 도구에…
3 MIN READ
2023년 11월 24일

LLM 기술 마스터하기: 학습

거대 언어 모델(LLM)은 대규모 데이터 세트를 사용하여 언어를 인식, 요약, 번역, 예측, 생성할 수 있는 트랜스포머 네트워크를 사용하여 구축된…
9 MIN READ