Algorithms / Numerical Techniques
2026년 1월 23일
단일 호출 API를 통한 CUB 사용 환경의 효율화
C++ 템플릿 라이브러리인 CUB는 고성능 GPU 프리미티브 알고리즘을 위한 필수 도구입니다. 하지만 메모리 예측과 할당을 분리하는 기존의 2단계…
4 MIN READ
2024년 5월 17일
VILA를 사용하는 NVIDIA 하드웨어의 시각적 언어 모델
시각 언어 모델은 최근 크게 발전했습니다. 하지만 기존 기술은 대체로 하나의 이미지만 지원합니다. 기존 기술은 여러 이미지 중에서 추론을 하거나…
7 MIN READ
2024년 3월 15일
LLM 아키텍처에 Mixture of Experts(MoE)를 활용하기
Mixture of Experts(MoE) 거대 언어 모델(LLM) 아키텍처는 최근 GPT-4와 같은 독점 LLM은 물론 Mixtral 8x7B의…
7 MIN READ