‘NVIDIA AI 개발자 밋업 – LLM / Speech AI’가 1월 17일 화요일 오후 2시부터 5시까지 온라인으로 진행됩니다. 이번 밋업의 주제는 대규모 언어 모델(LLM)과 음성 AI(Speech AI)로, 글로벌 기술 트렌드, 솔루션 업데이트, 핸즈온 데모와 모범 사례를 알아볼 예정입니다.
기술에 관심 있는 누구나 무료로 참여가 가능한 이번 밋업은 이진호 NVIDIA 솔루션 아키텍트와 소우진 NVIDIA 솔루션 아키텍트가 함께합니다. 밋업이 진행되는 동안 궁금한 점에 대해 질문하고 답변을 들을 수 있으며, 사전 등록자에게는 발표 자료 및 영상, 샘플 코드, 라이브 데모가 공유됩니다. 온라인으로 진행되는 본 행사의 등록은 여기에서 가능합니다.
테마 1. 대규모 언어 모델(LLM)
2018년에 BERT는 머신 러닝 모델들의 읽기와 말하기 학습을 둘러싼 담론을 촉발했습니다. 이제 대규모 언어 모델(LLM)은 모든 범주의 애플리케이션에서 우수성을 입증하며 빠르게 성장하고 있습니다. ‘언어를 넘어’ AI의 지평 넓히는 대규모 언어 모델은 자연어 처리를 뒤흔드는 초강력 모델들이 헬스케어와 로보틱스 등의 여러 분야에도 파문을 일으키고 있습니다. 최근 ChatGPT 발표를 통해 언어 모델이 광범위한 애플리케이션을 통해 사회에 기여할 수 있다는 점을 증명하고 있지요. 자세한 내용은 다음 블로그에서 확인 가능합니다.
2021년 NVIDIA는 새로운 영역과 언어용으로 훈련이 가능한 Megatron 530B LLM을 발표했습니다. 수조 개의 파라미터를 가진 언어 모델들의 훈련을 돕는 툴과 서비스를 처음으로 소개했으며, 이 강력한 모델들을 사용자가 보다 쉽게 채택할 수 있도록 돕는 NVIDIA Nemo LLM 서비스가 작년 9월 GTC에서 소개되었습니다. NVIDIA Nemo LLM은 NVIDIA가 관리하는 클라우드 서비스로, 사전 훈련된 LLM을 특정 작업에 맞춰 조정해줍니다.
이 외에도 NVIDIA는 LLM 개발 및 추론을 위한 다양한 프레임워크를 지원하고 있습니다. 이번 개발자 밋업을 통해 전세계의 기업들의 다양한 활용 사례를 통해 NVIDIA LLM을 구현하고 추론하는 방법을 알아보세요.
NVIDIA NeMo LLM 서비스
NVIDIA NeMo LLM 서비스는 NVIDIA AI 플랫폼에서 실행되며, 기업이 프라이빗 및 퍼블릭 클라우드에서 LLM을 사용자 정의 및 배포하거나 API 서비스를 통해 LLM에 액세스할 수 있는 가장 빠른 경로를 제공합니다. 여기에서 얼리 액세스를 만나보세요.
NeMo Megatron
NeMo Megatron은 수십억 또는 수조 개의 매개 변수를 가진 LLM을 학습하고 배포하기 위한 엔드 투 엔드 프레임워크입니다. NeMo Megatron 오픈 베타를 여기서 신청하세요.
NVIDIA Triton / FasterTransformer
NVIDIA Triton 추론 서버는 LLM을 배포, 실행 및 확장하는 데 사용할 수 있는 오픈 소스 추론 서비스 소프트웨어입니다. Faster Transformer 백엔드를 사용하는 대규모 언어 모델에 대해 멀티 GPU, 다중 노드 추론을 지원합니다.
NVIDIA BioNeMo
NVIDIA BioNeMo는 슈퍼컴퓨팅 규모의 대규모 생체 분자 트랜스포머 AI 모델을 트레이닝 및 배포하기 위해 NVIDIA NeMo Megatron에 구축된 AI 기반 신약 개발 클라우드 서비스이자 프레임워크입니다. 여기에서 얼리 액세스를 확인하세요.
테마 2. 다국어 Speech AI를 위한 Riva
가상 비서, 전사(transcription) 또는 고객 센터 등에 사용되는 음성 AI 서비스는 단어와 대화를 비즈니스에 활용할 수 있는 마법의 비트와 바이트로 바꾸고 있습니다. 작년 9월이번 GTC에서 NVIDIA는 음성 AI 애플리케이션을 구축, 배포하기 위한 GPU 가속 소프트웨어 개발 키트인 NVIDIA Riva에 새로운 추가 기능을 발표했습니다.
Riva는 고유한 문제를 효율적으로 해결할 수 있도록 음성 AI 파이프라인의 모든 단계에서 완전히 사용자 지정할 수 있도록 구축됐습니다. 개발자는 온프레미스, 하이브리드 멀티클라우드, 엣지, 임베디드 디바이스 등 원하는 데이터 위치에 배포할 수도 있습니다. 기업에서 서비스, 효율성, 경쟁력을 강화하는 데 사용됩니다. NVIDIA Riva를 통해 기업은 더 큰 규모의 딥 러닝 모델을 탐색하고 보다 세밀한 음성 시스템을 개발할 수 있습니다. Riva에 구축된 음성 AI 애플리케이션은 더 나은 서비스로의 가속화된 경로를 제공하여 개선된 고객 경험과 참여를 약속합니다.
이번 개발자 밋업을 통해 복잡한 음성 AI 파이프라인과 한국어 음성 AI 애플리케이션 구축을 위한 NVIDIA의 가속화 솔루션를 확인해 보세요.
NVIDIA Riva
NVIDIA Riva는 한국어를 포함해 다양한 언어에 걸친 실시간 자동 음성 인식(ASR) 및 텍스트 음성 변환(TTS) 기술에 대해 세계 최고 수준의 정확도를 제공하며, 모든 클라우드에서 온프레미스(On-prem)으로 도입할 수 있습니다. NVIDIA Riva는 현재 고객 관리 센터 애플리케이션, 음성 트랜스크립션 및 가상 비서 등 모든 산업에서 활용되고 있습니다. NVIDIA NGC를 통해 다운로드할 수 있습니다.
NVIDIA AI Enterprise
NVIDIA AI Enterprise는 NVIDIA AI 플랫폼의 운영 체제로, 데이터센터에서 클라우드에 이르기까지 어디에서나 배포할 수 있도록 인증을 받았습니다. 이는 또한 NVIDIA Riva, NVIDIA Merlin, NVIDIA Clara 등 광범위한 프레임워크 라이브러리로 구축된 애플리케이션에 필수적이며, 전 세계적으로 제공되는 NVIDIA 엔터프라이즈 지원을 통해 순조롭게 AI 프로젝트를 개발할 수 있습니다.
개발자를 위한 NVIDIA Developer Program
다양한 NVIDIA 프레임워크 및 라이브러리에 대한 독점/얼리 액세스, 교육 과정, 데모 를 무료로 다운받으실 수 있습니다. 지금 무료로 가입하여 NVIDIA의 기술 플랫폼에서 구축하는 데 필요한 도구와 교육에 액세스하시고 여러분의 성공을 가속화 하세요.
스타트업을 위한 NVIDIA Inception Program
NVIDIA Inception 프로그램은 오직 기술 스타트업의 성공을 위해 설계 되었으며 모든 혜택은Inception 프로그램 지금 무료 가입 후 자유롭게 누리실 수 있습니다. 현재 AI 및 딥 러닝, 로보틱스를 포함한 모든 기술 분야의 신청서를 접수 중입니다.
**NVIDIA는 스타트업에 별도의 지분을 요구하지 않습니다.
