Meta가 코딩에 최적화된 816B 전문가 혼합 모델(MoE) Muse Spark Open을 출시합니다. 활성 파라미터는 42B이고 컨텍스트 윈도우는 1M 토큰입니다. NVIDIA GB300 NVL72 Blackwell Ultra에서 에이전틱 코딩 워크플로를 위해 특별히 학습한 이 모델은 첫 시도 정확도가 높고, 도구 호출이 안정적이며, 리포지토리 전반의 코드베이스를 깊이 이해합니다. 1M 토큰 컨텍스트 윈도우에는 복잡한 의존성, 레거시 코드, 수천 개의 파일을 포함한 프로젝트 전체가 담기므로 작업을 나누지 않아도 됩니다.
추론 모델인 Muse Spark Open은 이미지와 문서 이해에 오디오와 영상 인식을 더하여, 보고 듣고 읽는 모든 입력을 네이티브로 안정적으로 처리합니다. Meta가 생성하고 NVIDIA Blackwell Ultra에 맞춰 최적화한 NVFP4 체크포인트는 네이티브 FP4 Tensor Core 가속으로 816B 파라미터 전체의 메모리 사용량을 줄입니다. 토큰당 이동하는 바이트가 줄어 사용자당 초당 토큰 수가 늘고, 확보된 메모리는 동시 롱 컨텍스트 세션을 위한 더 큰 KV 캐시를 지원합니다. 그 결과 처리량은 높아지고 토큰당 비용은 낮아집니다.
에이전틱 코딩과 텍스트, 이미지, 영상, 오디오 멀티모달 이해에 맞춰 설계
일반 코딩 모델은 함수 생성, 단위 테스트 작성, 인라인 수정 제안처럼 한 번에 끝나는 완성에 최적화되어 있습니다. 컨텍스트가 작고 답이 즉시 나오는, 범위가 분명한 개별 작업에서 강점을 보입니다. 에이전틱 코딩에는 근본적으로 다른 능력이 필요합니다. 여러 파일에 걸친 리팩터링을 계획하고, 수천 개의 파일을 탐색하고, 실패한 테스트에서 복구하고, 긴 호흡으로 서브에이전트를 조율하려면 지속적인 다단계 작업을 위해 만든 모델이 필요합니다.
Muse Spark Open은 바로 이런 워크로드를 위해 설계되었습니다. 첫 시도 정확도가 높고 도구 호출이 안정적이며, 여러 리포지토리에 걸친 코드베이스를 깊이 이해합니다. 계획하고 실행하고 관찰하며 스스로 교정하기 때문에, 도구 사용과 출력 평가, 반복적 개선이 이어지는 다단계 작업을 수행할 수 있습니다. 목표 조건화로 작업 방향을 유지하고, 컨텍스트 압축으로 장시간 세션에서도 진행에 필요한 지식을 보존합니다. 1M 토큰 컨텍스트 윈도우에는 복잡한 의존성, 레거시 코드, 수천 개의 파일로 이루어진 프로젝트 전체가 들어가므로 작업을 나눌 필요가 없습니다.
활용 범위는 코딩에 그치지 않습니다. 멀티모달 브라우징을 포함한 웹 검색을 수행하고, 분해할 수 있는 작업에는 서브에이전트를 생성해 조율하며, 데스크톱, 모바일, 브라우저를 아우르는 통합 컴퓨터 사용 기능도 활용합니다. 또한 각 동작에 앞서 별도의 설명을 생성하므로, 개발자는 에이전트가 무엇을 왜 하는지 알 수 있습니다.
이 모델의 1.8B 인식 인코더는 텍스트, 이미지, 영상 프레임, 오디오가 뒤섞인 입력을 모달리티별 파이프라인 없이 네이티브로 처리합니다. 덕분에 보고 듣고 읽은 내용을 한 번의 통합된 패스로 추론하며, 스크린샷, 다이어그램, 오류 로그, 영상 워크스루를 오가는 개발자 워크플로를 같은 에이전트 세션 안에서 소화할 수 있습니다. 비용 면에서는 희소 MoE 라우팅이 토큰마다 전체 816B 파라미터 중 42B만 활성화합니다. 그래서 같은 규모의 밀집 모델보다 훨씬 낮은 서빙 비용으로 최첨단 에이전트 역량을 제공합니다.
GB300 NVL72에서 최적화된 Muse Spark Open 성능
NVIDIA GB300 NVL72는 NVIDIA Blackwell Ultra GPU 72개를 하나의 플랫폼으로 통합한 랙 스케일 아키텍처입니다. 72개 GPU로 구성된 대규모 NVIDIA NVLink 도메인은 130 TB/s로 효율적인 통신을 지원하여, 전문가 트래픽이 일반 상용 네트워크를 거쳐야 할 때 생기는 병목을 없앱니다. 토큰마다 256개 전문가 중 8개로 라우팅하는 Muse Spark Open 같은 희소 MoE 모델에서는 이 대역폭이 배포 환경이 이론상 처리량을 얼마나 실현하는지를 직접 좌우합니다.
에이전틱 워크로드는 정적인 단일 턴 상호작용을 다단계 워크플로로 바꿉니다. 이 워크플로에서는 추론하고, 도구를 호출하고, 서브에이전트를 조율하면서 턴이 넘어갈 때마다 컨텍스트가 커집니다. 별도 튜닝 없이 NVIDIA GB300 NVL72에서 에이전틱 워크로드를 실행한 Muse Spark Open은 GPU당 초당 최대 50K 토큰, 사용자당 초당 최대 600 토큰을 처리합니다. 덕분에 AI 팩토리는 대규모 파라미터 모델을 높은 처리량과 낮은 지연 시간으로 프로덕션에서 운영할 수 있습니다.
Muse Spark Open의 유연한 배포 옵션
NVIDIA는 다양한 개발자 요구에 맞춰 여러 추론 스택을 지원합니다. SGLang, vLLM, TensorRT LLM을 사용하면 NVIDIA 가속 컴퓨팅 플랫폼에서 서빙 구성, 병렬화, 배치 처리를 직접 제어할 수 있습니다. TensorRT LLM은 여기에 NVIDIA GPU에 맞춰 튜닝한 컴파일 엔진을 더합니다. NVIDIA Dynamo는 이 세 가지 모두에 대한 배포 레시피를 제공하고, 프리필과 디코드를 전용 GPU 풀로 분리하여 연산 집약적인 프롬프트 처리가 토큰 생성을 늦추지 않게 합니다. KV 캐시 인식 라우팅은 각 요청을 관련 프리픽스를 이미 보유한 워커로 보내므로, 긴 에이전틱 세션에서 컨텍스트가 쌓여도 재연산을 피할 수 있습니다.
NeMo AutoModel과 Megatron Bridge로 Muse Spark Open 포스트 트레이닝
개발자는 PyTorch 네이티브 학습 라이브러리인 NVIDIA NeMo AutoModel로 도메인 특화 데이터셋에서 Muse Spark Open을 포스트 트레이닝할 수 있습니다. NeMo AutoModel은 Hugging Face 체크포인트를 그대로 읽으므로 모델 변환이 필요 없습니다. 전체 SFT와 LoRA 파인튜닝을 바로 실행할 수 있으며, 다양한 산업별 사례에서 빠르게 실험하도록 최적화되어 있습니다.
대규모 프로덕션 학습을 시작할 준비가 되었다면 NVIDIA Megatron Bridge로 Hugging Face 체크포인트를 Megatron 형식으로 변환하여 Megatron의 최적화를 활용할 수도 있습니다.
GPU 가속 Muse Spark Open 시작하기
시작하려면 Hugging Face에서 Muse Spark Open NVFP4 가중치를 다운로드하십시오. 프로덕션 배포에는 다운로드해서 쓸 수 있는 NVIDIA NIM을 사용해 보십시오. NIM은 설정을 명령어 한 줄로 줄여 줍니다. 감지된 하드웨어에 가장 적합한 서빙 백엔드와 정밀도를 컨테이너가 자동으로 선택하므로, 벤치마킹과 튜닝을 반복할 필요가 없습니다.
