메타, 816B 오픈 모델 'Muse Spark Open' 공개…M5 울트라 맥 2대로 구동

Muse Spark Open은 Meta가 공개한 오픈 웨이트 멀티모달 모델로, 816B 총 파라미터와 100만 토큰 컨텍스트 윈도우를 갖추고 코딩과 복합 에이전트 작업에 특화된 모델이다.

가장 큰 특징은 이런 초대형 모델을 클라우드 데이터센터가 아닌 개인 데스크톱 환경으로 끌어내렸다는 점이다. Apple의 MLX 프레임워크를 활용해 M5 Ultra 칩을 탑재한 Mac Studio 두 대만 있으면 완전한 오프라인 환경에서 로컬로 구동된다.

816B 파라미터를 책상 위에 올린 기술

Muse Spark Open은 혼합 전문가(MoE) 아키텍처를 기반으로 한다. 전체 62개 레이어마다 256개의 전문가 네트워크가 배치되어 있지만, 매 토큰을 처리할 때 라우터가 활성화하는 전문가는 8개뿐이다.

덕분에 816B의 거대한 지식 용량을 품고 있으면서도 실제 연산은 42B 활성 파라미터 수준으로 처리된다. 초대형 모델의 이해도를 유지하면서 중형 모델 수준의 빠른 추론 속도를 낼 수 있는 이유다.

문제는 메모리 용량이다. 256개 전문가 전체가 메모리에 상주해야 하므로 BF16 원본 가중치 크기만 약 1.5TB에 달한다. 일반적인 클라우드 환경에서는 H200 8장을 장착한 서버 노드 4대가 필요한 규모다.

Meta는 Apple Silicon의 통합 메모리 구조로 이를 풀었다. M5 Ultra 기반 Mac Studio는 기기당 최대 512GB 통합 메모리를 지원한다. MLX 프레임워크로 두 대를 묶어 1TB 통합 메모리 풀을 만들고, 1.2TB/s의 대역폭을 활용해 두 대의 데스크톱을 하나의 슈퍼컴퓨터처럼 작동시켰다. NVIDIA B200 단일 노드에서 실행 가능한 4비트 NVFP4 체크포인트도 함께 공개되었다.

실제 작업 성능과 엇갈린 평가

입력단에서는 텍스트뿐 아니라 이미지, 오디오, 비디오를 모두 직접 처리하며 출력은 텍스트로 나온다. 오디오는 초당 12.5개 토큰으로 변환되며 비디오 역시 프레임 단위로 인코딩된다.

Meta의 내부 테스트에 따르면 Muse Code 터미널과 결합해 오픈소스 마스토돈 클라이언트인 Ice Cubes의 버그 수정, 새 기능 구현, 빌드까지 전 과정을 자율 처리했다. 영상 편집 프로그램인 다빈치 리졸브(DaVinci Resolve)를 직접 제어하며 하이라이트 구간을 찾아 세로 영상으로 크롭하는 작업도 수행했다.

하지만 외부 커뮤니티의 시선이 마냥 곱지만은 않다. 유튜브 등 테크 리뷰어들은 공개 벤치마크가 정교하게 선별된 결과라고 지적한다. 실제 서드파티 벤치마크 지표에서는 GLM 5.3, Step 5, Kimiko Free, Mimo 2.6 같은 기존 오픈 모델보다 낮은 성능을 기록하기도 했으며, API 호출 비용 역시 경쟁 모델 대비 비싼 편이다.

하드웨어 장벽과 까다로운 라이선스

모델을 직접 돌려보려면 감수해야 할 조건이 적지 않다. 두 대의 M5 Ultra Mac Studio를 마련하는 비용 외에 라이선스 제약도 까다롭다.

Hugging Face에서 가중치를 내려받으려면 법적 실명, 생년월일, 소속 단체 등 개인정보를 상세히 입력해야 한다. 또한 Muse Model License에 따라 해당 모델을 사용한 서비스는 UI 화면에 'built with Muse Spark open'이라는 문구를 눈에 띄게 표시해야 하며, 연간 매출 2000만 달러를 초과하면 별도 상용 라이선스를 체결해야 한다.

모델을 사용해 보려면 Hugging Face나 AWS SageMaker JumpStart에서 가중치를 내려받을 수 있으며, MLX, vLLM, SGLang, llama.cpp를 지원한다. 자체 서버 없이 써보고 싶다면 Groq, Fireworks AI, Together AI의 호스팅 API를 이용하면 된다.

왜 중요한가

보안과 지적재산권 문제로 소스코드를 클라우드에 올릴 수 없는 엔지니어링 팀에게는 흥미로운 선택지다. 고성능 Mac Studio 두 대만 구비하면 100만 토큰에 달하는 전체 코드베이스를 네트워크 연결 없이 로컬 에이전트에게 맡길 수 있기 때문이다.

그러나 대다수 일반 개발자나 스타트업이 당장 도입할 이유는 크지 않다. 요구하는 하드웨어 가격이 지나치게 높은 데다, 외부 테스트에서 더 가벼운 오픈 모델들보다 지능 면에서 밀리는 결과가 나오고 있다. 까다로운 UI 표시 의무까지 고려하면 상용 프로젝트용으로는 가성비가 떨어진다. 데스크톱 기반 초병렬 로컬 AI의 기술적 가능성을 보여준 쇼케이스 정도로 보는 편이 맞다.