본문으로 건너뛰기
IFAI

업계 동향

애플, 신형 맥 스튜디오 공개: 최대 512GB 메모리로 6000억 LLM 구동

게시 확산 지수 44

애플이 M4 Max 및 M3 Ultra 칩을 탑재한 신형 맥 스튜디오를 발표했다. 최대 512GB 통합 메모리와 썬더볼트 5를 지원하며, 6000억 개 이상의 파라미터를 가진 대형 언어 모델을 로컬 메모리에서 직접 구동할 수 있어 AI 개발자에게 강력한 작업 환경을 제공한다.

애플, 신형 맥 스튜디오 공개: 최대 512GB 메모리로 6000억 LLM 구동
이미지: apple.com

수천억 개 파라미터를 가진 거대 언어 모델을 로컬 환경에서 구동하려면, 보통 소음과 전력을 감당해야 하는 대형 워크스테이션이나 값비싼 기업용 GPU 서버가 필요했습니다.

애플이 책상 위에 올려둘 수 있는 조용한 알루미늄 본체 하나로 새로운 해법을 제시했습니다.

애플은 M4 Max와 새로운 M3 Ultra 칩을 탑재한 신형 Mac Studio를 공개했습니다. 3월 5일부터 사전 주문을 시작하며, 정식 출시는 3월 12일입니다.

512GB 통합 메모리, 6000억 파라미터 LLM을 로컬에서 구동

가장 눈길을 끄는 부분은 처음 공개된 M3 Ultra 칩입니다. 두 개의 M3 Max 다이를 1만 개 이상의 초고속 연결 통로로 묶는 UltraFusion 패키징을 적용해 2.5TB/s 대역폭을 확보했으며, 트랜지스터 수만 1840억 개에 달합니다.

M3 Ultra는 최대 32코어 CPU(성능 코어 24개, 효율 코어 8개)와 최대 80코어 GPU, 32코어 뉴럴 엔진을 갖췄습니다. CPU 성능 코어 수는 이전 Ultra 칩보다 50% 늘어났으며, 메모리 대역폭은 초당 800GB를 넘습니다.

무엇보다 통합 메모리 사양이 파격적입니다. M3 Ultra 모델은 기본 96GB부터 시작해 개인용 컴퓨터 사상 최대 용량인 512GB까지 확장할 수 있으며, SSD 스토리지는 최대 16TB까지 지원합니다.

CPU와 GPU가 공유하는 512GB 대용량 메모리 덕분에 6000억 개 이상의 파라미터를 가진 LLM을 외부 클라우드 없이 메모리에 전부 올려 구동할 수 있습니다. 애플은 LM Studio 기준 수천억 파라미터 모델의 토큰 생성 속도가 M1 Ultra 대비 최대 16.9배 빨라졌다고 밝혔습니다.

함께 출시된 M4 Max 모델 역시 최대 16코어 CPU, 40코어 GPU, 최대 128GB 메모리를 지원하며, Xcode 코드 컴파일 성능이 M1 Max 대비 최대 2.1배 향상되었습니다.

썬더볼트 5 탑재와 6K 디스플레이 최대 8대 지원

연결성 측면에서는 최대 120Gb/s 속도를 내는 썬더볼트 5 포트를 새롭게 탑재했습니다. 이전 세대 대비 최대 3배 빠른 속도로, 칩 내부에서 각 포트마다 전용 컨트롤러를 할당해 독립적인 대역폭을 보장합니다.

M3 Ultra 구성에서는 6K 해상도의 Pro Display XDR 모니터를 최대 8대까지 동시에 연결할 수 있습니다. 본체 전면 SDXC 카드 슬롯과 후면 10Gb 이더넷 포트 등 전문가용 인터페이스도 그대로 유지되었습니다.

왜 중요한가

AI 연구자와 개발사 입장에서 신형 Mac Studio는 로컬 개발 환경의 진입 장벽을 완전히 허무는 장비입니다. 600B 규모의 초거대 모델을 자체 인프라에서 실험하려면 수천만 원대의 GPU 클러스터와 전력 공사가 필수였습니다.

순수 FP16 연산력 자체는 엔비디아의 플래그십 연산용 카드에 미치지 못하더라도, 512GB라는 거대한 통합 메모리를 저전력 데스크톱에서 제공한다는 점은 독보적입니다. 민감한 데이터를 다루면서 클라우드 비용을 아끼려는 AI 개발팀에 즉각적인 대안이 됩니다.

M4 Ultra를 서둘러 개발하기보다 M3 Max 다이를 묶어 빠르게 512GB 메모리와 썬더볼트 5를 확보한 애플의 제품 구성은 실용적인 선택으로 보입니다. 일반적인 영상 편집이나 개발 작업에는 M4 Max로도 차고 넘치지만, 초대형 오픈소스 AI 모델을 책상 위에서 직접 다루려는 전문가에게 512GB 사양의 M3 Ultra는 현재 대체 불가능한 선택지입니다.

출처 (2)

  1. [1]
    apple.com(새 탭에서 열림)원문apple.com
  2. [2]
    apple.com(새 탭에서 열림)보도apple.com

매일 AI 콘텐츠 픽