跳到正文
IFAI

產業動態

Apple 釋出新 Mac Studio:最高 512GB 記憶體,本地跑 6000 億大模型

首次發布 傳播指數 44

Apple 推出全新 Mac Studio,搭載 M4 Max 與新 M3 Ultra 晶片。新機最高可選 512GB 統一記憶體與 16TB 儲存,並支援雷靂 5。最關鍵的是,它能完全在本地記憶體中執行超過 6000 億引數的大模型,大幅降低了本地跑前沿 AI 模型的門檻。

Apple 釋出新 Mac Studio:最高 512GB 記憶體,本地跑 6000 億大模型
圖:apple.com

如果你想在自己桌上跑一個幾千億引數的開源大模型,以前的唯一解法通常是組裝一臺轟鳴的大機箱,插上幾張昂貴又費電的企業級顯示卡。

現在蘋果給了另一個答案,而且是一臺體積小巧、放在桌面幾乎聽不到聲音的小方盒子。

Apple 正式釋出了新一代 Mac Studio,搭載 M4 Max 以及全新登場的 M3 Ultra 晶片。新機從 3 月 5 日開啟預購,3 月 12 日正式發貨。

512GB 統一記憶體,把 6000 億引數大模型塞進本地

這次更新最引人注目的,是作為頂配核心登場的 M3 Ultra 晶片。它通過 UltraFusion 架構把兩塊 M3 Max 拼接在一起,內部連線訊號超過 10000 個,雙芯互連頻寬達到 2.5TB/s,總電晶體數量來到 1840 億個。

規格上,M3 Ultra 最高配備 32 核 CPU,其中包括 24 個性能核與 8 個能效核,效能核心數量比歷代 Ultra 晶片多了 50%。GPU 更是堆到了驚人的 80 核,搭配 32 核神經網路引擎,記憶體頻寬超過 800GB/s。

更誇張的是記憶體容量。M3 Ultra 版本的 Mac Studio 起步記憶體就是 96GB,最高可以直接拉滿到 512GB,固態硬碟最高可選 16TB。這是個人電腦史上首次提供超過半個 TB 的統一記憶體。

正因為這 512GB 視訊記憶體與記憶體共享的架構,蘋果表示它能在本地記憶體中完整執行超過 6000 億引數的大語言模型。在 LM Studio 測試中,處理千億引數模型的 token 生成速度達到了 M1 Ultra 的 16.9 倍。

如果你不需要這麼極限的算力,M4 Max 版本同樣兇狠。它最高提供 16 核 CPU 與 40 核 GPU,支援最高 128GB 記憶體,單核效能是目前全球最快的 CPU 核心,在 Xcode 編譯速度上比 M1 Max 快了 2.1 倍。

雷靂 5 介面落地,能一口氣帶 8 臺 6K 屏

新 Mac Studio 還在介面上補齊了短板,全面引入雷靂 5 埠。傳輸速率直接飆到了 120Gb/s,是上一代雷靂 4 的近三倍。

蘋果在晶片上為每個雷靂 5 介面都設計了專屬控制器,確保每個介面都能吃滿獨佔頻寬。M3 Ultra 機型最多能同時外接驅動 8 臺 6K 解析度的 Pro Display XDR 顯示器。

機身依然保留了專業使用者離不開的實用設計,正面有高速 SDXC 卡槽,背面配有 10Gb 乙太網路介面與 HDMI 介面,支援隨 macOS Sequoia 帶來的 iPhone 映象與一整套 Apple Intelligence 功能。

為什麼重要

對於 AI 開發者和獨立研究團隊來說,這臺機器的價值是實打實的。以往想在本地微調或推理幾百上千億引數的模型,門檻是數萬美元的多卡叢集,光是電源和散熱就能讓個人和小型工作室望而卻步。

Mac Studio 用統一記憶體的打法,直接打破了專業 GPU 視訊記憶體的壁壘。我們認為,雖然蘋果 GPU 在原生 FP16 計算純算力上依然比不過頂尖的輝達計算卡,但它讓單臺桌面裝置跑 600B 巨型模型成為了現實,而且不需要機房環境。

對行業而言,蘋果正在把 Mac Studio 打造成最具價效比的本地 AI 試驗檯。它會倒逼傳統工作站和 PC 陣營加快大視訊記憶體與高速互聯方案的平民化程序。

看起來蘋果這一代的策略也很務實。它沒有急著推出 M4 Ultra,而是拿成熟的 M3 Max 用 UltraFusion 拼出 M3 Ultra,優先把記憶體容量做大、把雷靂 5 鋪開。對於絕大多數影片剪輯師或程式設計師,M4 Max 版本就已經完全效能溢位;但如果你是衝著私有化大模型和極限三維渲染去的,頂配 M3 Ultra 幾乎是目前桌面上唯一能買到的異類怪獸。

來源 (2)

  1. [1]
    apple.com(在新分頁開啟)原文apple.com
  2. [2]
    apple.com(在新分頁開啟)報導apple.com

每日 AI 內容精選