Apple 悄然開源 MLX 框架：專為 Mac 晶片最佳化，本地可跑 Llama

MLX 是 Apple 機器學習研究團隊專為 Apple Silicon 晶片打造的開源機器學習框架，配合它一起釋出的還有深度學習資料載入庫 MLX Data。

說白了，它就是讓你的 Mac 晶片能更順暢地跑起生成式 AI。

它能做什麼

MLX 主要是讓開發者能在 Mac 本地訓練和執行大模型。

根據 Computerworld 的報道，它的效能足以搞定 Meta 的開源大語言模型 Llama，也能跑通影像生成模型 Stable Diffusion。

跟它一同推出的 MLX Data，則是一個專門用來高效載入資料的工具包。

Apple 的機器學習研究員 Awni Hannun 介紹，MLX Data 是框架無關的，不僅能配合 MLX 使用，還能直接塞進 PyTorch 或者 Jax 的工作流裡。

共享記憶體的巧妙解法

在設計上，MLX 借鑑了 PyTorch、Jax 和 ArrayFire 這些成熟的深度學習框架，上手門檻並不高。

但它最核心的亮點，是吃透了 Apple Silicon 的共享記憶體架構。

傳統跑模型的方式往往要在 CPU 和 GPU 之間來回倒騰資料，而 MLX 讓 CPU 和 GPU 可以直接在同一塊記憶體上協作。

也就是說，任何跑在 MLX 上的計算任務，都無需把資料從記憶體搬進搬出，極大減少了資料傳輸的開銷。目前它已經支援在 CPU 和 GPU 上分配任務。

想要嚐鮮的話，MLX 和 MLX Data 現在都已經開源，可以直接在 GitHub 倉庫檢視程式碼，也可以通過 PyPI 用 pip 安裝。

為什麼重要

如果你手頭有一臺搭載 Apple Silicon 的 MacBook，並且想在本地除錯或者微調開源大模型，MLX 非常值得你裝上試一試。過去在 Mac 上跑大模型往往要經歷痛苦的相容性折騰，效能也發揮不出來，現在官方團隊下場做了針對性適配。

不過和生態極為龐大的 PyTorch 相比，MLX 剛剛起步，社群生態和現成指令碼還需要時間積累。我們認為，它更像是一把專車專用的鑰匙，對於重度依賴 Mac 本地開發的工程師來說，它終於把 Apple 統一記憶體的硬體優勢真正釋放了出來。