Apple 悄然开源 MLX 框架：专为 Mac 芯片优化，本地可跑 Llama

MLX 是 Apple 机器学习研究团队专为 Apple Silicon 芯片打造的开源机器学习框架，配合它一起发布的还有深度学习数据加载库 MLX Data。

说白了，它就是让你的 Mac 芯片能更顺畅地跑起生成式 AI。

它能做什么

MLX 主要是让开发者能在 Mac 本地训练和运行大模型。

根据 Computerworld 的报道，它的性能足以搞定 Meta 的开源大语言模型 Llama，也能跑通图像生成模型 Stable Diffusion。

跟它一同推出的 MLX Data，则是一个专门用来高效加载数据的工具包。

Apple 的机器学习研究员 Awni Hannun 介绍，MLX Data 是框架无关的，不仅能配合 MLX 使用，还能直接塞进 PyTorch 或者 Jax 的工作流里。

共享内存的巧妙解法

在设计上，MLX 借鉴了 PyTorch、Jax 和 ArrayFire 这些成熟的深度学习框架，上手门槛并不高。

但它最核心的亮点，是吃透了 Apple Silicon 的共享内存架构。

传统跑模型的方式往往要在 CPU 和 GPU 之间来回倒腾数据，而 MLX 让 CPU 和 GPU 可以直接在同一块内存上协作。

也就是说，任何跑在 MLX 上的计算任务，都无需把数据从内存搬进搬出，极大减少了数据传输的开销。目前它已经支持在 CPU 和 GPU 上分配任务。

想要尝鲜的话，MLX 和 MLX Data 现在都已经开源，可以直接在 GitHub 仓库查看代码，也可以通过 PyPI 用 pip 安装。

为什么重要

如果你手头有一台搭载 Apple Silicon 的 MacBook，并且想在本地调试或者微调开源大模型，MLX 非常值得你装上试一试。过去在 Mac 上跑大模型往往要经历痛苦的兼容性折腾，性能也发挥不出来，现在官方团队下场做了针对性适配。

不过和生态极为庞大的 PyTorch 相比，MLX 刚刚起步，社区生态和现成脚本还需要时间积累。我们认为，它更像是一把专车专用的钥匙，对于重度依赖 Mac 本地开发的工程师来说，它终于把 Apple 统一内存的硬件优势真正释放了出来。