Red Hat 宣布收购 Neural Magic：押注开源推理引擎 vLLM

现在想把大模型搬进自家机房，最大的拦路虎往往不是模型本身，而是跑模型的成本太高。

算力贵、显卡缺，动辄几十上百亿参数的模型一跑起来，电费和硬件账单就能把中小团队劝退。面对这个问题，开源老牌巨头 Red Hat 选了一条最直接的路径：把做加速最厉害的团队买下来。

Red Hat 宣布签署确定性协议，收购 AI 推理软件与算法公司 Neural Magic。这笔交易目前还要等监管批准，具体金额没有披露。

把 MIT 走出来的加速老手收入囊中

Neural Magic 是 2018 年从 MIT 独立出来的公司，核心班底专攻深度学习的推理性能工程。

在大模型圈子里，只要自己部署过开源模型，大概率都用过或者听过 vLLM。这个由加州大学伯克利分校发起的开源项目，几乎成了现在高并发模型服务的标配引擎。

而 Neural Magic 正是 vLLM 开源生态里的核心技术领导力量。他们不仅给社区贡献代码，还做了一个叫 LLM Compressor 的开源库，专门用稀疏化和量化算法帮模型瘦身，顺便维护着一整套开箱即用的预优化模型。

更关键的是硬件兼容性。vLLM 不挑食，除了通用的英伟达 GPU，还能跑在 AMD GPU、AWS Neuron、Google TPU、Intel Gaudi 以及常规 x86 CPU 上。

对 Red Hat 来说，这正好补齐了拼图最缺的一角。

拼齐企业级 AI 堆栈

Red Hat 这两年的 AI 动作其实很密集。他们联手 IBM 搞了开源的 Granite 模型家族，推出了做模型协同微调的 InstructLab，还有基于 Linux 的 RHEL AI 以及面向混合云的 Red Hat OpenShift AI。

但这套体系要想在企业客户那里落地，必须解决最后一公里：推理到底跑得够不够快、省不省算力。

把 Neural Magic 的推理堆栈直接接进 OpenShift AI 和 RHEL AI，企业客户就能在本地机房、公有云或者边缘设备上，用更低成本调度从 1B 到 405B 参数规模的开源模型。

Red Hat 首席执行官 Matt Hicks 说得很直白，他们不仅想做开源操作系统界的 Red Hat，还想成为 AI 时代的 Red Hat。

为什么重要

对于想要私有化部署 AI 的企业和开发者来说，这桩收购是个实在的利好。

以前企业想要自己的数据不出内网，自己搭 vLLM 往往需要懂底层硬件调优的专业工程师。等这套技术整合进 Red Hat 的企业级发行版后，企业客户不用自己去啃底层的量化与算子优化，也能在更杂的异构硬件上把模型跑顺。

在行业层面，这看起来是开源阵营对闭源 API 垄断的一次抱团反击。OpenAI 和 Anthropic 靠着云端 API 赚得盆满钵满，但很多金融、政企客户因为合规和数据隐私，根本不可能把敏感数据传到公有云上。

Red Hat 和 IBM 这套打法的聪明之处在于，他们不打算自己卷闭源大模型，而是把「开源模型加高效推理底座」做成标准化的基础设施。只要企业对混合云和私有化还有需求，这个收费模式就跑得通。

不过隐患也不是没有。vLLM 能够迅速风靡，很大程度是因为极其开放的中立社区氛围。被商业巨头收购后，Neural Magic 还能否让社区保持以往的活力、对不同硬件厂商是否还能一碗水端平，我们认为还需要打个问号。