Liquid AI 发布非 Transformer 模型 LFMs：极低内存处理百万 token

现在几乎整个 AI 行业都在围绕 Transformer 架构打转，算力和显存成本被堆到了天上。但麻省理工学院走出来的几个研究员觉得，这条路该换换方向了。

由 MIT 计算机科学与人工智能实验室学者创办的 Liquid AI，正式推出了自研的第一代生成式模型 Liquid Foundation Models，简称 LFM。这套模型最惹眼的地方在于，它完全没有采用 2017 年以来统治业界的 Transformer 架构。

团队基于他们之前提出的液态神经网络理论，结合了动力系统、数值线性代数和信号处理的数学方法。说白了，就是用更少的计算节点和创新的数学表达，替代原本需要海量人工神经元才能完成的计算。

不靠堆参数，把长文本显存压到三分之一

Liquid AI 这次一口气端出了三款不同规格的模型，覆盖了从端侧到云端的场景。

最小的 LFM-1B 拥有 13 亿参数，专为资源极其受限的环境设计。官方数据显示，它在 MMLU 和 ARC-C 等基准测试中，成绩超过了 Meta 的 Llama 3.2-1.2B 和微软的 Phi-1.5，创下了 10 亿参数级别模型的新高。

中间档是 31 亿参数的 LFM-3B，主要瞄准手机、机器人和无人机等边缘设备。它在性能上可以硬碰微软 Phi-3.5 甚至更大体量的开源模型。

更有意思的是显存占用。在处理长文本时，传统模型显存消耗往往会暴增，而 LFM-3B 仅需 16 GB 显存，相比之下，Meta 的 Llama 3.2-3B 在类似任务下需要超过 48 GB。

体量最大的则是 403 亿参数的混合专家模型 LFM-40B，用于在云端处理最复杂的企业级任务。官方表示全系模型最高可高效处理 100 万 token 上下文，而且在推理过程中具备动态实时调整的能力。

能吞多种数据，但核心资产不开源

根据团队的说法，LFMs 天然适合处理各类时序数据，除了常规文本，还能直接对音频、视频和传感器信号建模。团队希望借此切入金融服务、生物科技和消费电子等领域。

Liquid AI 后训练负责人 Maxime Labonne 在社交平台 X 上直言，这是他职业生涯中最自豪的一次发布，最核心的优势就是在大幅降低显存开销的同时干翻同体量的 Transformer 模型。

分析机构 Constellation Research 的分析师 Holger Mueller 也指出，这证明争夺 AI 桂冠的绝不只有掌握海量资源的大厂，谁是最终赢家还很难说。

不过想上手的开发者需要注意，Liquid AI 并没有开源模型权重。普通用户和开发者目前只能通过官方的推理测试台、Lambda Chat 或者 Perplexity AI 来体验。

为什么重要

对开发者和企业来说，LFM 最大的吸引力在于端侧部署的可行性。如果原本必须在云端用昂贵 A100 跑的长文本分析和传感器数据处理，现在能塞进 16 GB 显存的边缘设备甚至消费级硬件，商业落地的成本账就会彻底改写。如果你正在做机器人、边缘监控或者长文档分析，现在去 Perplexity 或官方 Playground 试试它的输出质量，是个很划算的事。

对整个行业而言，这给长久以来的 Transformer 路径依赖撕开了一道口子。过去几年业界习惯了用堆算力、堆显存来掩盖注意力机制二次方复杂度的缺陷。Liquid AI 用数学层面的重构证明了架构创新依然有效，这可能会迫使大厂加速探索状态空间模型或混合架构，分散英伟达显存带宽的单一溢价。

在我们看来，Liquid AI 这一步走得相当聪明，但在商业化上也有不小的隐患。聪明之处在于它绕开了与科技巨头在千亿大模型上的正面肉搏，死磕长上下文和极端显存效率两个最痛的点；但隐患在于，它没有选择像 Meta 那样开源权重来聚拢开发者生态。在这个小模型生态几乎全被开源社区绑定的当下，一个闭源的非主流架构如果无法快速在企业端证明长期可靠性，很可能会面临叫好不叫座的尴尬。