Liquid AI 釋出非 Transformer 模型 LFMs：極低記憶體處理百萬 token

現在幾乎整個 AI 行業都在圍繞 Transformer 架構打轉，算力和視訊記憶體成本被堆到了天上。但麻省理工學院走出來的幾個研究員覺得，這條路該換換方向了。

由 MIT 電腦科學與人工智慧實驗室學者創辦的 Liquid AI，正式推出了自研的第一代生成式模型 Liquid Foundation Models，簡稱 LFM。這套模型最惹眼的地方在於，它完全沒有采用 2017 年以來統治業界的 Transformer 架構。

團隊基於他們之前提出的液態神經網路理論，結合了動力系統、數值線性代數和訊號處理的數學方法。說白了，就是用更少的計算節點和創新的數學表達，替代原本需要海量人工神經元才能完成的計算。

不靠堆引數，把長文本視訊記憶體壓到三分之一

Liquid AI 這次一口氣端出了三款不同規格的模型，覆蓋了從端側到雲端的場景。

最小的 LFM-1B 擁有 13 億引數，專為資源極其受限的環境設計。官方資料顯示，它在 MMLU 和 ARC-C 等基準測試中，成績超過了 Meta 的 Llama 3.2-1.2B 和微軟的 Phi-1.5，創下了 10 億引數級別模型的新高。

中間檔是 31 億引數的 LFM-3B，主要瞄準手機、機器人和無人機等邊緣裝置。它在效能上可以硬碰微軟 Phi-3.5 甚至更大體量的開源模型。

更有意思的是視訊記憶體佔用。在處理長文本時，傳統模型視訊記憶體消耗往往會暴增，而 LFM-3B 僅需 16 GB 視訊記憶體，相比之下，Meta 的 Llama 3.2-3B 在類似任務下需要超過 48 GB。

體量最大的則是 403 億引數的混合專家模型 LFM-40B，用於在雲端處理最複雜的企業級任務。官方表示全系模型最高可高效處理 100 萬 token 上下文，而且在推理過程中具備動態即時調整的能力。

能吞多種資料，但核心資產不開源

根據團隊的說法，LFMs 天然適合處理各類時序資料，除了常規文本，還能直接對音訊、影片和感測器訊號建模。團隊希望藉此切入金融服務、生物科技和消費電子等領域。

Liquid AI 後訓練負責人 Maxime Labonne 在社交平臺 X 上直言，這是他職業生涯中最自豪的一次釋出，最核心的優勢就是在大幅降低視訊記憶體開銷的同時幹翻同體量的 Transformer 模型。

分析機構 Constellation Research 的分析師 Holger Mueller 也指出，這證明爭奪 AI 桂冠的絕不只有掌握海量資源的大廠，誰是最終贏家還很難說。

不過想上手的開發者需要注意，Liquid AI 並沒有開源模型權重。普通使用者和開發者目前只能通過官方的推理測試臺、Lambda Chat 或者 Perplexity AI 來體驗。

為什麼重要

對開發者和企業來說，LFM 最大的吸引力在於端側部署的可行性。如果原本必須在雲端用昂貴 A100 跑的長文本分析和感測器資料處理，現在能塞進 16 GB 視訊記憶體的邊緣裝置甚至消費級硬體，商業落地的成本賬就會徹底改寫。如果你正在做機器人、邊緣監控或者長文件分析，現在去 Perplexity 或官方 Playground 試試它的輸出質量，是個很划算的事。

對整個行業而言，這給長久以來的 Transformer 路徑依賴撕開了一道口子。過去幾年業界習慣了用堆算力、堆視訊記憶體來掩蓋注意力機制二次方複雜度的缺陷。Liquid AI 用數學層面的重構證明了架構創新依然有效，這可能會迫使大廠加速探索狀態空間模型或混合架構，分散輝達視訊記憶體頻寬的單一溢價。

在我們看來，Liquid AI 這一步走得相當聰明，但在商業化上也有不小的隱患。聰明之處在於它繞開了與科技巨頭在千億大模型上的正面肉搏，死磕長上下文和極端視訊記憶體效率兩個最痛的點；但隱患在於，它沒有選擇像 Meta 那樣開源權重來聚攏開發者生態。在這個小模型生態幾乎全被開源社群繫結的當下，一個閉源的非主流架構如果無法快速在企業端證明長期可靠性，很可能會面臨叫好不叫座的尷尬。