Meta 聯手 KAUST 提出神經計算機:讓模型自己當電腦,用影片渲染介面
Meta 與 KAUST 團隊提出全新計算範式「神經計算機」,探索讓模型自身承擔計算、記憶體與 I/O,而不是作為 Agent 去幫人用電腦。團隊利用影片模型訓練了終端與桌面模擬器原型,直接從輸入渲染螢幕操作,不過目前受限於符號計算與穩定性,僅支援短序列執行。

現在大家聊 AI,思路基本都是一樣的:做個大模型,給它裝上鍵盤和滑鼠,讓它像個人類實習生一樣幫你開啟瀏覽器、敲終端程式碼。但如果換一個底層邏輯,根本不需要物理電腦,讓模型自己變成一臺電腦呢?
來自 Meta 和 KAUST 的研究團隊在 arXiv 上發了一篇論文,正式丟擲了一個全新概念:神經計算機(Neural Computers,簡稱 NC)。簡單來說,他們不想讓 AI 只是當個「用電腦的人」,而是想讓模型自己把計算、記憶體和輸入輸出全部吞進執行時狀態裡。
讓影片模型一幀一幀畫出螢幕
傳統的計算機執行的是寫好的程式,Agent 是去操作外部環境,而世界模型負責學習物理規律。研究團隊認為,現在的軟體棧、工具鏈和控制層其實都太分散了,完全可以收納進模型自身的執行時中。
為了驗證這個想法,他們用純粹的輸入輸出軌跡訓練了兩個 AI 模擬器:一個是終端模擬器,另一個是桌面模擬器。有意思的是,他們把神經計算機具體實現成了一個影片模型,模型根據輸入的指令、畫素和操作動作,一幀一幀把螢幕畫面給「算」出來。
在終端模擬器裡,AI 可以模擬敲鍵盤、跑命令和 Python 互動,連終端視窗的滾動和變化都惟妙惟肖。而在桌面模擬器裡,它也能模仿滑鼠滑動、點選和展開選單。
不過,現在的效果只能算非常早期的概念驗證。桌面模擬器一旦操作步驟拉長,畫面很容易就跑偏了;終端模擬器在面對複雜計算或長序列時,符號穩定性也會急劇下滑。它目前只能維持幾秒到幾十秒的短序列互動,而且無法持久記憶,每次基本都是重新生成。
完全神經計算機的四個門檻
研究團隊心裡也很清楚,眼前的原型離真正能用的機器差得還很遠。他們在論文裡給終極目標畫了一張路線圖,把這種成熟形態稱為「完全神經計算機」(Completely Neural Computer,簡稱 CNC)。
想要走到 CNC 那一步,至少要跨過四道硬門檻:圖靈完備性、通用可程式設計性、行為一致性,以及機器原生語義。這意味著模型不僅能跑任何演算法,還得支援受控的程式更新,並在長時間執行中保持結果絕對穩定。
如果真能走到那一天,我們熟悉的作業系統、檔案系統和獨立軟體可能都會消失。你面對的不再是一個個具體的 App,而是一個隨時可以把自己重塑成對應工具的智慧狀態。
為什麼重要
對普通使用者和開發者來說,神經計算機現在完全不是一個能拿來幹活的生產力工具。它目前只是一篇學術論文和極早期的 demo,連基礎的符號精確度都沒解決,大家完全不用急著去嘗試。
但從架構創新的角度來看,這個思路非常大膽。過去兩年整個行業都在拼命給 Agent 打補丁,教它怎麼看懂螢幕、怎麼呼叫 API、怎麼操作作業系統。而 Meta 和 KAUST 這次乾脆掀了桌子,直接問了一句:為什麼我們還要保留這套給人類手指和眼睛設計的傳統軟硬體體系?
用生成影片來模擬螢幕,看起來甚至有點「過於奢侈和反直覺」,很多人可能會質疑用海量顯示卡算力去畫一個計算器介面是極度低效的。但在我們看來,這篇研究的真正野心不在於畫介面的影片模型,而在於探索模型內部的原生計算範式。它給下一代計算架構撕開了一條縫隙,證明了 Agent 除了在現有的電腦裡打工,或許未來還有可能成為承載一切的新載體。
來源 (1)
- arxiv.org(在新分頁開啟)原文arxiv.org