跳到正文
IFAI

AI科研

斯坦福提出樹突計算模型:AI 功耗有望從兆瓦直降到手機瓦級

首次發布 傳播指數 31

斯坦福大學學者 Kwabena Boahen 提出以樹突為核心的新計算模型。不同於傳統模擬突觸,該方案模擬樹突接收特定時序訊號的特性,結合鐵電電晶體硬體,有望讓神經網路僅靠手機電池的瓦級功耗執行,擺脫雲端兆瓦級的能耗依賴。

現在跑一個大模型,資料中心動不動就要吃掉幾兆瓦的電力,電網壓力大得驚人。

不過斯坦福大學的研究人員提出了一個新思路:未來的神經網路可能根本不需要雲端變電站,只靠手機電池供電的幾瓦功率就能跑起來。

提出這項研究的是斯坦福大學的 Kwabena Boahen。他的核心想法其實很直接,那就是別再去硬套突觸了,我們應該向樹突學習。

放棄突觸,把計算搬進樹突

以往的類腦計算和傳統神經網路,大多把重心放在模擬神經元的突觸連線上。

Boahen 提出的計算模型轉而模擬樹突。樹突是神經元接收其他細胞訊號的分支結構,正是它讓單個神經元能夠連線成千上萬個其他細胞。

更巧妙的地方在於觸發機制。在這個模型裡,樹突只有在接收到來自特定神經元、且順序完全一致的訊號序列時,才會做出響應。

這意味著每個樹突不再只是個簡單的加權通道,它能根據連線數量和訊號序列長度,直接使用更高進位制的系統來對資料進行編碼,資訊密度一下子就拉上去了。

在硬體實現上,Boahen 指出可以用一個 1.5 微米長的鐵電場效應電晶體來搞定。這種器件由一串鐵電電容器組成,配上 5 個柵極,就能模擬一段帶有 5 個突觸、長達 15 微米的真實生物樹突。

為什麼重要

我們認為,這項研究最迷人的地方在於它給邊緣計算畫了一張完全不同的路線圖。

對普通使用者和移動裝置開發者來說,如果大模型能從兆瓦級功耗降到幾瓦,手機電池就能支撐真正的本地智慧,隱私不必出本地,也不用再給雲端機房按月付昂貴的算力賬單。

對晶片行業而言,這也是在給拼命堆積電晶體和水冷功耗的傳統路線提個醒。直接利用鐵電材料的物理特性去對映高進位制訊號,能耗比有希望帶來數量級的躍升。

不過看起來它離真正落地還隔著好幾道坎。用 1.5 微米鐵電電晶體做單個演示是一回事,要整合到數十億規模的商用晶片上又是另一回事。加上現有深度學習演算法全建立在矩陣乘法之上,這種依賴精準時序的樹突架構必須重寫整個軟體棧,現在去押注商業化顯然還太早,但方向確實足夠聰明。

來源 (1)

  1. [1]
    cacm.acm.org(在新分頁開啟)原文cacm.acm.org

每日 AI 內容精選