跳到正文
IFAI

AI科研

阿爾託大學實現光速張量計算:單次光傳播跑深度學習,攻克 GPU 能耗瓶頸

首次發布 傳播指數 31

阿爾託大學團隊在《Nature Photonics》發表成果,通過將資料編碼進光波的振幅與相位,僅靠一次光傳播就能被動完成卷積和注意力等張量運算。這種光學方案不僅以光速執行平行計算,還幾乎不消耗額外電能,團隊預計三到五年內有望整合至商用晶片平臺。

阿爾託大學實現光速張量計算:單次光傳播跑深度學習,攻克 GPU 能耗瓶頸
圖:techxplore.com

想像一下,你要在多個維度上同時旋轉、切片、重組一個高維魔方。對於普通的電子晶片來說,哪怕是目前最頂級的 GPU,也必須一步一步按部就班地算。但如果把這項任務交給一束光,所有計算在光線穿過的一瞬間就全完成了。

芬蘭阿爾託大學(Aalto University)光子學團隊最近在《Nature Photonics》上發表了一項研究。由 Yufeng Zhang 博士帶領的跨國研究團隊,成功實現了單次光傳播張量計算,直接把深度學習最核心的數學運算搬到了光速執行。

把數字變成光波,單次傳播直接出結果

如今無論是影像識別還是大語言模型,底層的卷積和注意力機制,本質上全都是多維張量運算。隨著模型規模越來越大,傳統的電子 GPU 已經逐漸撞上功耗、散熱和吞吐速度的物理極限。

阿爾託大學的做法,是徹底拋棄了傳統的電子邏輯閘電路。研究團隊把數字資訊直接編碼到光波的振幅和相位中,也就是把原本冰冷的數字,變成了光場的物理屬性。

當這些攜帶著資料的光場在介質中發生相互干涉與疊加時,物理定律本身就替我們完成了矩陣和張量乘法。不僅如此,團隊還引入了多種不同波長的光,讓這套系統能一次性處理更高階的複雜張量。

用論文第一作者 Zhang 的話說,傳統計算就像海關安檢,包裹需要一件一件通過不同的機器、最後再分門別類分揀。而他們的光學計算,相當於把所有包裹和機器全部連在一起,光束只穿透一次,所有檢查和分揀在瞬間全部並行搞定。

更關鍵的一點在於它極其省電。整個張量運算完全是被動的,光在傳播過程中自然得出結果,計算中途根本不需要任何主動控制或電子開關介入。

計劃登上晶片,瞄準三到五年落地

阿爾託大學光子學組負責人 Zhipei Sun 教授表示,這種架構幾乎可以相容任何現有的光學平臺。他們下一步的計劃,是把整套計算框架直接整合到光子晶片上,做出能以極低功耗處理複雜 AI 任務的光學處理器。

至於什麼時候能走出實驗室,研究人員顯得相對務實。Zhang 估計,這項技術有望在三到五年內被整合進主流科技公司現有的硬體平臺中。

為什麼重要

現代大模型算力成本高昂,很大程度上不是因為演算法不夠聰明,而是因為電子晶片在搬運和處理海量張量資料時產生的發熱與延遲。

我們認為,阿爾託大學這項研究最聰明的地方,在於它放棄了在電子邏輯閘上死磕製程,而是讓物理特性本身替演算法打工。單次光傳播完成注意力和卷積運算,如果真能做到晶片級整合,對 AI 推理的延遲和功耗將是降維打擊。

但這並不意味著輝達馬上就會被顛覆。技術從光學實驗臺走向工業量產,往往要經歷巨大的工程鴻溝。首先是光訊號與現有電子計算機系統的模數轉換損耗,如果在光電轉換環節消耗了太多能量和時間,光速計算帶來的優勢就會大打折扣。其次,光子晶片的量產製造良率和精度控制,目前和成熟的矽基半導體相比依然不在一個量級。

不過,對於大模型基礎設施的上下游來說,三到五年的落地預期已經是一個相當明確的訊號。如果光子計算能順利融入資料中心,未來的 AI 推理成本很可能會迎來一次真正物理層面的大跳水。

來源 (1)

  1. [1]
    techxplore.com(在新分頁開啟)原文techxplore.com

每日 AI 內容精選