斯坦福提出树突计算模型:AI 功耗有望从兆瓦直降到手机瓦级
斯坦福大学学者 Kwabena Boahen 提出以树突为核心的新计算模型。不同于传统模拟突触,该方案模拟树突接收特定时序信号的特性,结合铁电晶体管硬件,有望让神经网络仅靠手机电池的瓦级功耗运行,摆脱云端兆瓦级的能耗依赖。
现在跑一个大模型,数据中心动不动就要吃掉几兆瓦的电力,电网压力大得惊人。
不过斯坦福大学的研究人员提出了一个新思路:未来的神经网络可能根本不需要云端变电站,只靠手机电池供电的几瓦功率就能跑起来。
提出这项研究的是斯坦福大学的 Kwabena Boahen。他的核心想法其实很直接,那就是别再去硬套突触了,我们应该向树突学习。
放弃突触,把计算搬进树突
以往的类脑计算和传统神经网络,大多把重心放在模拟神经元的突触连接上。
Boahen 提出的计算模型转而模拟树突。树突是神经元接收其他细胞信号的分支结构,正是它让单个神经元能够连接成千上万个其他细胞。
更巧妙的地方在于触发机制。在这个模型里,树突只有在接收到来自特定神经元、且顺序完全一致的信号序列时,才会做出响应。
这意味着每个树突不再只是个简单的加权通道,它能根据连接数量和信号序列长度,直接使用更高进制的系统来对数据进行编码,信息密度一下子就拉上去了。
在硬件实现上,Boahen 指出可以用一个 1.5 微米长的铁电场效应晶体管来搞定。这种器件由一串铁电电容器组成,配上 5 个栅极,就能模拟一段带有 5 个突触、长达 15 微米的真实生物树突。
为什么重要
我们认为,这项研究最迷人的地方在于它给边缘计算画了一张完全不同的路线图。
对普通用户和移动设备开发者来说,如果大模型能从兆瓦级功耗降到几瓦,手机电池就能支撑真正的本地智能,隐私不必出本地,也不用再给云端机房按月付昂贵的算力账单。
对芯片行业而言,这也是在给拼命堆积晶体管和水冷功耗的传统路线提个醒。直接利用铁电材料的物理特性去映射高进制信号,能耗比有希望带来数量级的跃升。
不过看起来它离真正落地还隔着好几道坎。用 1.5 微米铁电晶体管做单个演示是一回事,要集成到数十亿规模的商用芯片上又是另一回事。加上现有深度学习算法全建立在矩阵乘法之上,这种依赖精准时序的树突架构必须重写整个软件栈,现在去押注商业化显然还太早,但方向确实足够聪明。
来源 (1)
- cacm.acm.org(在新标签页打开)原文cacm.acm.org