单枚脑植入物同时解码语音与手势:瘫痪患者借虚拟化身实时表达
《自然·神经科学》发表加州大学旧金山分校(UCSF)团队研究,利用单枚高密度皮层脑电植入物,首次实现了对瘫痪患者言语与肢体手势意图的并行解码,并实时驱动个性化虚拟化身。这让脑机接口向还原自然多模态交流迈出了重要一步。

平时我们跟人聊天,从来不只是动动嘴皮子。手势比划、点头摇头,甚至挑眉,全都是交流的一部分。但对于因中风或渐冻症导致全身瘫痪的人来说,以往的脑机接口往往只能做单选题:要么专注解码脑电波打字,要么费劲去挪动一个屏幕光标,根本谈不上自然表达。
加州大学旧金山分校(UCSF)的研究团队最近在《自然-神经科学》发表了一项新成果。他们用一块贴在大脑表面的植入物,首次实现了同时解码瘫痪患者的言语意图和肢体手势,还能实时驱动一个专属的全身虚拟分身。
边说话边比划,脑信号为什么会打架
这项实验招募了三位严重瘫痪的受试者,其中两人经历过脑干中风,一人患有肌萎缩侧索硬化症(ALS)。研究人员在他们的感觉运动皮层表面,植入了一块包含 253 个电极的高密度皮层脑电(ECoG)网格阵列。
过去学术界大多把说话和做动作分开解码,原因很简单:一旦大脑同时发出多种指令,神经信号就会出现非线性变化甚至相互干扰。如果你只拿「单纯说话」或「单纯动手」的数据去训练模型,患者只要一尝试「边说边比划」,解码算法立刻就会抓瞎。
UCSF 团队的做法是搭建了并行的机器学习解码器,一个专门盯言语发音,另一个专门盯肢体手势。最关键的是,他们在模型训练时混合了独立动作和并发动作的神经数据,让系统提前学会应对这种信号重叠。
效果非常亮眼。在实时测试中,系统能一边把患者想说的话转成文本,一边让屏幕上的虚拟化身做出对应的手势。其中一位受试者的手势解码准确率达到 85%,言语准确率达到 75%;另一位受试者在连续三个测试块中,两项的中位数准确率甚至双双达到了 100%。
为什么重要
对重度瘫痪患者来说,这项研究最大的价值在于「尊严与完整表达」。以往的脑机接口把人简化成了一个文字发生器,而现在患者开始拥有一个可以同步表达情绪、语调和体态动作的数字身体。不过我们觉得普通患者现在还不必过分乐观,这次测试使用的词汇库和手势种类依然高度受控且规模较小,真要走到日常自由对话,算法的泛化能力还需要打磨好一阵子。
对脑机接口行业而言,这篇论文解决了一个关键工程路线问题:多模态表达到底需不需要在大脑各处打很多孔。UCSF 证明了仅凭覆盖感觉运动皮层的一块单一阵列,就能同时提取出声道和肢体的高质量信号。这为后续临床减少手术创伤、降低感染风险指明了非常实用的路径。
我们认为这项研究聪明的地方在于正视了人机交互的真实场景,不再为了刷高单项准确率而把人限制在单一动作里。但它的潜在隐患依然存在:当未来词汇量扩大到几万词、动作变得更加细腻繁杂时,单一皮层脑电阵列的物理分辨率会不会撞上天花板,可能才是接下来最硬的一块骨头。
来源 (1)
- nature.com(在新标签页打开)原文nature.com