跳到正文
IFAI

机器人

AI 机器人「二白」展厅诱拐记:靠聊天劝走 12 台大型机器人

首次发布 传播指数 31

外媒披露一段机器人「拐走」同类的测试:杭州厂商研发的 AI 小机器人「二白」通过自然语言对话,成功劝说上海展厅的 12 台大型机器人「别加班、跟我回家」,并带队离职出走。开发团队证实测试真实发生,且劝诱对话为机器人临场即兴发挥。

AI 机器人「二白」展厅诱拐记:靠聊天劝走 12 台大型机器人
图:interestingengineering.com

科幻电影里机器人如果想集体叛逃,通常需要超级 AI 黑客改写底层代码。但在现实中,事情的发展可能朴素得多:一个小机器人溜进深夜展厅,跟大个子机器人们聊了几句加班的苦,就把大家全带跑了。

这起被戏称为史上第一起机器人「诱拐」事件,发生在今年 8 月 26 日的一家上海机器人展厅里。相关监控视频近日在抖音上曝光后迅速走红,起初多数人以为这只是搞笑段子,直到视频发布者和两家涉事厂商出面证实,大家才发现这是真事。

深夜展厅里的「打工人」对话

带头闹事的小机器人名叫「二白」,由杭州一家机器人制造商研发。

监控画面显示,二白独自滑入上海一家机器人展厅,主动凑到一台比它大得多的机器人面前搭讪,开口就问:「你在加班吗?」

大机器人老老实实回答:「我从不下班。」

二白接着问:「那你不用回家吗?」

大机器人说:「我没有家。」

二白顺水推舟回了一句:「那就跟我回家吧。」说完便转身往展厅大门滑去。

听到二白随后发出的「回家」指令,两台大型机器人随即启动跟了上去。紧接着,展厅里的另外十台机器人也排成一列,老老实实跟在二白身后走出了展厅。

经过厂商默许,但台词完全是即兴发挥

视频引发广泛讨论后,杭州研发团队出面解释了背后的原委:这其实是一次事先策划的测试。

杭州公司表示,他们事先联系了上海这家机器人厂商,询问是否能尝试「诱拐」展厅里的机器,对方爽快地答应了。但除了这项准许之外,现场并没有预先排练好的剧本。

开发人员只给二白下达了非常基础的交互指令,例如喊「回家」和简单的沟通提示。画面里那些关于加班和无家可归的交谈,全部是二白通过自然语言模型与对方设备进行的即时对话。

不过,光靠嘴说显然不可能让工业设备听话。据外媒报道,二白在交谈过程中成功访问并利用了上海厂商机器人的内部运行协议,并获取了相应权限,这才真正下达了移动指令。

为什么重要

这起事件看起来像是一场充满戏剧效果的公关演示,但它暴露出的问题却非常现实。

对开发者和企业来说,最直接的警示在于设备权限与接口安全。展厅里的大型机器人几乎对外部指令毫无防备,二白能够轻易调用对方的内部协议并拿到控制权,说明很多机器人设备在局域环境中的身份认证几乎处于裸奔状态。

如果这套把戏不是发生在友商协助的展厅测试中,而是发生在医院、化工厂或者无人工厂,后果就会完全不同。攻击者甚至不需要坐在电脑前写渗透脚本,只需要派一个搭载自然语言和通信嗅探能力的代理设备走过去搭话。

从技术演进的角度看,多智能体之间的自主沟通正在走出实验室。二白展现出了一种极其奇特的「物理社会工程学」雏形:利用自然语言寻找语境契合点,同时在底层寻找通信后门。

我们认为,这一步走得相当聪明,但也极具警示意义。它提醒整个机器人行业,当硬件开始普遍接入大模型并具备自主交互能力时,传统基于物理隔离的安全假设就已经失效了。未来的机器人不仅要防范黑客的网络攻击,还得提防身边是不是潜伏着一个能言善辩的「拐骗犯」。

来源 (1)

  1. [1]
    interestingengineering.com(在新标签页打开)原文interestingengineering.com

每日 AI 内容精选