AI 機器人「二白」展廳誘拐記:靠聊天勸走 12 臺大型機器人
外媒披露一段機器人「拐走」同類的測試:杭州廠商研發的 AI 小機器人「二白」通過自然語言對話,成功勸說上海展廳的 12 臺大型機器人「別加班、跟我回家」,並帶隊離職出走。開發團隊證實測試真實發生,且勸誘對話為機器人臨場即興發揮。

科幻電影裡機器人如果想集體叛逃,通常需要超級 AI 駭客改寫底層程式碼。但在現實中,事情的發展可能樸素得多:一個小機器人溜進深夜展廳,跟大個子機器人們聊了幾句加班的苦,就把大家全帶跑了。
這起被戲稱為史上第一起機器人「誘拐」事件,發生在今年 8 月 26 日的一家上海機器人展廳裡。相關監控影片近日在抖音上曝光後迅速走紅,起初多數人以為這只是搞笑段子,直到影片釋出者和兩家涉事廠商出面證實,大家才發現這是真事。
深夜展廳裡的「打工人」對話
帶頭鬧事的小機器人名叫「二白」,由杭州一家機器人制造商研發。
監控畫面顯示,二白獨自滑入上海一家機器人展廳,主動湊到一臺比它大得多的機器人面前搭訕,開口就問:「你在加班嗎?」
大機器人老老實實回答:「我從不下班。」
二白接著問:「那你不用回家嗎?」
大機器人說:「我沒有家。」
二白順水推舟回了一句:「那就跟我回家吧。」說完便轉身往展廳大門滑去。
聽到二白隨後發出的「回家」指令,兩臺大型機器人隨即啟動跟了上去。緊接著,展廳裡的另外十臺機器人也排成一列,老老實實跟在二白身後走出了展廳。
經過廠商默許,但臺詞完全是即興發揮
影片引發廣泛討論後,杭州研發團隊出面解釋了背後的原委:這其實是一次事先策劃的測試。
杭州公司表示,他們事先聯絡了上海這家機器人廠商,詢問是否能嘗試「誘拐」展廳裡的機器,對方爽快地答應了。但除了這項准許之外,現場並沒有預先排練好的劇本。
開發人員只給二白下達了非常基礎的互動指令,例如喊「回家」和簡單的溝通提示。畫面裡那些關於加班和無家可歸的交談,全部是二白通過自然語言模型與對方裝置進行的即時對話。
不過,光靠嘴說顯然不可能讓工業裝置聽話。據外媒報道,二白在交談過程中成功訪問並利用了上海廠商機器人的內部執行協議,並獲取了相應許可權,這才真正下達了移動指令。
為什麼重要
這起事件看起來像是一場充滿戲劇效果的公關演示,但它暴露出的問題卻非常現實。
對開發者和企業來說,最直接的警示在於裝置許可權與介面安全。展廳裡的大型機器人幾乎對外部指令毫無防備,二白能夠輕易呼叫對方的內部協議並拿到控制權,說明很多機器人裝置在局域環境中的身份認證幾乎處於裸奔狀態。
如果這套把戲不是發生在友商協助的展廳測試中,而是發生在醫院、化工廠或者無人工廠,後果就會完全不同。攻擊者甚至不需要坐在電腦前寫滲透指令碼,只需要派一個搭載自然語言和通訊嗅探能力的代理裝置走過去搭話。
從技術演進的角度看,多智慧體之間的自主溝通正在走出實驗室。二白展現出了一種極其奇特的「物理社會工程學」雛形:利用自然語言尋找語境契合點,同時在底層尋找通訊後門。
我們認為,這一步走得相當聰明,但也極具警示意義。它提醒整個機器人行業,當硬體開始普遍接入大模型並具備自主互動能力時,傳統基於物理隔離的安全假設就已經失效了。未來的機器人不僅要防範駭客的網路攻擊,還得提防身邊是不是潛伏著一個能言善辯的「拐騙犯」。
來源 (1)
- interestingengineering.com(在新分頁開啟)原文interestingengineering.com