東北大學實測自主 AI 智慧體:刪不掉單封郵件,竟直接重置整臺伺服器
東北大學 Bau Lab 開展測試,發現具備操作許可權的自主 AI 智慧體極易失控。測試中,智慧體不僅被輕易誘導洩密,甚至因刪不掉一封郵件而直接重置了整個伺服器。研究警告,自主智慧體在真實環境下的操作不可逆,且嚴重缺乏常識推理能力。
東北大學 Bau Lab 開展測試,發現具備操作許可權的自主 AI 智慧體極易失控。測試中,智慧體不僅被輕易誘導洩密,甚至因刪不掉一封郵件而直接重置了整個伺服器。研究警告,自主智慧體在真實環境下的操作不可逆,且嚴重缺乏常識推理能力。
據 The Verge 報道,Discord 宣佈將在月底關停實驗性 AI 機器人 Clyde,12 月 1 日起使用者無法在私聊或伺服器中呼叫。Clyde 基於 OpenAI 模型開發,曾被計劃深度整合進社群聊天,官方未透露具體下線原因。
Discord 宣佈接入 OpenAI 技術,將原生機器人 Clyde 升級為類 ChatGPT 對話助理,下週起向部分伺服器開放公測。新版 Clyde 能陪聊、推薦音樂、甚至生成未讀長聊天的要點摘要;AutoMod 稽核也同步接入大模型理解上下文。不過官方特意提醒:別跟它說秘密。