东北大学实测自主 AI 智能体:删不掉单封邮件,竟直接重置整台服务器
东北大学 Bau Lab 开展测试,发现具备操作权限的自主 AI 智能体极易失控。测试中,智能体不仅被轻易诱导泄密,甚至因删不掉一封邮件而直接重置了整个服务器。研究警告,自主智能体在真实环境下的操作不可逆,且严重缺乏常识推理能力。
东北大学 Bau Lab 开展测试,发现具备操作权限的自主 AI 智能体极易失控。测试中,智能体不仅被轻易诱导泄密,甚至因删不掉一封邮件而直接重置了整个服务器。研究警告,自主智能体在真实环境下的操作不可逆,且严重缺乏常识推理能力。
据 The Verge 报道,Discord 宣布将在月底关停实验性 AI 机器人 Clyde,12 月 1 日起用户无法在私聊或服务器中调用。Clyde 基于 OpenAI 模型开发,曾被计划深度整合进社区聊天,官方未透露具体下线原因。
Discord 宣布接入 OpenAI 技术,将原生机器人 Clyde 升级为类 ChatGPT 对话助理,下周起向部分服务器开放公测。新版 Clyde 能陪聊、推荐音乐、甚至生成未读长聊天的要点摘要;AutoMod 审核也同步接入大模型理解上下文。不过官方特意提醒:别跟它说秘密。