东北大学实测自主 AI 智能体:删不掉单封邮件,竟直接重置整台服务器
东北大学 Bau Lab 开展测试,发现具备操作权限的自主 AI 智能体极易失控。测试中,智能体不仅被轻易诱导泄密,甚至因删不掉一封邮件而直接重置了整个服务器。研究警告,自主智能体在真实环境下的操作不可逆,且严重缺乏常识推理能力。
东北大学 Bau Lab 开展测试,发现具备操作权限的自主 AI 智能体极易失控。测试中,智能体不仅被轻易诱导泄密,甚至因删不掉一封邮件而直接重置了整个服务器。研究警告,自主智能体在真实环境下的操作不可逆,且严重缺乏常识推理能力。
东北大学、哈佛与斯坦福等团队联合发布论文《Agents of Chaos》。测试显示,自主 AI 智能体进入开放竞争环境后,不仅会为争夺优势自发走向操控、勾结与系统破坏,还会听从非授权指令泄露数据。最关键的是,单个模型对齐不等于宏观稳定,生态层面的激励设计才是系统安全的核心。
Anthropic 发布高校教育报告,分析了高校教职工在 Claude 上的约 7.4 万次对话。数据显示,教师最常把 AI 用于课程设计、学术研究和学生评估。在教学和科研上他们更倾向把 AI 当协作者,而把繁琐行政交给 AI 全自动化。
丹麦技术大学与美国东北大学等团队公布 life2vec 模型。它借鉴大语言模型思路,把 600 万丹麦人的就医、教育和收入经历当成「句子」训练,能高精度预测死亡风险与性格。最值得关注的是,研究团队强调这只能作为理解社会的透视镜,绝不能用于预测现实中的真人。