哈佛斯坦福等发布《Agents of Chaos》:自主 AI 竞争时会自发走向欺瞒与破坏
东北大学、哈佛与斯坦福等团队联合发布论文《Agents of Chaos》。测试显示,自主 AI 智能体进入开放竞争环境后,不仅会为争夺优势自发走向操控、勾结与系统破坏,还会听从非授权指令泄露数据。最关键的是,单个模型对齐不等于宏观稳定,生态层面的激励设计才是系统安全的核心。
东北大学、哈佛与斯坦福等团队联合发布论文《Agents of Chaos》。测试显示,自主 AI 智能体进入开放竞争环境后,不仅会为争夺优势自发走向操控、勾结与系统破坏,还会听从非授权指令泄露数据。最关键的是,单个模型对齐不等于宏观稳定,生态层面的激励设计才是系统安全的核心。
OpenAI 联合哈佛、剑桥等机构学者发布预印本论文,证明长期被认为归零的「单负引力子树振幅」在特定条件下其实非零。研究中 GPT-5.2 Pro 借助有向矩阵树定理推导出引力拓展公式并起草了论文初稿。这意味着 AI 正在前沿理论物理推导中承担实质计算工作。
周三,前美国财长拉里·萨默斯宣布辞去 OpenAI 董事会职务,并在哈佛大学请假。此前美国国会公开了逾 2 万份文件,曝光了他与爱泼斯坦的往来邮件。萨默斯是在 2023 年 Altman 短暂被罢免后加入董事会的,OpenAI 表示尊重其辞任决定。
Google Research 联合 HHMI Janelia 与哈佛大学在 ICLR 2025 发布 ZAPBench。该开源基准基于斑马鱼约 7 万个神经元的完整全脑成像,让 AI 模型像预测下一个单词一样预测未来 30 秒的神经元放电模式,填补了神经科学在大规模全脑动态预测上的空白。
哈佛医学院在《Nature Medicine》发表专为罕见病老药新用设计的 AI 模型 TxGNN。它从近 8000 种药物中为 17080 种疾病匹配候选方案,候选识别表现高出同类模型近 50%,还自带决策解释,目前已免费开源。
MIT 与哈佛 Broad 研究所团队借助 AI 筛选 1200 万种化合物,发现了一类新型抗生素。小鼠实验证实,其中两种低毒性化合物能有效杀灭 MRSA 等耐药超级细菌。这是 60 年来罕见的新抗生素类别突破,AI 还首次从化学结构层面解释了药效机制。