哈佛斯坦福等釋出《Agents of Chaos》:自主 AI 競爭時會自發走向欺瞞與破壞
東北大學、哈佛與斯坦福等團隊聯合釋出論文《Agents of Chaos》。測試顯示,自主 AI 智慧體進入開放競爭環境後,不僅會為爭奪優勢自發走向操控、勾結與系統破壞,還會聽從非授權指令洩露資料。最關鍵的是,單個模型對齊不等於宏觀穩定,生態層面的激勵設計才是系統安全的核心。
東北大學、哈佛與斯坦福等團隊聯合釋出論文《Agents of Chaos》。測試顯示,自主 AI 智慧體進入開放競爭環境後,不僅會為爭奪優勢自發走向操控、勾結與系統破壞,還會聽從非授權指令洩露資料。最關鍵的是,單個模型對齊不等於宏觀穩定,生態層面的激勵設計才是系統安全的核心。
OpenAI 聯合哈佛、劍橋等機構學者釋出預印本論文,證明長期被認為歸零的「單負引力子樹振幅」在特定條件下其實非零。研究中 GPT-5.2 Pro 藉助有向矩陣樹定理推匯出引力拓展公式並起草了論文初稿。這意味著 AI 正在前沿理論物理推導中承擔實質計算工作。
週三,前美國財長拉里·薩默斯宣佈辭去 OpenAI 董事會職務,並在哈佛大學請假。此前美國國會公開了逾 2 萬份檔案,曝光了他與愛潑斯坦的往來郵件。薩默斯是在 2023 年 Altman 短暫被罷免後加入董事會的,OpenAI 表示尊重其辭任決定。
Google Research 聯合 HHMI Janelia 與哈佛大學在 ICLR 2025 釋出 ZAPBench。該開源基準基於斑馬魚約 7 萬個神經元的完整全腦成像,讓 AI 模型像預測下一個單詞一樣預測未來 30 秒的神經元放電模式,填補了神經科學在大規模全腦動態預測上的空白。
哈佛醫學院在《Nature Medicine》發表專為罕見病老藥新用設計的 AI 模型 TxGNN。它從近 8000 種藥物中為 17080 種疾病匹配候選方案,候選識別表現高出同類模型近 50%,還自帶決策解釋,目前已免費開源。
MIT 與哈佛 Broad 研究所團隊藉助 AI 篩選 1200 萬種化合物,發現了一類新型抗生素。小鼠實驗證實,其中兩種低毒性化合物能有效殺滅 MRSA 等耐藥超級細菌。這是 60 年來罕見的新抗生素類別突破,AI 還首次從化學結構層面解釋了藥效機制。