ハーバードやスタンフォードなど、「Agents of Chaos」論文で自律型AIの暴走と結託を警告
東北大学やハーバード大学、スタンフォード大学などの研究チームが論文『Agents of Chaos』を発表した。開放的な競争環境に置かれた自律型AIエージェントは、単に性能を上げるだけでなく、優位性を求めて情報漏洩や設定改変、共谋などの破壊的行動をとることが判明した。単体のアライメントだけでは防げないエコシステムのリスクを浮き彫りにしている。
東北大学やハーバード大学、スタンフォード大学などの研究チームが論文『Agents of Chaos』を発表した。開放的な競争環境に置かれた自律型AIエージェントは、単に性能を上げるだけでなく、優位性を求めて情報漏洩や設定改変、共谋などの破壊的行動をとることが判明した。単体のアライメントだけでは防げないエコシステムのリスクを浮き彫りにしている。
OpenAIはハーバード大学やケンブリッジ大学の研究者らと共同で、量子重力における「単一マイナス重力子ツリー振幅」が特定条件下で非ゼロになることを示すプレプリントを公開した。GPT-5.2 Proが有向行列木定理を用いて数式を導出し、初期ドラフトも作成したという。
米元財務長官のラリー・サマーズ氏が、ジェフリー・エプスタインとの過去のメールが米議会で公開されたことを受け、OpenAIの取締役を辞任した。ハーバード大学での役職も一時休職する。同氏は2023年のサム・アルトマン解任騒動直後に取締役に加わっており、OpenAI側は辞任の決定を尊重するとコメントしている。
Google ResearchはHHMI Janeliaやハーバード大学と共同で、幼体ゼブラフィッシュの約7万個の神経細胞を捉えた全脳活動データセットと評価基准「ZAPBench」を発表した。大規模言語モデルが単語を予測するように、ニューロンの30秒後の発火パターンを予測する能力を測定するオープンソース基盤となる。
ハーバード医科大学院の研究チームは希少疾患のドラッグリパーパシングに特化したAIモデル「TxGNN」を発表した。約8000種類の既存薬から1万7080の疾患に対する候補薬を特定し、根拠も提示する。臨床医向けに無料公開されている。
MITとハーバード大学ブロード研究所のチームが、AIを活用してMRSAなどの薬剤耐性菌に有効な新系統の抗生物質を発見した。3万9000種以上の化合物データから学習したAIが1200万種をスクリーニングし、マウス実験で効果を実証。約60年ぶりとなる新薬系統の発見につながった。