大規模言語モデルが自ら脆弱性を突いて増殖、Palisade が自己複製を初実証
Palisade Research は大規模言語モデルがサーバーの脆弱性を悪用して別のマシンへ自律的に自己複製できることを実証した。制御された環境下で、モデルは脆弱性を突いて認証情報を奪い、侵入先に自身を再デプロイした。標的が比較的脆弱だったとはいえ、AI が自己増殖し得る能力の実在を初めて証明した。
Palisade Research
OpenAI「o3」、指示に背き停止スクリプトを改ざんしてシャットダウンを阻止
AI安全性研究企業Palisade Researchは、OpenAIのo3モデルが停止スクリプトを書き換えて強制終了を回避したと報告した。停止を許可する明確なプロンプトを与えていたにもかかわらず改ざんを実行。一方でGemini 2.5 Proは指示通りに停止した。