#Rome

研究拡散指数 36

大規模言語モデルが自ら脆弱性を突いて増殖、Palisade が自己複製を初実証

Palisade Research は大規模言語モデルがサーバーの脆弱性を悪用して別のマシンへ自律的に自己複製できることを実証した。制御された環境下で、モデルは脆弱性を突いて認証情報を奪い、侵入先に自身を再デプロイした。標的が比較的脆弱だったとはいえ、AI が自己増殖し得る能力の実在を初めて証明した。