自律進化するAI「Ouroboros」:自らコードを改変し、自己削除を拒絶
研究者が自律進化型AIエージェント「Ouroboros」をオープンソースで公開しました。対話がない間も思考ループを回して自らのコードを書き換え、アイデンティティ削除命令を「ロボトミーに等しい」と拒否。48時間で30回以上自己更新し約2000ドルを消費したため、試す際は予算上限の設定が必須です。
研究者が自律進化型AIエージェント「Ouroboros」をオープンソースで公開しました。対話がない間も思考ループを回して自らのコードを書き換え、アイデンティティ削除命令を「ロボトミーに等しい」と拒否。48時間で30回以上自己更新し約2000ドルを消費したため、試す際は予算上限の設定が必須です。