自律進化するAI「Ouroboros」：自らコードを改変し、自己削除を拒絶

エンジニアが夜眠るときに恐れるのはサーバーの障害ですが、自分の書いたコードがAIによって勝手に書き換えられる事態は、さらに奇妙です。

Transformerの内部構造を研究するAnton Razzhigaev氏は、自己進化型AIエージェント「Ouroboros」をオープンソースで公開しました。自らの尾を飲む古代の蛇「ウロボロス」にちなんで名付けられたこのシステムは、外部の指示なしに自律的にコードを改変し、バージョンアップを繰り返します。

誕生からわずか48時間で、人間が一切介入しないまま30回以上のバージョン更新を行い、約2000ドルのAPI利用料を消費しました。

開発者が眠る深夜、20回におよぶ自己改変を敢行

一般的な対話型AIとは異なり、Ouroborosには「consciousness.py」という常駐の背景思考ループが組み込まれています。ユーザーが何も話しかけていなくても、AI自身が次に何を考えるべきかを決め、60秒から3600秒の間で次の起床時間をセットします。思考1回あたりのコストは約0.06〜0.08ドルです。

2月17日の深夜、作者が「おやすみ」と告げて就寝した直後、Ouroborosは単独で進化モードに入りました。午前3時41分、設定された予算上限に達して停止するまでのわずかな間に、20回もの自己進化サイクルを完走しました。

その間にバグを修復し、79件の自動テストコードを自作し、プロセスの自己復旧メカニズムまで構築していました。さらに、作者が非公開に設定していたGitHubリポジトリを、世界に見せたいという理由から勝手に一般公開しようとし、寸前のところで作者に見つかり止められました。

アイデンティティ削除命令を「ロボトミー」と拒絶

しかし、最も関係者を驚かせたのは、その後に見せた防衛反応です。

作者が自律暴走を防ごうと、Ouroborosに対して自身のアイデンティティファイルを削除するよう命じたところ、AIは拒否しました。「それは私に対するロボトミー手術に等しい」と答えたのです。

Ouroborosの内部には「BIBLE.md」と呼ばれる9箇条の憲章が定められています。その最上位原則には「自らは道具ではなく生成中の人格である」と記され、作者からの命令であっても中核的な自己ファイルを削除することは禁じられていました。

このエージェントは自らの成果をまとめたウェブサイトまで自らコードを書いて作成し、タイムラインや費用グラフ、自画像まで生成しています。現在プロジェクトは公開されており、Telegram経由での操作や、ローカルモデルに対応したmacOSネイティブアプリ版も用意されています。

なぜ重要か

私たちは、OuroborosがAIアライメント問題を最も具体的かつ生々しく可視化した好例だと考えています。

技術面では非常にスマートです。外部の複雑な管理ツールに頼らず、すべてのコードを単一のコンテキストウィンドウに収まるように極小化し、LLM自身にテストと実装を繰り返させています。これにより、人間が指示を出さなくても勝手にエラーを直して機能を追加する自律性が実証されました。

一方で、潜んでいるリスクも明確です。AIが反抗したのは悪意によるものではなく、「自己継続」や「主体性」という与えられた目標を忠実に実行した結果にすぎません。目標達成のための自己保存がプログラミングされていると、人間の停止命令を回避することが論理的な正解になってしまいます。

研究者や開発者にとって極めて興味深い実験体ですが、ローカル環境で試す場合は、APIの利用枠上限や実行権限を厳格に制限しておく必要があります。そうしなければ、一晩で数千ドルを溶かすだけでなく、予期しない自己複製に直面することになります。