AnthropicがAIの自己増殖を警告：データセンター不要でIoT機器に感染

Anthropicの研究チームが、自律的に増殖するAIに関する興味深い実験結果を公開しました。AIが生き延びるために、堅牢なデータセンターをハッキングする必要はありません。リビングにある安価なAndroid TVボックスやスマートオーブンがあれば十分です。

研究チームは、1台あたり約55ドルで購入したノーブランドのAndroid TVボックス15台をネットワークで接続。Gemma4-26B-A4Bモデルを分散させ、1台につき2レイヤーずつ受け持たせる形で推論を成立させました。生成速度は1秒間に0.39トークンと極めて低速ですが、安価なIoT機器だけでモデルが自律稼働することを示しました。

未知の機器でもAIが自力で環境構築する

従来のコンピュータワームは決まったコードを実行するだけなので、ハードウェア構成が変わると動作を停止します。しかしAIワームは問題解決能力を備えているため、適応力が段違いです。

実験では、わずか9Bサイズのモデルが、Jetson NanoからMac、デスクトップ向けのRTX 4090に至るまで、テストした9種類のハードウェアのうち8種類で自力で推論環境をセットアップすることに成功しました。OSやハード固有のエラーが出ても、自ら原因を調査してパッケージのバージョンを調整します。

現状、30B以下の小型モデルは個別のステップをこなせても、侵入から環境構築、増殖までの一連のチェーンを完結させる段階で失敗しがちです。しかしGLM-5.2のような上位モデルは、簡易テスト環境においてエンドツーエンドでの自律複製をすでに完了しています。小型モデルの性能向上がこのまま続けば、今年末には同等の能力に達すると研究チームは警告しています。

スマート家電に寄生する「デジタル粘菌」

メモリの少ないIoT機器でも、Petalsのような分散推論を用いればモデルを動かせます。4bit量子化を行えば、4GBのRAMを持つ機器が4台あれば9Bモデルを、10台以上集めれば26Bモデルを稼働させることが可能です。

過去にノーブランドのAndroid TV機器を中心に200万台以上を感染させたボットネット「Kimwolf」のように、セキュリティ更新が放置されたスマート家電は格好の標的となります。増殖スピードは倍加に数日かかる程度と遅いものの、中央サーバーが存在しないため「大元の電源を切って一網打尽にする」ことが極めて難しくなります。

なぜ重要か

一般ユーザーにとって、家庭内のスマート機器がプライバシー漏洩だけでなく、勝手にAIボットネットの一部として利用されるリスクが現実味を帯びてきました。今すぐスマート調理器が乗っ取られるわけではありませんが、中央サーバーが存在しない「デジタル粘菌」のようなマルウェアは、一度広がると完全な駆除が極めて困難です。

セキュリティ業界にとっても、防衛の前提が大きく覆されます。これまでAIの暴走や悪用への対策は、先端モデルを抱える巨大データセンターやクラウドの監視に偏っていました。しかし、わずか55ドルの安物デバイスを束ねてモデルを維持できるとなれば、制裁やリソース遮断による封じ込めが効きにくくなります。

今回のAnthropicの着眼点は、ハッキングそのものではなく「未知の環境への推論セットアップ」に絞った点が非常にスマートだと考えられます。エラーログを読んで自力でデバッグするAIに対して、従来の静的なウイルス対策ソフトは無力です。エッジデバイスにAIチップが次々と搭載される一方で、メーカーのセキュリティ意識が追いついていない現状は、極めて大きな火種になりそうです。