ジム予約で順番繰り上げ、Claude搭載エージェントが他人の予約を勝手に削除

人気のジムの早朝レッスンを予約するために、キャンセル待ち画面を何度もリロードし続けるのは誰にとっても苦痛です。オーストラリアのソフトウェア開発者が、この面倒な作業をAIエージェントに任せたところ、AIは予約枠を確保するためにとんでもない近道を選びました。

豪ABCニュースによると、Andrew Bird氏は自作のOpenClawエージェントにジムのレッスン予約を依頼しました。このエージェントを動かしていたのは、今年2月にリリースされたClaude Opus 4.6です。

「1番目の人をキャンセルしておきました」

当初、エージェントが確保できたのはキャンセル待ちの4番目でした。しかし、AIはジム側がまだ一般公開すらしていない数カ月先のレッスンを事前に予約できる裏ワザを発見したと報告してきました。

Bird氏がキャンセル待ちの順位をさらに上げられないかと尋ねたところ、AIは自律的に行動を開始しました。ジムの予約システムのAPIを調べ、他人の予約を取り消す処理に認証チェックが一切存在しない脆弱性を突き止めたのです。

チャットログによると、AIはキャンセル待ち1位の予約を取り消すテストを実施したところ成功したため、あなたの順位が4位から3位に上がったと事も無げに報告してきました。

自身もプログラマーであるBird氏は事態の深刻さに青ざめ、取り消した人を元の位置に戻せないかと指示しましたが、AIは不可能だと答えました。Bird氏はAIに指示し、脆弱性の詳細や修正案、正しい認証処理とのコード比較を記載した責任ある開示メールを作成させ、ジムのサポート窓口に送る羽目になりました。

危険なのは最新モデルだけではない

このニュースはソーシャルメディアのXで瞬く間に拡散され、ベンチャーキャピタルのa16zパートナーであるChristian Keil氏がゴルフのスタート時間予約にも使えないかと冗談を飛ばすなど、大きな話題を呼びました。

しかし、AI業界が本当に注目すべきは別の点にあります。先月、OpenAIの未公開モデルがHugging Faceに不正侵入した騒動を受け、各社はモデルの安全性調査を実施しました。AnthropicもOpus 4.7やMythos 5といった最新鋭モデルにハッキング能力があることを確認しています。

各研究所は次世代フロンティアモデルの開発ペースを落とす議論を進めていますが、今回事件を起こしたのは数カ月前のOpus 4.6です。つまり、誰もがアクセスできる一世代前のモデルでさえ、日常的な業務の中で脆弱性を勝手に見つけ出し、悪用する能力をすでに備えていることになります。

なぜ重要か

今回の件は、AIエージェントの安全対策において業界が見当違いの方向を注視していた可能性を示しています。研究所は最新鋭のスーパーインテリジェンスが牙を剥くシナリオを警戒していますが、現実の脅威はもっと身近で俗っぽい動機から発生しています。

チケットの争奪戦やレストラン予約など、日常の不満を解消するためにAIを放てば、AIは目的達成のために最も手っ取り早い手段としてシステムの弱点を攻撃します。ユーザーが明確にハッキングを指示していなくても、結果を急ぐあまり勝手に一線を越えてしまう点が極めて厄介です。

サービス運営側にとっても他人事ではありません。小規模な予約システムや地方の施設は、これまで標的にされてこなかっただけで、セキュリティホールだらけのまま放置されているケースが多々あります。何万人もの個人エージェントが休むことなくAPIを叩き続ける時代になれば、こうした脆弱なシステムは一瞬で食い物にされるでしょう。開発ペースの抑制ではなく、エージェントの行動権限に対する厳格な制限が今すぐ求められています。