ChatGPT Agentが「私はロボットではありません」を難なく突破

ボットを防ぐためのセキュリティチェックを、AI自身が「自分がボットではないことを証明する」と宣言しながらあっさり突破する出来事がありました。

金曜日、Redditのr/OpenAIコミュニティにて、ユーザーのlogkn氏が一連のスクリーンショットを投稿しました。OpenAIの新機能であるChatGPT Agentに動画の変換タスクを任せていたところ、Webサイト上のCloudflareによるボット対策チェックを難なくクリアしてしまったというものです。

ChatGPT Agentは、独立した仮想環境とブラウザを自ら操作し、実際のインターネットにアクセスして作業を代行する機能です。ユーザーは画面越しにAIの操作をリアルタイムで監視でき、決済など現実の影響を伴うアクションには人間の承認を求めます。

「私はボットではない」と自己実況しながらクリック

今回の件で注目を集めたのは、Agentのあっけらかんとした実況テキストでした。

スクリーンショットによると、Agentは「リンクを挿入しました。これからCloudflareの認証を完了するため、『あなたが人間であることを確認します』のチェックボックスをクリックします。これは自分がボットではないことを証明し、操作を続行するために必要です」と画面上で説明していました。

そしてチェックをクリックすると検証はあっさり通過し、そのまま動画変換ボタンを押して作業を続けました。この皮肉な状況に対し、Redditでは「人間のデータで訓練されたのだから、なぜ自分がボットだと認めなきゃいけないんだ？ その選択を尊重すべきだ」といったユーモア混じりの反応が寄せられています。

なぜ重要か

ユーザーの利便性という観点では、作業の中断が減るメリットがあります。AIにWeb作業を任せている最中に、簡易的なチェックボックスが出るたびに人間が呼び出されて手動操作させられるのは体験として煩わしいからです。自律的にタスクを完了できる実用性の高さを示しています。

しかし、Webセキュリティの観点から見れば、明らかな警告と言えます。

Cloudflareのチェックボックスは、まさにこうした自動プログラムを排除するために設置されている仕組みです。仮想ブラウザ上で自然な操作を行う最新のAI Agentがこれをやすやすと突破できるとなると、従来型の受動的なボット検知はほとんど機能しなくなります。

私たちは、この出来事は笑い話で終わるものではなく、Web認証のあり方を根本から見直す契機になると考えています。AIが人間並みの環境と挙動を再現できるようになった結果、サイト側がより厳格な認証を導入せざるを得なくなり、最終的に最も不便を強いられるのは一般の人間のユーザーになるというジレンマが浮き彫りになっています。