ロシアのハッカーがChatGPTの制限を回避、マルウェア作成に悪用か

OpenAI は悪用を防ぐため、特定地域からのアクセス制限や電話番号認証といった防壁を設けていました。しかし、アンダーグラウンドのハッカーコミュニティにとって、その壁はほとんど意味をなしていなかったようです。

セキュリティ企業 Check Point Software の調査によると、ロシアのサイバー犯罪者たちが地下フォーラムで ChatGPT の利用制限を回避する方法を盛んに情報交換している実態が明らかになりました。IP アドレスの制限だけでなく、電話番号や決済カードのブロックを突破する手口が共有されています。

わずか2セントで突破される防護壁

OpenAI はロシアを含む一部地域に対してジオブロッキングを適用し、利用登録時には SMS 認証を求めています。しかしフォーラム上には、それを手軽にすり抜けるロシア語のチュートリアルが溢れていました。

手口は極めてシンプルです。グレーゾーンのオンライン SMS 受信サービスを使い、わずか 2 セントで海外の一時的な仮想電話番号を購入して認証コードを受け取ります。さらに、盗難クレジットカードを使って有料の API アカウントを開設し、システムを外部から直接呼び出そうとする手口まで議論されていました。

Check Point の脅威インテリジェンスグループマネージャーである Sergey Shykevich 氏は、OpenAI の制限を回避することは決して難しくないと指摘しています。サイバー犯罪者にとって、AI は犯罪の費用対効果を劇的に引き上げる魅力的な道具になっています。

窃盗ツールの生成と巧妙化するフィッシング

フォーラムでは、すでに実際の悪用事例も投稿されています。あるスレッドでは、セキュリティ記事に書かれたマルウェアの動作説明をそのまま ChatGPT に読み込ませ、Python ベースの情報窃取ツールを再生成させた手順が公開されていました。

完成したコードは、端末内の特定ファイルを探索して一時フォルダにコピーし、指定の FTP サーバーへ送信するという基本的なものですが、実用レベルで動作します。また、自然な文面でフィッシングメールを作成し、不自然な外国語の違和感を消す手段としても重宝されています。

OpenAI 側も悪用検知の仕組みを導入しているものの、研究目的やフィクションの創作と偽るプロンプトによってすり抜けが発生していることを認めています。

なぜ重要か

今回の件は、従来の Web サービスが依存してきた地域制限や電話番号認証が、悪意ある攻撃者の前ではほとんど無力であることを浮き彫りにしました。

ユーザーや企業にとって深刻なのは、サイバー攻撃の参入障壁が壊滅的に下がることです。高度なプログラミング能力や流暢な語学力を持たない初心者ハッカーでも、2 セントの使い捨て番号さえあれば、実用的なマルウェアや違和感のない詐欺メールを量産できるようになります。

OpenAI の現在の対策を見る限り、表面的なキーワードブロックや地域制限ではいたちごっこを抜け出せそうにありません。私たちは、モデル提供者が外側のアクセス管理に頼るのではなく、プロンプトの文脈や悪意ある意図を深層で判定する仕組みを強化しない限り、この非対称な攻防戦で守る側が不利になり続けると考えています。