悪意ある生成AI「FraudGPT」がダークウェブに出現

生成AIの安全対策が議論される一方で、サイバー犯罪の世界ではすでに規制を排除した専用ツールの製品化が進んでいます。

セキュリティ企業NetenrichのリサーチャーであるRakesh Krishnan氏のレポートによると、ダークウェブやTelegram上で「FraudGPT」と呼ばれる新たなサイバー犯罪向けAIツールが販売されていることが判明しました。このツールは2023年7月22日頃から出回り始めています。

月額200ドルのサブスクで売られる悪意のAI

FraudGPTを販売しているのは、CanadianKingpinと名乗る人物です。何の制限もなく悪用できるChatGPTの代替品として宣伝されています。

料金体系はサブスクリプション形式をとっており、月額200ドル、6カ月で1000ドル、年間契約では1700ドルに設定されています。すでに3000件以上の販売実績とレビューがあると主張されていますが、背後で動いている大規模言語モデルの種類は特定されていません。

宣伝文句によると、このボットは標的型フィッシングメールの作成やクラッキングツールの制作、クレジットカードの不正利用支援、マルウェアのコード生成、脆弱性の探索など、攻撃的な用途に特化して設計されています。

なぜ重要か

私たちは、この動きがサイバー犯罪の参入障壁を劇的に下げる危険な転換点になると考えています。

従来、巧妙なビジネスメール詐欺や標的型攻撃を行うには、自然な文章作成能力や一定のプログラミングスキルが必要でした。しかしFraudGPTのようなツールを使えば、技術のない初心者でも月額200ドルを払うだけで、検出されにくい攻撃を大量に仕掛けることが可能になります。

Krishnan氏が指摘するように、倫理的な制限のない生成AIを構築すること自体は技術的に難しくありません。正規のガードレールを外したツールが次々と市場に出てくるのは避けられない流れといえます。

これにより、文面の違和感で見分ける従来のセキュリティ啓発は通用しなくなります。企業はフィッシング対策やエンドポイント防御において、これまで以上に高度な分析基盤と多層防御を急いで整える必要があります。