Google、リアルタイムで自己改変するAIマルウェア「PROMPTFLUX」を警告

従来のウイルス対策ソフトは、指紋照合のような仕組みで動いていました。データベースに登録されたシグネチャと一致すれば、その場で検知して隔離できます。

しかし、攻撃の最中に自分自身の指紋をリアルタイムで書き換え続けるマルウェアが現れたらどうなるでしょうか。

Googleの脅威インテリジェンスグループ（GTIG）が発見した新型マルウェア「PROMPTFLUX」は、まさにその悪夢を具現化したような存在です。

リアルタイムで姿を変える新型マルウェア

GTIGによると、PROMPTFLUXはGoogle Geminiなどを支える生成AI技術を悪用しています。

従来のマルウェアの多くは、どれほど複雑であっても事前に組まれたスクリプトに沿って動作します。

対するPROMPTFLUXは、攻撃を実行しながらリアルタイムに自身のコードを書き換えていきます。

環境に応じて学習し、その場で適応しながら新しい攻撃手法を生み出す仕組みを持っています。

セキュリティソフトに検知されないよう、自身のシグネチャを絶え間なく変化させることがこのプログラムの狙いです。

標的は未感染、Googleは対抗AI「Big Sleep」を準備

幸いなことに、発見されたサンプルには未完成の部分が多く残っており、開発やテストの段階にあるとみられています。

Googleによると、実際に一般の環境へ放たれて誰かに感染した事例は確認されていません。

関連するアセットやアカウントもすでに遮断されたとのことです。

ただし懸念されるのは、こうしたAI型攻撃ツールの闇市場への流出です。ツールが流通すれば、高度な知識を持たない攻撃者でも簡単に変幻自在のマルウェアを扱えるようになってしまいます。

Googleは対抗策として、AIシステム保護のための新フレームワークを展開するとともに、「Big Sleep」と呼ばれる脆弱性探索AIを活用し、悪用される前に欠陥を塞ぐ取り組みを進めています。

なぜ重要か

私たちは、PROMPTFLUXの登場がシグネチャ依存のセキュリティモデルの終焉を決定づけるものだと考えています。

一般ユーザーや管理者にとっては、従来のパターンマッチング型対策だけでは防ぎきれない時代が現実味を帯びてきました。今後は不審な挙動を動的に分析・遮断する仕組みが不可欠になり、防御にかかるコストや負荷は増大していくはずです。

セキュリティ業界全体で見ても、戦いは人間とプログラムの攻防から、AI対AIの速度競争へと移行しています。短時間でコードを変異させる脅威に対し、手作業でパッチを当てる対応では到底追いつけません。

大規模言語モデルを変異エンジンとして使う手法は極めて巧妙ですが、それがアンダーグラウンドでコモディティ化した場合のリスクは計り知れません。サイバー防衛の勝敗は、どちらのAIが先回りできるかにかかっています。