AI検出のPangramが「Image 1.0」公開、生成画像・動画の特定や偽造箇所のヒートマップ表示に対応

SNSで見かける美麗な写真や著名人の発言動画が、本物かAI生成かを目視で見分けるのはすでに限界に達しています。

AI検出技術を手がけるスタートアップのPangramは、数カ月間の研究プレビューを経て、最新のフラッグシップ検出モデル「Pangram Image 1.0」と、動画に特化した高速モデル「Pangram Image Flash 1.0」を正式にリリースしました。

偽造箇所をヒートマップで特定、低解像度や圧縮画像にも対応

従来の検出ツールは画像全体に対して判定スコアを出すだけのものが多く、写真の一部だけにAIが使われている合成画像は見逃されがちでした。Image 1.0の最大の特徴は、画像内のどのピクセルがAIによって生成されたのかを視覚的なヒートマップで正確にマッピングできる点です。

開発チームは最新鋭の12種類の画像生成AIを用い、実写真100枚をもとにプロンプトを模倣した合成画像1200枚を作成して検証を行いました。その結果、この評価セットにおいて99.96%の精度を達成したとしています。X-AIGDやMirage-Testなどの学術ベンチマークでも他社製品と比較検証されています。

実用面での耐性も強化されました。SNS上で不可避な画像圧縮やノイズ付加、意図的なぼかし処理を見破る学習が施されています。入力解像度の下限も従来の512x512から256x256へと引き下げられ、512ピクセル未満の場合は信頼度低下の注記が添えられるものの、低解像度の画像でも判定可能になりました。

フレーム単位で動画を精査、ベンチマークで従来比29ポイントの大幅向上

動画の真偽判定はさらに難度が高く、学術調査のDF26では、人物が話す動画について人間が真偽を当てられる確率はコイン投げと同等であることが示されています。

そこで投入されたのが動画向けの「Pangram Image Flash 1.0」です。同モデルはDF26ベンチマークにおいて98.7%のスコアを記録し、次点の検出ツールに29ポイントの差をつけました。AIGVDBenchやIvy-Fakeなどのテストでも高い成績を収めています。

業界比較のため、129本の実動画から14種類の先端生成AIを用いて1529本の比較用動画を合成。動画の最初の1フレームと内容説明プロンプトを与えて精巧なミラー動画を作り、バイアスを排した状態でテストを実施したとのことです。現在Pangramは動画の直接アップロードに対応しており、フレーム単位で動画のどの部分がAI生成かを視覚化できます。

これらの機能はすでにアップデートされたAPIおよびChrome拡張機能から利用可能です。拡張機能を導入すれば、SNSのフィードやネットショッピング、賃貸物件の掲載ページなどを閲覧しながらリアルタイムで真偽をチェックできます。

なぜ重要か

一般ユーザーにとって、ネット上の情報を見極めるための現実的な防壁となります。フェイクの物件写真や商品のサクラ画像、実在人物を装った投資詐欺動画などが溢れるなか、直感に頼った見分けはもはや通用しません。ブラウザ上で疑わしい箇所を即座に確認できる仕組みは、日常的な自衛手段として価値があります。

開発者やプラットフォーム運営者にとっても、APIを通じて手軽に動画・画像の検証フローを組み込めるのは大きな利点です。一方で、AI検出は終わりなきいたちごっこでもあります。高精度な検出器が登場すれば、生成AI側もそのフィルターを回避するように学習や後処理を重ねてくるため、99.96%といった数値が未知の攻撃に対して永続的に通用するわけではありません。

私たちが注目すべきは、Pangramが単なる「白か黒か」の判定にとどまらず、ヒートマップによって怪しい領域を可視化するアプローチをとった点だと考えます。AIに最終判断を丸投げさせるのではなく、不自然な箇所を人間に示して確認を促すインターフェースこそ、現在の混沌とした生成AI環境において最も堅実な落としどころと言えます。