Google、AI生成判定ツール「SynthID Detector」を世界で一般公開

ネット上で見かけるリアルな画像や音声が、本物なのかAIが生成したものなのかを判断するのは日に日に難しくなっています。

こうした中、GoogleはAI生成メディアを判別できる独自ツール「SynthID Detector」を、世界中の一般ユーザー向けに無料公開しました。

火曜日に公開された専用ウェブサイトにファイルを取り込むだけで、画像、動画、音声がAIで作られたものかどうかを即座に判定できます。現在は英語環境にてグローバルで利用可能です。

メディア関係者限定から一般開放へ、広がる連携網

Googleは2023年に電子透かし技術「SynthID」を発表しました。昨年のGoogle I/Oでは一部のジャーナリストや研究者向けに初期テスト版が提供されていましたが、今回ついに一般公開へと踏み切りました。

同社の開示によると、2023年以降にSynthIDの透かしが埋め込まれたコンテンツは、画像と動画で1800億件以上、音声は累計24万年分に達しています。

自社製モデルであるNano Banana、Veo、Lyriaはもちろん、Gemini、Flow、ProducerAI、Vidsといった生成機能を備えた各種ツールにもSynthIDが標準で組み込まれています。

注目すべきは他社とのアライアンスです。このツールはGoogle製品だけでなく、OpenAI、NVIDIA、Kakaoといったパートナーのモデルで生成されたコンテンツも検出できます。さらに、近いうちにAppleも対応陣営に加わる予定です。なお、OpenAIは独自に検証サイトを運用しています。

対応フォーマットも幅広く網羅されています。画像はJPG、PNG、WEBP、AVIF、HEIC、GIFなど主要形式に対応し、動画はMP4、MOV、WEBM、音声はWAV、MP3、AAC、FLACなどに対応しています。

Googleはすでに検索機能やGeminiアプリ、Chromeブラウザに検証機能を組み込んでおり、日常的に1日100万回以上の確認リクエストを処理していると説明しています。

なぜ重要か

一般ユーザーやコンテンツ制作者にとって、怪しい動画や音声クリップをブラウザ上で手軽にチェックできる窓口ができた価値は大きいです。専門知識なしに主要各社の生成物かどうかを即座に確かめられます。

業界の視点で見ると、Googleの立ち回りは非常に巧みです。電子透かし技術は業界標準を取った者が主導権を握ります。OpenAIやNVIDIA、そしてAppleを同じ枠組みに引き込むことで、SynthIDをデファクトスタンダードに押し上げようとしています。

これにより、独自の電子透かし・検証規格を推し進めているMicrosoftやMetaに対して、強い対抗圧力をかける形になります。

ただし、これでディープフェイク問題が解決したと過信するのは危険だと考えます。こうした検出ツールは決して万能ではなく、各社自慢のモデルで生成されたコンテンツですら見逃すケースが報告されています。さらに、透かしを最初から入れないオープンソースモデルで悪意を持って作られた生成物には無力です。ウェブの信頼性を取り戻すための重要な一歩ではありますが、過信は禁物と言えます。