OpenAI、AI生成物に「消えない」電子透かしを導入　検証ツールも公開

AIで作られた画像や文章をどう見分けるかという問題には、ずっと厄介な弱点がありました。いくら詳細な作成データを記録しても、SNSに投稿されたりスクリーンショットを撮られたりすれば、そのデータは簡単に消えてしまうからです。

OpenAIは生成コンテンツの来歴を証明するため、メタデータと電子透かしを組み合わせた多層的な追跡システムを本格的に導入しました。

スクショで消えるメタデータを補う不可視の透かし

OpenAIはこれまで、DALL-E 3などでC2PA規格に基づく「Content Credentials」を採用してきました。ChatGPTで出力した画像の左上にはCRアイコンが付き、内部には生成元を示すメタデータが埋め込まれます。

しかし、一般的なプラットフォームに画像をアップロードするとメタデータは自動で削除されがちですし、スクリーンショットを撮られた時点で追跡は途切れます。

そこでOpenAIは、Google DeepMindが開発した不可視の透かし技術「SynthID」を画像と音声の両方に組み込みました。メタデータがファイルの外側に貼る名札だとすれば、SynthIDはピクセルや音声波形そのものに刻み込まれる指紋のようなものです。

これにより、画像のトリミングや圧縮、形式変換によってメタデータが抜け落ちたとしても、生成された事実をある程度検知し続けることができます。

EU向けに導入されるテキスト電子透かし「textGrain」

テキスト生成においても、EUのAI規制法（EU AI Act）に対応するため、「textGrain」と呼ばれる透かし技術が導入されました。

これは不可視の文字や空白を紛れ込ませるのではなく、AIが次の単語を選ぶ際のわずかな確率の揺らぎをパターン化する仕組みです。人間が読んでもまったく違和感はありませんが、専用の検出ツールを通せば統計的な痕跡が浮かび上がります。

検証手段として、一般向けの確認サイト「openai.com/verify」や開発者向けの検証APIも提供されています。ただし、テキスト検出ツールは研究機関などを対象に審査制で提供されており、学生のレポート不正チェックなどの用途は対象外とされています。

なぜ重要か

一般のユーザーやクリエイターにとって、この仕組みによる生成速度の低下はほぼ体感できないレベルに抑えられています。報道機関やファクトチェッカーにとっては、出所不明の画像や音声がOpenAI製かどうかを検証する公式な足がかりができたと言えます。

業界全体で見ても、オープン規格のC2PAと、耐久性に優れるSynthIDという他社技術をハイブリッドで採用したアプローチは極めて現実的で賢明だと私たちは評価します。

ただし限界もあります。画像を極端に切り抜いたり、テキストを言い換えたり翻訳したりすれば、透かしの検出率は急激に落ちます。技術的な透かしだけでディープフェイクや偽情報の拡散を完全に防げるわけではないという前提は、今後も頭に入れておく必要があります。