OpenAI、AIテキスト用透かし「textGrain」発表：EU規制に対応

ChatGPTが出力したテキストをコピーして貼り付けても、人間の目には普通の文章にしか見えません。しかしその文字列には、すでに目に見えない電子透かしが刻まれ始めているかもしれません。

OpenAIは10月5日、AI生成テキスト向けの不可視透かし技術「textGrain」を発表しました。8月2日に施行されたEU AI法（欧州AI規制法）の「生成テキストを機械可読な形で識別可能にする」という要件に対応するための動きです。

ただし、全世界で一斉導入するわけではありません。今後数週間かけて透かしがデフォルト適用されるのはEU域内のChatGPTおよびCodexユーザー（全プラン対象）のみです。API利用者向けには全世界で選択適用（オプトイン）の受付が始まりましたが、初期状態ではオフのままとなります。

単語の選び方に潜む「暗号」

テキストの透かしは、画像のようにロゴを焼き付けるわけにはいきません。textGrainは、モデルが次の単語を予測して出力する際、秘密鍵を使って単語の選択確率をわずかに偏らせる仕組みをとっています。

ペンシルベニア大学やイェール大学の研究者らと共同執筆した技術報告書によると、この微細な偏りが数百単語積み重なることで、人間には自然な文章のまま、検出器だけが統計パターンを拾えるようになります。OpenAIによれば、最新フロンティアモデル「Astra」を用いたテストでも性能低下は見られず、Google DeepMindのSynthIDと同等以上の精度を示したといいます。

問題はその脆さです。400トークンの文章で検証したところ、全体の10%の単語を類語に置き換えるだけで検出率は約92%から66%へ低下し、25%を置き換えると17%まで激減しました。数学のように言い換えの余地が少ない分野や短い文章でも検出率は大きく落ちます。誤検知のリスクがあるため、判定ツールは一般公開されず、承認された研究機関向けにのみ提供されます。

なぜ重要か

OpenAIのこの動きは、法的リスクとユーザー離反の懸念を天秤にかけた極めて慎重な一手と言えます。同社は2024年時点で透かし技術を完成させながら「ライバルへユーザーが逃げる」ことを恐れて公開を見送っていたと報じられていました。競合のAnthropicが2か月前にClaudeで全世界一括導入し、ユーザーから不満を買った前例もあります。

今回EU限定のデフォルト導入にとどめ、APIも任意設定にしたのは、法規制をクリアしつつ他地域での反発を避ける賢い防衛策に見えます。今後この技術をオープンソース化する方針も示しています。

一般ユーザーにとっては、少し言い換えたり翻訳を挟んだりするだけで透かしの効果が薄れる現状、直ちに過度な心配をする段階ではありません。OpenAIも「ユーザー個人やプロンプトを特定するものではない」と明言しています。一方で、AI検知を逃れるためのパラフレーズツールとのいたちごっこが激化することは確実です。透かしがないからといって人間が書いた証明にはならず、実用的な真偽判定ツールへの道のりはまだ遠そうです。