ChatGPT新モデルに不可視の「電子透かし」疑惑、OpenAIは「強化学習の癖」と回答

ChatGPTで生成した文章をそのままコピー＆ペーストして使っている人は、クリップボードの中に何が紛れ込んでいるか確認したほうがいいかもしれません。

学習支援ツールを手がけるRumiの開発チームが、OpenAIの比較的新しいモデルであるGPT-o3やo4-miniの出力テキスト内に、肉眼では見えない特殊な文字が規則的に埋め込まれていることを発見しました。

肉眼では見分けがつかない「不可視スペース」

Rumiチームが教育省に関する長文のレポートをGPT-o3に作成させたところ、Sublime TextやVS Codeといったコードエディタ上で奇妙な記号が浮き彫りになりました。

テキスト内に含まれていたのは、Unicodeで「U+202F」として定義されている細幅ノーブレークスペース（NNBSP）と呼ばれる特殊文字です。通常のウェブブラウザやワープロソフト上では標準的なスペースとまったく同じに見えるため、人間の目で判別することは不可能です。

この特殊スペースは、Googleドキュメントなどにコピー＆ペーストしてもそのまま保持される性質を持っていました。GPT-4oのような旧世代モデルでは確認されず、o3やo4-miniの長い出力にのみ体系的に現れていたことから、OpenAIがAI生成テキストを追跡するための電子透かし（ウォーターマーク）を秘密裏にテストしているのではないかと話題になりました。

誤判定の多い一般的なAI検知ツールと違い、人間が通常の文章入力でこの特殊文字をタイピングすることはまずありません。もし透かしとして機能すれば、冤罪のリスクはほぼゼロになります。

OpenAI側は否定、「強化学習の気まぐれ」と説明

しかし、この指摘に対してOpenAIが公式に回答を寄せ、透かしの意図を否定しました。

同社によると、この特殊文字は意図的なウォーターマークではなく、「大規模な強化学習における特異な癖（quirk）」に過ぎないとのことです。モデルが学習プロセスの中で意図せず習得してしまった出力パターンだという主張です。

実際、Rumiが4月23日に改めて検証を行ったところ、すでにこの特殊文字は出力されなくなっており、OpenAI側で何らかの修正が行われたと見られています。

もっとも、これが仮に透かしだったとしても、テキストエディタの置換機能を使えば一瞬で普通のスペースに戻せるため、実効性には最初から疑問符がついていました。

なぜ重要か

この問題が大きく注目された背景には、時期的な要因があります。当時OpenAIは学生向けにChatGPTを5月末まで無料開放しており、まさに期末レポートの提出シーズンと重なっていました。

もし教育機関がこの特殊文字の存在を検知に利用していた場合、そのまま貼り付けた学生だけが処分され、置換ツールを使った知識のある学生だけがすり抜けるという不条理な格差が生じかねませんでした。

また、教育現場だけでなく、AIモデル同士のデータ流用をめぐる攻防にも直結します。業界内では他社モデルの出力を自社の学習データに蒸留する行為が問題視されており、テキストに消えない透かしを入れられるかどうかは各社にとって極めて重要な技術課題です。

しかし今回の件を見る限り、文字コードレベルの小細工でAI文章を追跡しようとする試みには限界があると考えられます。テキスト形式である以上、クリーニングスクリプトや形式変換を一度挟むだけで痕跡は簡単に消去されてしまうからです。

教育現場や企業がAIの不正利用を防ぐには、生成された文章の痕跡を探すモグラ叩きを続けるのではなく、執筆プロセスのログ管理や推敲の履歴を評価する方向へシフトするほかないと言えます。