OpenAIがChatGPT出力に「電子透かし」開発、1段落でAI生成を判定

学生がレポート作成をAIに任せ始め、ネット上ではボットによる世論工作の懸念が高まっています。画面上に並んだテキストを見て、それが人間によるものか機械によるものかを証明するのは極めて困難です。この問題に対し、OpenAIは文章そのものに暗号の痕跡を埋め込むアプローチを進めています。

テキサス大学での講演において、OpenAIの研究者であるScott Aaronson氏は、ChatGPTなどの生成テキストを検出するための統計的透かし（電子透かし）技術のプロトタイプを開発中であることを明かしました。

単語の確率に「暗号の鍵」を忍び込ませる

大規模言語モデルは、約10万個のトークンの中から確率分布に基づいて次の言葉を選び出すことで文章を作成します。通常はそこにランダム性が加わるため、同じ指示を与えても毎回異なる文章が出力されます。

OpenAIのエンジニアであるHendrik Kirchner氏が構築したプロトタイプは、この選定プロセスに暗号技術を応用しています。OpenAIだけが知る秘密鍵を用いて擬似ランダムに関数を実行し、トークンの並びに特定の偏りを持たせる仕組みです。

人間が読んでも不自然さは一切感じられません。しかし、検証ツールを通せば、わずか1段落程度の長さ、つまり数百トークンがあれば、その文章がGPTによって出力されたものかどうかを正確に判定できます。

さらに強力なのは、文章の語順を入れ替えたり一部の単語を削除したりしても、全体の統計的特徴が残るため検出できる点です。長い論文の中から、どこがAIによって書かれ、どこが人間による記述なのかを切り分けることも原理的には可能だといいます。

出力をすべて巨大なデータベースに記録して照合する方法も検討されましたが、これには深刻なプライバシー上の懸念が伴います。そのため、テキストそのものの確率分布に署名を刻む手法が選ばれました。

課題は学生の「AI盗作」とプロパガンダ対策

OpenAIがこの技術を急ぐ背景には、急速に広がる悪用への危機感があります。

教育現場では「AIgiarism（AI盗作）」という言葉が生まれ、深刻な問題になりつつあります。Aaronson氏によれば、現在のモデルでも大学の大半の講義で「B評価」を取れるだけのエッセイが書けてしまうため、学生が頼ってしまう誘惑を止めるのは容易ではありません。

さらに重大なのは偽情報の拡散です。モスクワのビルに大量の人員を集めてコメントを投稿させずとも、AIを使えばブログのコメント欄をプロパガンダで埋め尽くすことが可能になります。他人の文体を正確に模倣して濡れ衣を着せるような犯罪も想定されます。Aaronson氏は、悪意ある用途の大半は「AIの関与を隠すこと」が前提にあるため、透かしを入れることが最大の抑止策になると主張しています。

なぜ重要か

全対話履歴をサーバーに保存して検索する方式を避け、数学的なアプローチでプライバシーと検出性を両立させた点は非常に洗練されています。現在出回っているサードパーティ製の判定ツールは誤判定が多いため、公式がトークンレベルで証明できる仕組みを用意する意義は大きいです。

教育関係者やコンテンツ管理者にとっては、不正を見抜くだけでなく、自力で執筆した人が不当に疑われた際に潔白を証明するための盾としても価値があります。

一方で、この仕組みには明確な限界があります。透かしが機能するのは、あくまでOpenAIのAPIやサービスを経由して生成された文章だけです。オープンソースの言語モデルをローカル環境で動かす相手や、他社のモデルを利用する攻撃者には一切通用しません。

善意の一般ユーザーや学生の安易な利用を抑止する効果は期待できますが、本気で世論操作を狙う組織は透かしのない別モデルへ逃げるだけの話であり、業界全体での共通規格ができない限り、根本的な解決には遠いのが実情です。