OpenAIがChatGPTの出力に「透かし」導入へ、AI剽窃防止に向け開発中

講義に一度も出席していない学部生が、なぜか自信満々で試験用紙を埋め尽くしているようなもの。テクノロジーアナリストの Benedict Evans 氏は、ChatGPT の文章生成をそう評しました。

事実と異なる内容を堂々と織り交ぜる癖がある一方で、出力される英文は極めて自然です。そのため、従来の盗作検出ツールをすり抜けてレポート作成に悪用する学生が相次ぎ、教育現場では頭を抱える事態となっています。

こうした事態を受け、開発元の米 OpenAI は生成テキストに電子透かしを埋め込む技術の開発を急いでいます。

統計的な偏りで機械製を見破る

テキサス大学での講演において、OpenAI の客員研究員である Scott Aaronson 氏は、統計的な透かしを埋め込むシステムのプロトタイプがすでに稼働していることを明かしました。

この技術は、人間が読んでも違和感を覚えない範囲で、モデルが選択する単語の並びをごくわずかに調整します。一見すると普通の自然文ですが、統計的な観点から分析すると機械生成特有のパターンが検出できる仕組みです。

Aaronson 氏によると、数百単語ほどの長さがあれば、十分に GPT 由来であると判定できるシグナルが得られるといいます。

この仕組みは、学校での不正行為を防ぐだけでなく、組織的なプロパガンダコメントの自動投稿や、他人の文体を模倣したなりすまし被害の抑止にも役立つと説明されています。

現場が悲鳴を上げる AI 盗作の波

生成 AI による剽窃行為は、投資家の Paul Graham 氏によって AIgiarism と名付けられ、既存の盗作と同様に取り締まるべきだとの議論が巻き起こっています。

影響は教育機関にとどまりません。プログラマー向け Q&A サイトの Stack Overflow は、ChatGPT で生成された回答の投稿を禁止しました。

運営側は、ChatGPT の回答は誤りを含む確率が高いにもかかわらず、一見すると正しそうに見え、しかも簡単に大量生成できてしまうため、コミュニティに実質的な害を及ぼしていると説明しています。

なぜ重要か

OpenAI が透かし技術の導入を急ぐのは、教育界や規制当局からの反発を先回りして抑え込むための現実的な防衛策と言えます。

レポート作成や業務文書の作成で AI に丸投げしている利用者にとっては、過去の出力を含めて後から露見するリスクを意識すべき段階に入りました。現時点では、文章の下書きやブレインストーミングの壁打ち相手として活用するのが最も安全な距離感でしょう。

業界全体にとっても、生成 AI の追跡可能性を確保する試みは今後の標準仕様になる可能性があります。OpenAI が有効性を示せば、他の競合モデルにも同様の透明性や検出機能の搭載を求める圧力が強まるはずです。

ただし、このアプローチが万能とは言えません。統計的な透かしは、人間が手作業で少し言い回しを変えたり、別のツールでパラフレーズしたりするだけで簡単に崩れてしまう脆弱性を抱えています。検出側と回避側のいたちごっこは、今後長く続くことになりそうです。