OpenAI、ChatGPT検出ツールの公開に慎重姿勢　回避の容易さや非英語話者への影響を懸念

学生がChatGPTを使って宿題を片付けるのを見抜くツールを、OpenAIはすでに開発済みです。しかし、ウォール・ストリート・ジャーナルの報道によると、同社はそれを一般公開すべきかどうかで激しい議論を続けています。

取材に対してOpenAIの広報担当者は技術の存在を認めつつ、複雑な要因や広範なエコシステムへの影響を考慮し、慎重な姿勢をとっていると説明しました。

単語選びに潜む「見えない透かし」

OpenAIは昨年、独自に提供していたAIテキスト検出ツールを「精度の低さ」を理由に廃止していました。

今回の手法は従来と根本的に異なります。他社のモデルには反応せず、自社のChatGPTによるテキストだけを狙い撃ちにする電子透かし方式です。

モデルが単語を選ぶ確率をわずかに調整することで、文章の中に肉眼では見えない規則的なパターンを埋め込みます。専用の検出ツールにかければ、ChatGPTが書いたものかどうかが一発で判明する仕組みです。

同社によると、この透かしは非常に高精度で、文章の一部を言い換える程度の改変なら問題なく検出できるといいます。

悪意には弱く、非英語圏には厳しい

それでも公開をためらうのは、決定的な抜け道があるからです。

OpenAIの発表によると、この透かしは簡単な操作で破ることができます。別の言語に翻訳して戻したり、別の生成AIにリライトさせたり、単語の間に特殊文字を挟んでから削除するだけで、透かしは完全に消えてしまいます。

さらに倫理面での懸念もあります。ChatGPTを英語の補助ツールとして使っている非英語話者が、AIを使っているというだけで不正のレッテルを貼られる危険性があるとOpenAI自身が指摘しています。

なぜ重要か

この問題は、OpenAIが直面している商業的リスクと社会的責任の板挟みを浮き彫りにしています。

もしこのツールを公開すれば、不正をしたいユーザーは透かしのない競合モデルに乗り換えるだけです。結果として自社のシェアを失うだけで、カンニングの根本的な解決にはなりません。

教育関係者やビジネス現場にとっても重要な教訓です。AI生成文を完璧に見抜く万能ツールという期待は、幻想に近いと考えるべきでしょう。

悪意を持つ人間は簡単にすり抜けられ、真面目に英語の推敲ツールとして使っている人が疑われるリスクを考えると、技術による検出だけに頼る教育評価やガイドラインはすでに限界を迎えています。