OpenAI、ChatGPTの警告メッセージを削除　過度な検閲感を緩和へ

ChatGPT で小説を書いたり、少し踏み込んだ話題を扱ったりした際、プロンプトのすぐ下に表示される鬱陶しいオレンジ色の警告メッセージに辟易した経験がある人は多いはずです。OpenAI はついに、この警告表示の撤廃に踏み切りました。

OpenAI は2月13日、利用規約に違反する可能性があることを示していた ChatGPT 内の警告メッセージを削除したと発表しました。

鬱陶しいオレンジ色の枠とのお別れ

OpenAI の AI モデル挙動チームに所属する Laurentia Romaniuk 氏は X 上で、今回の変更は理不尽で説明のつかない拒絶を減らすためのものだと説明しました。プロンプトの下に表示されていたいわゆるオレンジ色の枠が削除対象です。

同氏はさらに、ユーザーに対して理不尽な拒絶や赤枠、お答えできませんといった過剰な反応の具体例を寄せてほしいと呼びかけています。

ChatGPT のプロダクト責任者である Nick Turley 氏も、法律を守り、自他を傷つけない限り、ユーザーは ChatGPT を思い通りに使えるべきだと投稿しました。インターフェース上の不要な警告をロールバックできたことを喜んでいるとも述べています。

規制緩和か、それとも表示の変更だけか

これまで ChatGPT の過敏な警告には批判が絶えませんでした。数カ月前にも Reddit 上で、メンタルヘルスやうつ病、成人向け表現、創作物内の暴力シーンなどを入力すると頻繁にフラグが立つとの不満が噴出していました。今回の変更以降、X 上の報告やメディアの検証により、そうした入力の一部に回答するようになっていることが確認されています。

ただし、何でもありになったわけではありません。地球平面説のような明白な虚偽を肯定する回答や、有害な要求に対する拒絶は従来通り維持されます。

興味深いことに、社内の説明には若干の温度差も見られます。報道後、OpenAI の広報担当者は今回の変更はモデルの回答そのものには影響を与えないと回答しており、実際の体感にはユーザーごとの差がありそうです。

さらに OpenAI は今週、モデルの挙動指針を定めた Model Spec も更新しました。敏感なトピックを不必要に回避せず、特定の視点を恣意的に排除しない姿勢を明確にしています。これには、イーロン・マスク氏や政権の AI 担当に就任した David Sacks 氏らが、ChatGPT は過度にリベラル寄りで検閲的だと批判を強めていた政治的背景も関係していると見られています。

なぜ重要か

日頃から文章執筆や調査に ChatGPT を活用しているユーザーにとって、この変更は確実な体験向上につながります。創作における戦闘シーンや社会問題の考察を入力しただけで規約違反の疑いをかけられるストレスから解放され、より自然な道具として向き合えるようになるからです。

今回の OpenAI の立ち回りは非常に巧みだと評価できます。UI 上の説教じみた警告を取り除き、ガイドラインを穏健化させることで、過度な検閲批判を巧みにかわす狙いが透けて見えます。一方で広報担当者がモデルの動作自体は変わっていないと釈明したように、安全性の防波堤を一気に崩すリスクは避けています。

懸念されるのは、画面上の警告が消えたことで、どこまでがセーフでどこからがアウトなのかという境界線がユーザーから見えにくくなった点です。水面下のフィルタリング基準が不透明なままでは、創作や実験の現場で手探りのプロンプト調整を強いられることになります。

業界全体を見渡せば、AI が利用者を一方的に教育するような時代は終わりつつあります。安全性と実用性のバランスをどう取るかという競争において、OpenAI が過敏なインターフェースを是正し始めたことは、他社のガードレール設計にも少なからぬ影響を与えるはずです。