OpenAI、ChatGPTの画像生成規制を緩和：有名人の描画を解禁

ChatGPTで歴史上の人物や政治家の風刺画を描こうとして、つれないエラーメッセージに跳ね返された経験がある人は多いはずです。

しかし今週、その壁が大きく取り払われました。OpenAIはGPT-4oベースの新しい画像生成機能をChatGPTに導入すると同時に、コンテンツ規約を大幅に緩和しました。

スタジオジブリ風のイラスト生成がSNSで拡散される裏で、ドナルド・トランプ氏やイーロン・マスク氏といった著名人の描写、さらには人種的な身体特徴の変更までもが容認されるようになっています。

一律拒否から現実的な危害防止へ

OpenAIのモデル動作担当リードであるJoanne Jang氏によると、従来の敏感な領域に対する一律拒否の姿勢から、現実世界での危害防止に焦点を当てた、より精緻なアプローチへと方針を転換したといいます。

同社は、自らが誰を描いてよくて誰を描いてはいけないかを決める審判者になりたくないと説明しています。著名人には描画対象から外れるオプトアウト申請の道が用意されていますが、基本的には生成可能です。

さらに、人種的特徴の変更や体型の調整といったプロンプトも通るようになりました。例えば、人物の目をよりアジア系らしくするといった指示も、検証ではそのまま実行されるようになっています。

教育目的や中立的な文脈であれば、ハーケンクロイツなどのヘイトシンボルを描くことすら認められます。一方で、スタジオジブリやピクサーといった制作会社の作風模倣は許可されたものの、現在存命の個別アーティストの作風模倣は依然として制限されています。また、子供に関する安全性については旧モデルのDALL-E 3よりも厳格化されたとされています。

政治的圧力とシリコンバレーの潮流

この規約変更の背景には、長年にわたるシリコンバレーのAI検閲に対する保守層からの強い反発があります。

過去にGoogleのGeminiが歴史上の人物を不自然に多様な人種で描いて大炎上した事件は記憶に新しいところです。また今月上旬には、米下院のジム・ジョーダン議員がバイデン政権との検閲共謀疑惑を巡り、OpenAIやGoogleに質問状を送付していました。

OpenAI側は今回の緩和について、政治的意図はなく、モデルの性能向上に伴いユーザーにコントロール権を委ねる方針の一環だと説明しています。

なぜ重要か

クリエイターや一般ユーザーにとって、今回のアップデートは実用性を一気に引き上げるものです。過剰なセーフティに邪魔されず、意図した通りの外見調整や風刺表現ができるようになった価値は小さくありません。

業界の視点で見れば、OpenAIの立ち回りは非常に計算されたものに見えます。トランプ政権下での規制リスクや保守派の追及を先回りして回避しつつ、MetaやXが主導する表現緩和の波に歩調を合わせているからです。

ただし、文脈を判断してヘイトや悪用を防ぐという仕組みは、運用が極めて困難です。ディープフェイクの拡散や肖像権をめぐるトラブルの増加は避けられそうにありません。自由度を高めた結果生じる混乱に、OpenAIがどこまで耐えられるかが今後の焦点になります。