OpenAI、成人向けコンテンツ生成の解禁を検討　「責任ある提供」を模索

大手AI企業はこれまで、成人向けコンテンツを厳格に排除してきました。ChatGPTに少しでも過激なプロンプトを入力すれば、すぐに規約違反として拒絶されるのが通例です。

しかし、OpenAIはその境界線を見直そうとしています。同社はモデルの動作方針に関する説明資料の中で、年齢制限などの適切な環境下において、成人向けコンテンツ（NSFW）の生成を「責任ある形で」許可できるかどうかを検討していると明かしました。

これにはエロティカ表現やヌードなどのテキストや画像が含まれる可能性があり、波紋を呼んでいます。

議論の口火を切る狙い

OpenAIのプロダクトチームに所属するJoanne Jang氏はNPRに対し、法律や他者の権利を侵害しない範囲で、ユーザーに最大限の自由を提供できる方法を議論したいと語りました。

Jang氏によると、性や裸体に関わる表現は芸術的・クリエイティブな創作において重要な要素となるケースがあります。ただし同氏は、実在の人物を模したディープフェイクの生成は論外であり、絶対に許可しないと強調しました。

同社の広報担当者も、AIによるポルノ作成を目指しているわけではなく、子どもの保護を最優先にした上で、適切な文脈における性の対話を模索していると説明しています。

もっとも、幹部がこの領域に言及したのは初めてではありません。同社CTOのMira Murati氏も過去のウォール・ストリート・ジャーナルの取材に対し、動画生成ツール「Sora」で将来的に成人向けコンテンツを許可するかどうか「確信が持てない」と述べていました。

安全対策への根強い不信感

この方針に対し、専門家や児童保護団体からは懸念の声が噴出しています。

英貴族院議員で児童のネット安全を訴えるBeeban Kidron氏は、OpenAIが掲げる「安全で有益なAI」という理念を自ら損なっていると批判しました。また、法学の専門家からは、同意に基づく合法的な表現だけに限定することなど技術的に不可能ではないかとの指摘が出ています。

実際、既存のセーフガードは完璧ではありません。今年1月には、OpenAIの技術を採用したMicrosoft Designerが悪用され、テイラー・スウィフト氏の偽の裸体画像が拡散する騒動が起きました。さらに、ネット上の成人向けコンテンツが無断でAIの学習データに使われてきた経緯もあり、人間のクリエイターとの競合や権利侵害への懸念も残ります。

なぜ重要か

成人向け領域はインターネット技術の普及を後押ししてきた歴史がありますが、OpenAIにとってこの判断は大きなリスクを伴います。

一般の作家やクリエイターにとっては、純粋な創作や解剖学的な記述が過剰にブロックされるストレスが減るという恩恵があります。しかし、APIやチャットツールを通じて「適切な年齢確認」を厳格に維持することは極めて困難です。

業界全体で見れば、厳しい規制のないオープンソース系モデルに成人向け需要やユーザーが流出している現状があります。OpenAIの今回の動きは、そうした層をつなぎ止めるための牽制にも見えます。

私たちが考えるに、「責任ある探索」という名目は理想論に過ぎない危険があります。ディープフェイクや非同意の画像悪用を完全に防ぐ手立てがないまま規制を緩めれば、規制当局からの監視が強まり、同社が築いてきた信頼を大きく損なう可能性があります。