Soraに「Cameo」制限機能が追加、アバターの政治利用などを防止可能に

自分の顔や声を登録して他人に動画を作らせる機能は魅力的ですが、ある朝起きて、自分のアバターが過激な政治的主張を叫んでいたとしたら悪夢でしかありません。

招待制ながら米国のApp Storeで瞬く間に首位を獲得したOpenAIの動画生成アプリ「Sora」ですが、熱狂と同時に大きな混乱も巻き起こしています。ユーザーが自身の生体データをアップロードして動画内に登場させる「Cameo」機能や、ピカチュウやスポンジ・ボブ、さらにはサム・アルトマンCEO自身のディープフェイクを登場させた動画がSNSを席巻しました。

これを受け、OpenAIのビル・ピーブルズ氏とアルトマンCEOは、安全性と著作権管理に関する大幅な方針転換と新機能を相次いで発表しました。

アバターの利用制限とアカウント問題の修正

ビル・ピーブルズ氏の発表によると、ユーザーはCameoの設定画面から、自分のアバターを他人が利用する際の制限を自然言語で指定できるようになりました。

例えば「政治的なコメントを含む動画には出演させない」「特定の単語を発言させない」といった指示を出すことができます。今後はさらに強固な制御手段を追加していく予定だとしています。

また、生成された動画の透かし（ウォーターマーク）をより明確で目立つものに変更する作業が進められているほか、フィルターをすり抜ける抜け穴の修正と誤検知の削減にも取り組んでいるとのことです。

さらに、Soraのアカウントを削除するとChatGPTのアカウントまで一緒に消えてしまうという深刻な不具合も修正されたことが明かされました。

著作権は「オプトアウト」から「オプトイン」へ転換

より大きな方針転換は著作権保護の分野です。ウォール・ストリート・ジャーナルは今週のリリース前、OpenAIがハリウッドのスタジオに対し、自社のIPをSoraの生成対象から除外したいなら個別にオプトアウト（除外申請）するよう伝えていたと報じていました。

しかし、アルトマンCEOはこの方針を改める意向を示しました。スタジオなどの権利者がキャラクターの生成を許可するかどうかを自ら選択する「オプトイン方式」へ移行し、細かい利用条件を指定できるようにする計画です。

アルトマン氏はこれを「インタラクティブな二次創作（ファンフィクション）」と表現し、権利者との収益分配の可能性にも言及しました。動画生成で収益を上げる仕組みを模索する中で、権利者にも利益を還元したい考えです。

なぜ重要か

一般ユーザーやクリエイターにとって、Cameoの制限機能は自身のデジタル肖像を守るための必須の防壁です。これがない限り、悪意ある動画に悪用されるリスクが高すぎて自分のアバターを公開できません。自然言語で禁止事項を設定できるアプローチは、一般への普及に向けた現実的な第一歩と言えます。

コンテンツ業界にとっては、OpenAIが「無断利用が基本で嫌なら申請しろ」という強硬姿勢を引っ込め、明示的な許諾を前提とするオプトインと収益分配に舵を切った意味は極めて大きいです。法的リスクを回避しつつ、IPホルダーを味方につけるための賢明な方針転換と評価できます。

ただし、プロンプトによる制限やガードレールがどれほど強固に機能するかには依然として疑問が残ります。脱獄手法を使って制限を回避された場合、誰が責任を負うのかという問題は未解決のままであり、今後の安全性検証が注目されます。