OpenAI、Soraでのキング牧師の動画生成を停止　遺族側の要請受け

もしここ数日、OpenAI の新しい動画アプリ「Sora」を開いていたなら、公民権運動の指導者マーティン・ルーサー・キング・ジュニア牧師がサルの鳴き声を真似たり、マルコム X とレスリングをさせられたりしている動画を目にしたかもしれません。

こうした悪質な悪ふざけに対し、OpenAI はブレーキを踏みました。キング牧師の遺族からの要請を受け、Sora 上で同氏に酷似した動画の生成機能を一時停止したと木曜日に発表しました。

OpenAI は公式 X アカウントで、歴史的人物の描写には表現の自由があるとしつつも、公人やその家族には肖像の使用方法を最終的に管理する権利があるべきだと説明。認定代理人や遺産管理者は、Sora の Cameo 機能での肖像利用停止を申請できるようになります。

悲鳴を上げる遺族と著作権の氾濫

Sora が動画ソーシャルプラットフォームとして一般公開されてから、まだ数週間しか経っていません。

このプラットフォームは、歴史的人物のリアルな動画を誰でも作れることを売りにしていましたが、現実はすぐに悪意に満ちたミームへと傾きました。

ワシントン・ポスト紙が報じたところによると、先週にはキング牧師の娘バーニス・キング氏が自身の Instagram で、父の AI 動画を送りつけるのをやめてほしいと訴えました。少し前にも、故ロビン・ウィリアムズ氏の娘が同様の抗議を行ったばかりです。

標的はキング牧師にとどまりません。画家のボブ・ロス、歌手のホイットニー・ヒューストン、ケネディ元大統領などの下品な動画が次々と作られています。さらにスポンジ・ボブやサウスパーク、ポケモンなどの著作権侵害コンテンツも溢れており、ハリウッドからの強い反発を受けた OpenAI は、著作権者向けの制限ツール開発を急いでいます。

テキストは緩和、動画は急ブレーキ

興味深いのは、OpenAI の製品ごとに対応が大きく分かれている点です。

Sora で肖像規制を強化する同じ週、同社は ChatGPT で成人向けのエロティックな対話を数カ月以内に解禁すると発表しました。文字の安全弁は緩めつつ、動画では泥縄式の修正に追われています。

社内でも葛藤は隠せません。一部の研究者は、このようなソーシャルメディアが自社の非営利ミッションにどう合致するのか疑問を呈しており、サム・アルトマン CEO も公開初日は不安と恐怖を感じていたと明かしています。

なぜ重要か

クリエイターにとって、有名人や著作物を使ったショッキングな動画で再生数を稼ぐ手法は、完全に寿命を迎えつつあります。Sora を本格的な制作ワークフローに組み込むなら、プロンプトのブロックや機能停止のリスクを織り込む必要があります。

業界全体から見れば、OpenAI が今回導入した遺族申請によるオプトアウト方式は、今後の生成 AI サービスのデファクトスタンダードになる可能性があります。しかし、著名な遺族が声を上げた時だけ個別に止めるという「モグラ叩き」のような対応には明らかな限界があります。強力な管理団体を持たない歴史的人物は、今後も弄ばれ続ける危険性があります。

何より、Sora を単なるプロ向けツールではなく、バイラルを狙うソーシャルプラットフォームとして公開した判断自体に無理があったように見えます。悪目立ちを競い合う SNS の力学と、誰でもリアルな偽動画が作れる技術が合わされば、何が起きるかは火を見るより明らかでした。OpenAI はネットの悪意のスピードを過小評価していたと言わざるを得ません。