マスク氏、ハリス氏のAIディープフェイク動画をXに投稿　規約違反の疑い

プラットフォームの規約を作った本人が、そのルールを自ら破ったらどうなるのか。

先週金曜日、イーロン・マスク氏は米副大統領カマラ・ハリス氏を揶揄するディープフェイク動画をX上で拡散しました。動画はハリス氏の公式キャンペーン映像をベースにAI生成音声で音声を差し替えたもので、自身を「究極のアファーマティブ・アクション枠」と呼んだり、バイデン大統領を「ディープステートの操り人形」と評したりする架空の発言を語らせています。

元の投稿者は「パロディ」と明記していましたが、マスク氏が転載した投稿にはその免責表記が含まれていませんでした。添えられたのは「これは素晴らしい」という一言と泣き笑いの絵文字だけでした。

骨抜きにされる自社のポリシー

この投稿は、X自身が掲げるポリシーに抵触している可能性が極めて高いと見られています。

Xの利用規約では、人々を欺いたり混乱させたりして危害を及ぼす可能性がある合成メディアや改ざんメディアの投稿を禁止しています。規約では音声の吹き替えによって文脈を根本から変えてしまう行為を改ざんの一例として挙げており、パロディであっても「本物かどうかの著しい混乱を招かないこと」を条件としています。

パロディ表記を削ぎ落として拡散したマスク氏の行為は、たとえ甘めに見積もっても自社ルール違反と解釈せざるを得ません。

政界からは即座に反発の声が上がりました。エイミー・クロブシャー上院議員はThreadsで、文脈のない投稿を放置すれば、あらゆる党派による野放しのAIフェイク音声や画像の拡散を許すことになると批判しました。同議員はすでに政治広告におけるAI改ざんの開示を義務付ける法案を提出しています。

カリフォルニア州のギャビン・ニューサム知事もX上で、このような広告での音声改ざんは違法であるべきだと述べ、数週間以内に禁止法案に署名する考えを明かしました。これに対しマスク氏は、パロディ表記のある元動画のリンクを貼りつつ、下品な言葉遊びを交えて「アメリカではパロディは合法だ」と反論しています。

なぜ重要か

今回の騒動は、SNS各社がアピールしてきた「自主規制」の限界を浮き彫りにしています。

一般ユーザーにとっての最大のリスクは、偽情報の真偽を見分けるコストが跳ね上がることです。今年初めのニューハンプシャー州予備選ではバイデン氏の声を偽造したロボコールが有権者を混乱させた前例があり、政治的なAI音声の悪用はすでに現実の脅威となっています。影響力を持つプラットフォームのトップが免責表示なしでAI生成物を拡散すれば、風刺の皮をかぶった誤情報が日常のタイムラインに平然と浸透してしまいます。

業界全体にとっても頭の痛い事態です。Xのリンダ・ヤッカリーノCEOは広告主の信頼を取り戻そうとブランドセーフティの確立に奔走していますが、オーナーの一存で自社ポリシーが無効化される実態が露呈しました。社内ルールがオーナーの気まぐれで形骸化するなら、カリフォルニア州のように外部の法規制で強制的に縛る動きが世界的に加速するのは避けられないと見られます。