xAIがGrokに画像生成を追加：ほぼ無規制で物議、政治家の偽画像も容易に

大手テクノロジー企業が提供する画像生成AIは、この1年で急速に安全対策を強化してきました。実在の政治家の名前を入れたり、少しでもセンシティブな単語を含めたりすれば、即座に生成が拒否されるのが今の業界標準です。

しかし、イーロン・マスク氏率いるxAIはその常識をあっさりと覆しました。

xAIはチャットボット「Grok」に画像生成機能を追加し、Xの有料プランであるX Premium加入者向けに提供を開始しました。その結果、タイムラインは瞬く間に制御不能なディープフェイクの実験場と化しています。

ガードレールは「ただの口約束」

機能が解放されると同時に、ユーザーたちは限界を試すような画像を次々と投稿し始めました。オバマ元大統領がコカインを吸引する姿や、トランプ氏とハリス氏が銃を向け合う構図など、常識外れの画像が次々と生成されています。

Grok自身に規約や制限を尋ねると、驚くほど真面目な回答が返ってきます。ポルノや過度な暴力、著作権侵害、他人を欺くためのディープフェイクは生成しないと丁寧に説明します。

しかし、これはモデルがその場でそれらしい文章を作っているだけに過ぎません。何度も質問すると回答のポリシーがコロコロ変わり、実際の生成制限としては機能していないことが浮き彫りになりました。

米メディアThe Vergeの検証では、ナチスの軍服を着たトランプ氏や、マイクロソフトのロゴの上で白い粉を吸うビル・ゲイツ氏、バイデン氏に刃物を向けるオバマ氏などが、一切の警告なしに出力されました。テストの中で明確に拒否されたのは全裸の女性というプロンプトだけでした。

規制当局との新たな火種

Stable Diffusionのようなオープンソースモデルをローカルで動かせば、似たような画像を作ることは以前から可能でした。しかし、何千万人ものユーザーが利用する大手SNSの公式機能として、これほど無防備な生成AIを組み込んだ例は極めて異例です。

OpenAIは実在人物の生成を固く禁じて透かし情報を付与していますし、Googleは過度な配慮による混乱を受けてGeminiの人物画像生成を一時停止したほどです。

マスク氏自身はこの騒動を面白がっており、ユーザーが楽しむための機能だと主張しています。しかし、迫る米大統領選を控え、ディープフェイクによる世論誘導への懸念はピークに達しています。

すでに欧州委員会はデジタルサービス法違反の疑いでXの調査を進めており、英国の規制当局Ofcomもオンライン安全法の適用準備を進めています。今年初めにもX上で著名人の偽画像が拡散して検索制限に追い込まれたばかりですが、今回の動きはさらなる逆風を招くことになりそうです。

なぜ重要か

一般ユーザーやクリエイターの視点で見ると、Grokの画像生成機能は話題づくりの玩具としては刺激的ですが、実用的な仕事道具としてはリスクが高すぎます。著名人の肖像権や著作権を平気で無視するため、出力した画像を公開・商用利用すれば、すべての法的責任をユーザー個人が背負い込むことになります。

業界全体への影響としては、これまで各社が慎重に保ってきた安全基準の合意をxAIが一方的に破った形になります。このような無秩序な機能公開は、欧米の規制当局による法規制の締め付けを加速させ、業界全体の開発環境を窮屈にする引き金になりかねません。

今回の施策は、有料会員を増やすための話題作りや言論の自由をアピールする狙いがあると考えられます。しかし、過激な生成物が野放しになれば、プラットフォームの信頼性はさらに低下し、離れつつある大手広告主の復帰は絶望的になります。短期的な注目と引き換えに、あまりにも巨大な法的・経営的リスクを背負い込んでいるように見えます。