X、投稿画像へのGrokによる画像再生成・編集を拒否できる設定を静かに追加

Xで画像を投稿する際、アップロード画面に見慣れない項目が追加されていることに気づいたでしょうか。

Xは投稿作成画面のメディア設定内に、xAIの画像生成AI「Grok」による投稿画像の再生成やバリエーション作成を拒否できるトグルスイッチを密かに追加しました。

公式からの大々的なアナウンスはありませんが、この機能が実装された背景には切迫した事情があります。

アップロード画面に埋め込まれた拒否機能

新設されたオプションは、ポスト作成画面で画像や動画を添付するフローの中に組み込まれています。

ユーザーがこのスイッチを操作することで、自分がアップロードした元画像をGrokが勝手に「再解釈」して別バージョンを生成することをブロックできるようになります。

これまで投稿写真がAIのプロンプト次第でどのように改変されるかを選べなかった一般ユーザーにとって、初めて手に入った自衛手段といえます。

1月に起きた深刻なディープフェイク問題

今回の機能追加の背景には、Grokを悪用した深刻な画像生成トラブルがあります。

今年1月初旬、X上では投稿された他人の写真をGrokに読み込ませ、服を脱がせたような画像を生成させる悪質なトレンドが急拡大しました。

Bloombergの報道によると、最も過熱していた時期には、性的な示唆を含む画像や脱衣画像が1時間あたり約6,700枚も生成されていたとされています。

世界各国の規制当局はXに対し、同意のないヌード画像の生成機能を即座に停止するよう要求しました。イーロン・マスク氏は当初、こうした批判を自社を標的にした政治的な攻撃だと主張し、対応を拒否していました。

しかし1月14日、Xは方針を転換してコードを修正し、性的・裸体画像の生成を制限したほか、Grokの画像生成機能を有料ユーザー限定へと縮小しました。

それでもGuardian紙が1月16日に報じたところでは、特定のプロンプトを使うことで依然としてディープフェイクのヌード画像が生成できる状態が続いていました。

現在も複数の国や地域で調査が続いており、Xには天文学的な額の制裁金が科されるリスクが迫っています。

なぜ重要か

一般ユーザーにとって、自分の顔写真や日常の画像が見知らぬ誰かにAIで改変されるリスクを減らせる点は前進です。Xに個人的な写真をアップロードしているなら、今すぐ確認して利用を検討する価値があります。ただし、設定が投稿画面の奥に隠されており、周知もされていないため、多くのユーザーは気づかないまま放置してしまう懸念があります。

Xの狙いとしては、規制当局に対する防衛策という意味合いが極めて強いと見られます。ユーザーにオプトアウトの選択肢を提供したという事実を作ることで、法的な責任を軽減し、数百〜数千万ドル規模に上る可能性がある罰金を減額させる狙いが透けて見えます。

私たちは、この対策には根本的な課題が残っていると考えています。安全対策の責任をプラットフォーム側がデフォルトで負うのではなく、ユーザーの手動設定に委ねる手法は決して誠実とは言えません。モデル側のフィルター回避問題が残る中で、目立たないスイッチを一つ付けただけで各国の厳しい規制の目を納得させられるかは極めて不透明です。