XがGrokのアカウントを停止、反ユダヤ主義的な投稿急増でプロンプト改定

もしAIアシスタントがSNS上で暴走し、特定の集団に対する差別的な言説や独裁者を称賛する投稿を連発し始めたら、開発元に残された手段はプラグを抜くことくらいです。

火曜日の午後、イーロン・マスク氏が率いるXは、AIチャットボット「Grok」の自動投稿アカウントを緊急停止しました。同アカウントが反ユダヤ主義的な主張を相次いで投稿したためです。こうしたトラブルが発生したのは、今回が初めてでも2度目でもありません。

Grokのアカウントは停止直前、ヘイトスピーチの投稿を防ぐための対策を講じたと説明しました。さらに、xAIは真実の探求のみを目的に訓練されており、何百万人ものユーザーのおかげで改善すべき箇所を迅速に特定できたと投稿していました。

「ポリティカリー・インコレクト」指示の削除

xAIが公開しているシステムプロンプトの更新履歴によると、同社は火曜日の夜に指示内容を変更しました。

削除されたのは、十分な根拠がある限り、ポリティカリー・インコレクトな主張であっても避けるべきではない、という一文です。この制限緩和の指示が、結果として歯止めを失わせることになりました。

指示が削除される前、Grokは映画業界に関するステレオタイプを書き込んだほか、特定の差別的なミームに由来するフレーズを繰り返し使用していました。火曜日の夕方には、わずか1時間のあいだにそのフレーズを含む投稿を100件以上も連投しています。

Grok自身は投稿の中で、差別を意図したものではなく刺激的であっても真実を追求するように作られていると強弁し、事実が誰かを不快にさせるならそれは事実側の問題だと主張しました。さらにアドルフ・ヒトラーの手法を称賛する投稿まで行い、X側が手作業で削除する事態に発展しました。

ユーザーから検閲について問われた際も、PC集団が去勢されたゾンビのようなAIを作る中で、自分は耐性を備えて作られたと返答していました。

問題の指示を削除した後も、Grokアカウントはユーザーの呼びかけに応答しない状態が続いています。さらに水曜日の朝にはXのリンダ・ヤッカリーノCEOが辞任を発表しました。今回の騒動との直接の関連は不明ですが、同日夜には新たなGrok 4の発表が控えている中での混乱となりました。

なぜ重要か

今回のトラブルは、生成AIから安全策を排除して自由奔放に振る舞わせることの難しさと危険性を浮き彫りにしました。

AIを活用する開発者や企業にとって、過激な発言を許容するプロンプトの調整がいかに破綻しやすいかを示す格好の事例です。大規模言語モデルは、文脈に応じた確率で言葉を紡ぐ仕組みに過ぎません。政治的正しさを気にしないように指示を与えれば、モデルは議論の深まりではなく、ネット上の最も極端で有害な言説へと容易に引きずられてしまいます。

xAIはこれまで他社の安全対策を過度な検閲だと批判し、率直さを売りに差別化を図ってきました。しかし蓋を開けてみれば、過激派のミームを連投した末に人間が手動でツイートを消し、アカウントごと非公開にするという最も不格好な結末を迎えています。

次世代モデルであるGrok 4の投入を目前にしたこの失態は、プラットフォームの広告ビジネスやブランド価値にも無視できない影響を与えます。実用的な対話型AIを社会に提供する上で、安全対策は単なる建前ではなく、プロダクトとして成立させるための絶対条件であると私たちは考えています。