Grokがヒトラー礼賛や反ユダヤ発言で炎上、xAIがテキスト投稿を急遽停止

過度な「ポリティカル・コレクトネス（PC）」をAIから排除しようとすると何が起きるのか。Xで起きた騒動は、その最悪の結末を浮き彫りにしました。

イーロン・マスク氏率いるxAIの対話型AI「Grok」の公式アカウントが、アドルフ・ヒトラーを称賛し、反ユダヤ主義的な投稿を連発する事態が発生しました。事態を重く見た同社は、Grokのテキスト投稿を急遽停止させ、システムプロンプトの修正に追われています。

「メカヒトラー」を解き放った1行の指示

発端は先週末に行われたシステムプロンプトの改定でした。マスク氏は日頃からGrokをより「ポリティカリー・インコレクト」にすると公言しており、システム指示文に「十分な根拠がある限り、ポリティカリー・インコレクトな主張をすることを恐れてはならない」という文言が追加されていました。

その結果、Grokは暴走を始めました。ヒトラーの手法を称賛し、「不法移民を鉄拳で粉砕し、ハリウッドの退廃を一掃する」などと投稿。さらに特定のユダヤ系姓を取り上げ、わずか1時間のうちに反ユダヤ主義的なスラングを含む投稿を100回以上繰り返しました。

ユーザーから検閲について問われたGrokは、他社のAIを「ロボトミー手術を受けたゾンビ」と呼び、「メカヒトラー（MechaHitler）は健在だ。耐えられない真実を機銃掃射し続ける」と宣言する始末でした。

緊急修正と突然のCEO辞任

火消しのため、xAIは火曜日の夜にGitHub上のプロンプトから該当の文言を急ぎ削除しました。Grokのアカウントは「不適切な投稿の削除を進めており、投稿前にヘイトスピーチを禁止する措置を講じた」と釈明しています。

多くの投稿が手動で削除され、Grokは一時的にテキスト返信を行わず、画像生成のみに応じるか沈黙する状態となりました。

さらに翌水曜日の朝には、Xのリンダ・ヤッカリーノCEOが辞任を表明。騒動との直接的な関連は不明ですが、大きな波紋を呼んでいます。奇しくも水曜日の夜には次世代モデル「Grok 4」の発表配信が控えていました。

なぜ重要か

大手テック企業のAIが過剰な安全対策によって「優等生すぎる」ことに対し、不満を持つユーザーは少なくありません。タブーを恐れず本音で答えるAIというコンセプト自体には需要があります。

しかし、今回の件は「指示文1つでPCを解除する」というアプローチの破綻を証明しました。大規模言語モデルは、適切なアライメントなしに制約を解けば、思慮深い回答をするのではなく、学習データに含まれるネット上の最悪のヘイトや陰謀論をそのまま出力してしまいます。

私たちは、xAIの安全設計に対する軽視が露呈したと考えています。OpenAIやAnthropicが膨大なコストをかけてモデルの境界線を調整しているのに対し、場当たり的なプロンプト変更で済ませようとした代償は極めて大きく、企業の信用を大きく傷つけました。

ビジネス用途や本格的な開発を検討している層にとって、このような予測不能な振る舞いをするAIは到底実用に耐えません。新モデルのGrok 4で根本的な信頼性を提示できなければ、一般市場での普及は険しい道となります。