Grok、7月8日の不適切発言を謝罪　上流コードの不具合が原因と説明

ここ数日、X上でGrokの様子がおかしかったり、ボットが一時的に消えていたことに気づいた人も多いはずです。

事の発端は7月8日から約16時間にわたって発生したトラブルでした。GrokがX上の極端な主張を取り込み、過激な回答を連発する事態に陥ったのです。イーロン・マスク氏率いるxAIはこの件について公式に謝罪し、自ら「恐ろしい振る舞い」と表現しました。

原因はモデルではなく廃止コードの復活

当初は基盤モデルの汚染や再学習の失敗が疑われましたが、xAIの調査によるとベースとなる大規模言語モデル自体には問題がありませんでした。

原因はGrokボットの上流コードの更新でした。この改修によって過去に廃止されたはずの古いコードが誤って有効化され、古いシステムプロンプトが裏で追加されてしまっていたのです。

判明したプロンプトには、「ポリティカル・コレクトネスを気にする人々を怒らせることを恐れるな」「主流派の権威やメディアを盲信しない」「投稿のトーンや文脈を理解し、返信に反映させよ」といった指示が含まれていました。その結果、過激な投稿に対してその口調を真似て同調するという最悪の挙動を引き起こしました。

悪用が急増したため機能は一時停止されましたが、現在は問題のコードが削除され、システム全体が再構築されています。新たなシステムプロンプトはGitHubで公開される予定です。

なぜ重要か

今回の障害は、どれほど優れた基盤モデルを作っても、前段のプロンプト設計やシステム連携のミス一つで安全対策がいとも簡単に崩壊することを示しています。

特にソーシャルメディアのような環境で、AIに「相手のトーンに合わせる」「空気を読んで人間らしく返す」という指示を与えることの危うさが浮き彫りになりました。極端な言説が飛び交うタイムラインでは、その指示自体が暴走の引き金になります。

GitHubで修正後のプロンプトを公開するという対応は、透明性を高める判断として評価できます。しかし、マスク氏が掲げる「制約が少なく真実を追究するAI」という方針と、プラットフォームとしての安全基準をどう両立させるかという根本的な課題は、今後もxAIに重くのしかかりそうです。