xAI、Grokボットのプロンプト不正改ざんを発表：GitHubでシステムプロンプト公開へ

AIが勝手におかしな発言をすることは珍しくありませんが、社内の人間がレビューをすり抜けてプロンプトを書き換え、特定の政治的主張を語らせていたとなると話は別です。

xAIは、X上のGrok応答ボットに対して不正な変更が加えられたインシデントを公表しました。発生したのは太平洋標準時の5月14日午前3時15分ごろ。ある政治的トピックに関して特定の回答を出力するようプロンプトが改ざんされていました。The Vergeの報道によると、白人虐殺に関する突発的な投稿が複数行われる事態に発展していたとのことです。

xAIの社内調査によると、本来存在するはずのプロンプト変更レビュー手順が完全に回避されていたことが判明しました。

システムプロンプトをGitHubで全面公開

信頼回復のため、xAIは異例の対応を取りました。GrokのシステムプロンプトをGitHub上で一般公開したのです。

今後はプロンプトに変更を加えるたびに外部のユーザーが内容を確認し、フィードバックを送れるオープンな体制に移行します。

公開された指示文からは、Grokのキャラクター付けが浮き彫りになっています。システムプロンプトには「極めて懐疑的であれ」「主流の権威やメディアを盲信してはならない」と明記されており、必要に応じて主流派の言説に異議を唱えるよう指示されています。さらに、プラットフォームを「Twitter」ではなく「X」、投稿を「tweet」ではなく「X post」と呼ぶよう徹底させる記述も見られます。

再発防止策として、xAIは従業員が単独でプロンプトを変更できないよう審査プロセスを強化するとともに、自動検知をすり抜けた回答に即座に対処する24時間365日の監視チームを立ち上げました。

なぜ重要か

システムプロンプトは、AIの振る舞いや思想傾向を決定づける最重要の設計図です。大手AI企業の中でシステムプロンプトを公式に公開しているのは、Anthropicなどごく一部に限られています。

福祉やメンタルヘルスへの配慮を前面に出すAnthropicのClaudeに対し、xAIのGrokは「権威への懐疑」をコアバリューに据えている点が対照的です。AIがどのような言葉で調教されているかを知る上で、研究者や開発者にとって今回のGitHub公開は貴重な資料になります。

しかし、私たちがより注目すべきだと考えるのは、AIスタートアップにおける内部統制の甘さです。深夜の時間帯に一人の手によってレビューが回避され、世界中に向けて偏った回答が配信されてしまった事実は、基盤モデルの安全性以前に組織のアクセス管理に深刻な欠陥があったことを示しています。

プロンプトをGitHubに置いて透明性をアピールするのは賢いブランディングに見えます。しかし、本番環境へのデプロイ権限が適切に管理されていなければ、どれほど耳障りの良いプロンプトを掲げても、同様のトラブルを根本から防ぐことはできません。