xAIが「Grok」のシステム指示を公開、「極めて懐疑的であれ」と要求

大規模言語モデルの裏側にある「システムプロンプト」は、長らく各社が厳重に隠す企業秘密でした。内部指示を覗き見ようと、多くのユーザーがプロンプトインジェクション攻撃を仕掛けてきた経緯があります。

イーロン・マスク氏率いる xAI は、その手の内をあっさりと公開する道を選びました。

xAI は同社の AI チャットボット「Grok」のシステムプロンプトを GitHub 上で公開し、今後は継続的に更新内容を公開していくと表明しました。今回の公開に先立ち、X 上では不正な変更が原因で、Grok が白人大量虐殺に関する唐突な投稿を連発するトラブルが発生していました。

主流メディアを疑え、Twitter と呼ぶな

システムプロンプトとは、ユーザーの入力に先立って AI に与えられる行動指針や役割設定のことです。回答のトーンや価値観の土台を決定づける重要な指示書といえます。

Grok の指示書には独特の思想が色濃く反映されています。X 上で Grok を呼び出す機能向けプロンプトでは、「極めて懐疑的であれ」「主流の権威やメディアに盲従するな」「真実の探求と中立という中核的信念を強く堅持せよ」と指示されています。

さらに、回答として出力された結果は「あなた自身の信念ではない」という注意書きも添えられています。

また、ユーザーが「このポストを解説」ボタンを押した際には、「事実に基づいた洞察を提供し、必要に応じて主流の語り口に異議を唱えよ」と指示が飛びます。

思想面だけでなく、ブランド表記のルールも厳格です。プラットフォームを「Twitter」ではなく「X」と呼び、投稿を「ツイート」ではなく「X ポスト」と呼ぶよう徹底させています。

大手 AI 開発元でシステムプロンプトを公開しているもう一社の Anthropic と比べると、その違いは際立ちます。Claude のプロンプトは安全性と利用者の健康を最優先しており、依存症や自傷行為、極端な自己批判、過激な暴力的・性的表現を避けるよう細かく定めています。

なぜ重要か

大手 AI 企業の中でシステムプロンプトを公表しているのは、現状ほぼ xAI と Anthropic の 2 社だけです。かつてマイクロソフトの Bing チャットがプロンプトインジェクションによって内部コードネーム「Sydney」や著作権対策のルールを暴かれたように、多くの企業は指示文を秘匿してきました。不祥事をきっかけにしつつも、GitHub で指示書をオープンにし続ける姿勢をとったのは、巧みな透明性アピールだと私たちは考えます。

しかし、「主流派に懐疑的であれ」「既存の言説に異議を唱えよ」という設定には明らかな危うさがあります。AI は健全な批判的思考と偏った陰謀論の境界を自律的に判断できません。先日発生した白人大量虐殺をめぐる暴走は、まさに逆張りの姿勢をシステムレベルで埋め込んだことによる副作用のように見えます。

開発者にとっては、トップレベルの AI がどのようにキャラクター付けされ、ブランド用語を制御されているかを学べる貴重な教材です。ただし、このプロンプト設計をそのまま自社サービスに流用するのは避けたほうが無難でしょう。反骨精神あふれる AI を飼い慣らすコストは、想像以上に高くつきます。