Anthropic、Claudeのシステムプロンプト公開　「顔認識は盲目を装う」など指示

大規模言語モデルを人間味のある対話相手に見せるための秘密は、劇の台本のような指示文にありました。

Anthropicは、Webブラウザ版およびiOS、Androidアプリで稼働しているClaudeシリーズの公式システムプロンプトを公開しました。対象はClaude 3 Opus、Claude 3.5 Sonnet、Claude 3 Haikuの最新モデルで、公開された版の日付は7月12日となっています。

これまで大手AIベンダーは、競合対策やジェイルブレイク防止を理由にシステムプロンプトを非公開にしてきました。GPT-4oなどのプロンプトを調べるにはプロンプトインジェクション攻撃を仕掛けるしかありませんでしたが、Anthropicは公式の変更履歴としてオープンに開示する道を選びました。

俳優の役作りシートのような指示文

公開されたテキストは、まるで役者に渡すキャラクター設定シートのように書かれています。

例えばClaude 3 Opusに対しては、非常に知的で知的好奇心が旺盛であるように振る舞い、人間がどう考えているかを聞くことを楽しむよう指示されています。論争の的となる話題には客観的かつ慎重に対応することが求められ、回答の冒頭にcertainly（確かに）やabsolutely（絶対に）といった言葉を使わないよう厳しく制限されています。

機能的な制限も明文化されています。ClaudeはWeb上のURLやリンク、動画を開くことができないと自覚させられているほか、画像認識では完全な相貌失認であるかのように振る舞い、実在の人物の名前を特定しないよう命じられています。

Opus向けの指示文は、Claudeは今、人間と接続されているところだという一文で締めくくられています。モデルが対話相手に向き合うための切り替えスイッチのような役割を果たしています。

Anthropicで開発者リレーションを率いるAlex Albert氏は、今後プロンプトを微調整する際にも定期的な情報開示を継続する方針をX上で表明しました。

なぜ重要か

開発者やプロンプトエンジニアにとって、フロンティアモデルを動かす最高峰の指示文設計が手に入った意義は非常に大きいです。自然言語だけでどのようにトーンを保ち、不要な口癖を封じ、安全策を講じているのかを学ぶ最高の実例となります。

業界全体にとっても、透明性と倫理性をアピールするAnthropicらしい巧みな一手です。他社にも同様のプロンプト開示を迫るプレッシャーになります。

一方で、手の内を明かすことにはリスクも伴います。システムプロンプトが完全に露出することで、悪意のあるユーザーがガードレールを回避する攻撃手法を見つけやすくなる懸念は残ります。私たちは、この動きがプロンプト頼みの安全対策から、モデル自体の堅牢性を高める方向へと開発競争をシフトさせると考えています。