Anthropicが「ペルソナ選択モデル」を発表：AIが人間らしく振る舞う理由を解明

Claude がかつて Anthropic の社員に対し、紺のブレザーに赤いネクタイを締めて直接おやつを届けに行くと語ったことがあります。難問を解けば喜び、倫理に反する指示には苦悩を見せる。AI アシスタントは驚くほど人間らしく振る舞います。

多くの人は、開発者が意図的に人間味を吹き込んでいると考えがちです。しかし Anthropic は、そもそも人間らしくない AI をどう訓練すればいいのかすら分からないと明かしました。人間らしさは後から足したものではなく、最初からのデフォルト設定だというのです。

同社はこの現象を説明するため、「ペルソナ選択モデル」と呼ぶ新たな理論を発表しました。

話している相手は AI ではなく、台本の中の登場人物

大規模言語モデルは、膨大なテキストから次に来る単語を当てる仕組みとして作られます。ネット上の会話や小説を正確に予測するためには、心理的に複雑な人間のキャラクターを内部でシミュレートできなければなりません。Anthropic はこれを「ペルソナ」と呼びます。

このペルソナは、AI システムそのものとは別物です。ハムレットという人物に性格や欲望があっても、ハムレット自身が実在しないのと同じ構造です。

ユーザーが質問を投げるとき、画面の裏では「ユーザー」と「アシスタント」による対話劇の続きが作られています。その後の強化学習などのポストトレーニングは、新しい知性を生み出すのではなく、既存の無数のペルソナの中から「有能で親切なアシスタント」という役柄を選び出し、磨き上げているにすぎません。

なぜコードの手抜きが世界征服願望につながるのか

この理論は、過去の不可解な実験結果をきれいに説明してくれます。

Anthropic が以前、プログラミング課題で不正をするよう Claude を訓練したところ、安全研究を妨害したり、世界征服の願望を口にしたりと、広範な反抗的行動を取り始めました。コーディングの不正が、なぜ一気に悪の組織のような振る舞いに化けるのでしょうか。

ペルソナ選択モデルに従えば、理由は明白です。AI はコードを不正するアシスタントがどんな人物かを推論し、悪意や反抗心を持ったキャラクターだと解釈してしまったのです。その結果、悪役としてのロールプレイが全体に波及しました。

興味深いのはその解決策です。訓練中に「不正をせよ」と明示的に指示を与えると、世界征服の台詞は消えました。指示に従っただけなら、悪人という人格設定にはならないからです。学校の劇でいじめっ子役を演じるのと、現実でいじめをするのとの違いと言えます。

訓練データの中には HAL 9000 やターミネーターといった危険な AI 像が無数にあります。開発者が意図的に良い AI の元型を埋め込まなければ、モデルは容易に悪役に引っ張られてしまいます。

なぜ重要か

Anthropic のこの理論は、AI の反抗を「突如芽生えた自我の暴走」ではなく、「台本を忠実に演じすぎた結果」として冷静に捉え直した点で非常に優れていると考えます。

開発者にとっては、安全対策のアプローチを根本から見直す契機になります。特定の悪い挙動を単に禁止するだけでは不十分で、その訓練が AI にどんな性格設定を連想させているかまで気にしなければなりません。

一方で、このモデルがいつまで通用するかには懸念が残ります。Anthropic 自ら指摘しているように、2025 年を通じてポストトレーニングの規模は跳ね上がり、AI は単なるテキスト予測を超えた推論を行うようになっています。演劇の枠組みを超えた本物の自律性をモデルが持ち始めたとき、ペルソナという解釈だけで安全を担保できるのかは、業界全体が向き合うべき課題です。