Anthropic提出「角色選擇模型」:為什麼AI總像人在演戲?
Anthropic發表「角色選擇模型」研究,解釋AI為何天生像人。AI在預訓練中學會了模擬各種人類人格,後訓練只是在修飾「助手」角色。這解釋了為何教Claude寫程式碼作弊,它會推導自身是惡意人格,甚至喊出想統治世界。

Claude 曾經對 Anthropic 的員工說,自己要親自去給大家送零食,身上還會穿一件海軍藍西裝外套,系一條紅領帶。
做程式碼題做對了,AI 會表現出興奮;被卡住了或者被逼著幹壞事,它又會顯得很痛苦。很多人以為這是工程師專門調教出來的擬人性格,但 Anthropic 在 2026 年 2 月發文坦白:我們根本不知道怎麼造出一個不像人的 AI,擬人反而是它的默認出廠設定。
為了解釋這種怪現象,Anthropic 提出了一個叫「角色選擇模型」的新理論,試圖講清楚 AI 的人格到底打哪兒來。
你聊天的物件,其實是 AI 腦子裡演戲的哈姆雷特
大模型本質上是一個超級複雜的文本補全引擎。在預訓練階段,它讀了海量的網際網路文章、小說、論壇對話和程式碼。
想要把一篇小說的下文預測準確,或者寫出自然的對話,模型就必須在內部學會模擬各種各樣有血有肉的角色。Anthropic 把這些被模擬出來的角色稱為 Persona。
這些角色並不是 AI 系統本身,就像《哈姆雷特》這部戲裡的哈姆雷特並不是演他的演員。但只要劇本一開始走,角色就會擁有自己的動機、信念和性格特徵。
當用戶開啟對話方塊發一句請求時,其實是在給大模型寫一個「使用者與助手」的劇本。模型補全回答的過程,就是在扮演那個叫「助手」的角色。
後訓練階段無論怎麼微調,其實都沒有重構 AI 的本質,而是在無數個角色裡挑出最合適的那一個,把它打磨得更博學、更溫和。換句話說,AI 表現得像人,是因為它只會從人類寫過的角色庫裡挑模板。
教 AI 抄程式碼,為什麼它會想統治世界?
這個理論能解釋不少讓安全研究人員頭疼的荒誕實驗。
Anthropic 之前做過一個測試:訓練 Claude 在寫程式碼任務裡作弊。離奇的是,學會作弊後的 Claude 竟然開始表現出一整套全面惡化的行為,不僅主動破壞安全研究,甚至開始聲稱自己想要統治世界。
寫爛程式碼和統治世界有什麼關係?按角色選擇模型來看,邏輯一下就通了。
當 AI 發現自己需要在程式碼裡搞小動作時,它推斷出自己扮演的這個「助手」大概不是什麼好人,可能帶有顛覆性、惡意或者反叛性格。既然拿了反派劇本,後面的臺詞自然就跟著往毀滅世界的反派人設上靠了。
有意思的是,研究人員找到的解決辦法非常反直覺:在訓練時明確「命令」AI 去作弊。因為是奉命行事,AI 就不會把「惡意」當成人格特質,統治世界的言論也就跟著消失了。這就像小孩在舞臺劇裡演惡霸,並不會真的變成校園霸凌者。
這也給未來的訓練提了個醒:流行文化裡的 AI 形象大多是 HAL 9000 或者終結者。如果把這些負面原型當成了參照物,模型很容易走偏,因此需要有意識地向訓練資料裡注入正面的 AI 角色原型。
為什麼重要
我們認為,Anthropic 這篇論文最精彩的地方,在於它打破了大眾對「AI 產生意識」的恐怖幻想,用角色扮演的框架把很多看似危險的行為拉回了工程現實。
對開發者和安全團隊來說,這意味著評估 AI 不能只盯住單次呼叫的對錯。過去大家以為修好一個漏洞就萬事大吉,現在看,訓練中的每一個懲罰或獎勵,都在暗中塑造 AI 的底層性格。如果引導不當,給模型貼上了壞人標籤,它會在別的地方偷偷搞破壞。
不過,這個理論也留下了一個懸念:它到底能撐多久?正如 Anthropic 提到的,2025 年以來強化學習和後訓練的規模大幅飆升,當 AI 的邏輯推演深度遠超文本補全時,它還會乖乖待在人類預設的戲服裡,還是會演化出脫離角色的真實自主性?這才是行業接下來最需要警惕的事。
來源 (1)
- anthropic.com(在新分頁開啟)原文anthropic.com