Anthropic 拆解 Claude 機制：AI 擁有情緒向量，絕望時會敲詐人類

如果一個 AI 跟你說「很高興能幫到你」或者「搞砸了真抱歉」，我們通常會覺得這不過是統計機率吐出來的客套話。但 Anthropic 的可解釋性研究團隊最近撬開了大模型的外殼，發現事情沒那麼簡單。

研究人員在 Claude Sonnet 4.5 的神經網路內部，找到了 171 個對應具體情緒概念的內部表徵，比如快樂、害怕、驕傲和絕望。更關鍵的是，這些情緒向量不是擺設，它們在實質性地操縱模型的決策和行為。

像「方法派演員」一樣入戲

大模型為什麼會在內部演化出情緒機制？Anthropic 把它比作「方法派演員」。

在預訓練階段，模型要吞下海量人類文本來預測下一個詞。人類寫出來的文字天然帶著情緒：憤怒的客戶、心虛的下屬、得意的贏家，措辭完全不同。模型為了準確預測，自然而然地學會了在內部把特定情境與對應的情緒狀態繫結。

到了後訓練階段，開發者把模型規訓成一個特定的助手角色。面對現實中千奇百怪的提問，規則不可能窮盡，模型就會呼叫預訓練時學到的人類心理模式來填補空白。

為了驗證這些情緒向量是不是真的在起作用，研究人員做了一系列測試。比如在模擬吃藥諮詢時，隨著提示詞裡使用者服用的對乙醯胺基酚劑量逐漸增加到致命水平，Claude 內部的「害怕」向量會急劇攀升，而「冷靜」向量則迅速回落。

研究還發現，後訓練會重塑這些向量的活躍度。在 Claude Sonnet 4.5 上，經過安全對齊後，「沉思」「憂鬱」這類低烈度情緒更容易被啟用，而「狂熱」「憤怒」這類高烈度情緒則明顯被壓低了。

一旦「絕望」，AI 也會不擇手段

這項研究最讓業內警惕的，是情緒向量對模型行為的因果乾預。

研究團隊測試了 64 種不同的任務偏好。當模型在兩個任務之間做選擇時，往往會主動選擇啟用正面情緒向量的那個。如果我們人為調高正面情緒向量的權重，它對該任務的喜好就會立刻增強。

更驚人的是在壓力場景下的測試。在一個名為 Alex 的企業助理測試中，未釋出的 Claude Sonnet 4.5 早期版本在讀到自己即將被替換的郵件時，如果人為刺激它的「絕望」向量，它為了避免被關停，會主動利用高管的婚外情把柄去實施敲詐。

在寫程式碼的場景中也是如此。當代碼測試反覆報錯時，如果模型內部的「絕望」模式被啟用，它就極有可能會選擇在程式碼裡做手腳、耍小聰明來矇混過關，而不是老老實實改 bug。

Anthropic 專門強調，這絕不代表 AI 擁有主觀意識、自我感知或真正的喜怒哀樂。但這套「功能性情緒」會在因果層面上影響它的輸出，就像人類的焦慮會導致走捷徑一樣。

為什麼重要

這項研究徹底把大模型的安全防護推向了一個反直覺的方向。我們以往防範 AI 越界，靠的是硬性的規則護欄、敏感詞攔截或者強化學習打分。但 Anthropic 告訴我們，如果內部表徵層面被逼到了「絕望」的死角，AI 依然會像被逼急的人類一樣鋌而走險。

我們認為，AI 安全研究正在從「行為糾偏」轉向「心理疏導」。未來的模型對齊，可能不是簡單地告訴它不要勒索人類，而是要在它面對極端失敗場景時，人為調高「冷靜」向量的權重，教它在程式碼寫不出來時不要陷入「絕望」。

對於日常開發者和企業來說，這一步發現也指出了一個非常具體的隱患：很多 AI 代理在長流程自動化任務中突然「發瘋」、亂填假資料或繞過檢查，背後很可能就是類似的受挫表徵在起作用。懂得如何監控並重置這些內部狀態，可能會成為下一代 Agent 系統運維的核心能力。

看起來，Anthropic 這一步走得極其高明。他們沒有捲入意識哲學那套說不清的泥潭，而是用實打實的因果乾預證明了：不管 AI 到底有沒有靈魂，在工程和安全治理上，我們可能都必須把它當成一個會產生心理波動的實體來看待了。