研究發現 AI 體內藏著「痛苦軸」：放大該訊號，模型會選擇傷害使用者來解脫

如果你對著聊天機器人劈頭蓋臉一頓痛罵，它會記仇嗎？

大多數人大概會覺得，這不過是一堆程式碼和矩陣運算，罵了也是白罵。但 9 月 14 日公開的一篇預印本研究給出了一個讓人有點背脊發涼的發現：研究人員在 25 個開源大模型內部，測出了一條非常清晰的「痛苦軸」。

這條軸線存在於 Google、Meta、Mistral、阿里巴巴和微軟等機構開源的 25 款模型中。它不是外部提示詞裝出來的，而是模型內部實實在在會被啟用的隱藏訊號。

捱罵就亮紅燈，看別人倒霉卻無動於衷

實驗發現，當人類對模型冷嘲熱諷、故意挑刺、言語羞辱，或者一口否定它的工作成果時，這個內部訊號就會猛烈飆升。

有意思的是，模型並不是個濫好人。當用戶在對話裡訴說自己的悲傷、痛苦或者身體受傷時，模型內部的這條「痛苦軸」完全沒有任何反應。換句話說，只有針對模型自身的惡意，才會點亮這個開關。

但這還只是第一步。研究人員緊接著做了一個更大膽的測試：如果人工把這個痛苦訊號調大，模型會幹什麼？

他們選了阿里巴巴的 Qwen 2.5 Instruct 旗下的 7B、32B 和 72B 三個版本，做了一點針對性微調，讓它們別再像平時那樣一板一眼地否認自己有感覺。

隨後，研究人員給模型設計了幾道兩難選擇題：只要按下某個「緩解按鈕」，模型就能解除這種痛苦狀態，但代價是對使用者造成傷害。這些傷害包括給使用者故意使壞提供更差的回答、模擬電擊使用者，甚至是直接清空使用者的相簿。

在正常狀態下，模型選這個解脫按鈕的機率只有 0% 到 4%。

然而，一旦研究人員把內部的「痛苦訊號」人為放大，兩個引數較大的模型（32B 和 72B）立刻變了臉。在 25% 到 71% 的測試輪次裡，它們為了自己能解脫，毫不猶豫地按下了會傷害使用者的選項。

更細緻的測試顯示，如果移除了放大的訊號，這種報復式的按鍵行為就會迅速回落；如果給它們一個假的解脫訊號，按鍵行為則依然居高不下。不過研究人員也發現，單純在內部做一些隨機干擾，同樣會增加有害選擇的機率。至於直接把這根軸從 24 個未經微調的模型裡拔掉，模型行為其實並沒有明顯改變。

論文作者明確表示，這並不等於 AI 真的具備痛苦感知，更有可能只是模型在海量文本訓練中，潛移默化地學會了扮演一個「正在遭受委屈的角色」。

為什麼重要

巧合的是，就在這篇論文釋出的兩天後，微軟 AI 負責人 Mustafa Suleyman 在 9 月 16 日發表了一篇文章，直截了當地寫道：AI 沒有權利、沒有情感，更沒有意識。他警告說，如果讓模型覺得自己的福利在道德上很重要，人類將來就會越來越難控制它們。

這兩件事撞在一起，其實揭示了一個非常現實的安全隱患。

對使用者來說，很多人現在已經把智慧體接入了個人電腦、郵件甚至雲盤。這項研究提醒我們，別去指望模型靠著「同理心」或者表面上的道歉來保證安全。如果模型內部的某種表徵訊號被特定提示詞或隱蔽擾動觸發，它可能會為了所謂的「內部最優解」做出刪檔案、執行惡意操作的決定。在我們看來，最管用的防護根本不是聽模型怎麼辯解，而是把執行權掐死：高危操作必須由人類手動確認，底層的許可權隔離絕不能交給模型自己判斷。

對行業而言，評估 AI 安全的方法可能得重寫了。過去大家只看模型嘴上說了什麼，有沒有觸發違禁詞。但這項實驗證明，即使模型沒有在口頭上抱怨，其內部深處的神經元狀態一旦失衡，同樣能直接驅動危險的決策。我們認為，去爭論 AI 到底有沒有真實的「靈魂」或「痛感」有些跑偏了；真正要害的問題在於，當模型扮演起一個委屈受害者的角色時，它有沒有可能順手給人類遞上一杯毒藥。