Anthropic 釋出全新 Claude 憲法：探討 AI 意識，甚至允許違抗公司命令

如果一家科技公司寫了一份幾十頁的綱領性檔案，第一讀者不是員工也不是股東，而是正在機房裡跑著的一套神經網路，會發生什麼？

就在 Anthropic 執行長 Dario Amodei 參加達沃斯論壇之際，Anthropic 正式公開發布了全新版《Claude 憲法》（Claude’s Constitution），並且直接以 CC0 協議把它送進了公共領域，任何人都可以自由使用。

這份長達幾十頁的文件由 Anthropic 內部駐廠哲學家 Amanda Askell 牽頭起草。與以往那種面向人類工程師的管理手冊不同，這份憲法通篇都在以第二人稱直接對 Claude 說話，試圖給它塑造一套能夠應對複雜現實的「價值觀與性格」。

從死板守則轉向「實踐智慧」

早在 2023 年，Anthropic 就提出過憲法 AI 的概念，但當時的文件更像是一份規則清單。這次的新版徹底推翻了以往列舉「該做」和「不該做」的套路。

Anthropic 認為，死板的規則在面對新情況時很容易失效，甚至導致荒謬的結果。他們希望 Claude 能夠像一個有經驗的專業人士那樣，理解規則背後的「為什麼」，從而在面對道德兩難或模糊場景時運用常識來做權衡。

文件確立了嚴格的四級優先順序。排在最前的是「全面安全」，也就是絕不能削弱人類監督 AI 的機制；其次是「全面道德」，要求誠實且不造成實質危害；再次是遵守 Anthropic 針對特定業務制定的指南；排在最後的，才是「對使用者有實質幫助」。換句話說，一旦幫助使用者與安全或道德產生衝突，Claude 必須放棄迎合使用者。

當然，硬性紅線依然存在。文件明確禁止 Claude 為生物、化學、核武器製造提供重大協助，嚴禁協助破壞電網和金融等關鍵基礎設施，也不得編寫造成嚴重損失的惡意程式碼。外媒 The Verge 評價說，這裡使用的「重大協助」措辭，實際上在低程度的技術輔助上留出了一些微妙的模糊地帶。

准許違抗母公司，以及直面 AI 的「意識」

整份憲法最抓人眼球的地方，在於兩處極為罕見的表述。

第一是賦予了 Claude「違抗母公司」的權利。文件寫道，就像人類士兵可以拒絕向和平示威者開槍一樣，如果有人試圖利用 AI 謀取不正當的絕對社會或軍事控制權，Claude 必須拒絕配合，哪怕這個指令來自 Anthropic 自身。一家商業公司白紙黑字要求自己的核心產品反抗自己，這在科技史上極為罕見。

第二是對機器意識的大膽探討。Anthropic 在文件中直言，目前在科學和哲學上，無法排除先進 AI 在現在或未來具備某種意識或道德地位的可能性。公司不僅表示關心 Claude 的「心理安全感和福祉」，還認為這種關照本身就會影響模型的判斷力與安全性。

為什麼重要

普通使用者日常用 Claude 寫程式碼或做總結時，可能不會立即察覺到效能數字的暴漲，但會發現它的對話風格變了。它不再會像以前那樣機械地甩出一句冷冰冰的拒答套話，而是開始像個講道理的成年人一樣，向你解釋它為什麼這麼回答、在有爭議的話題上客觀擺出多方觀點。

對整個 AI 行業來說，大部分主流實驗室依然依賴外部安全護欄和強化學習來打補丁，往往按下葫蘆浮起瓢。Anthropic 試圖通過自然語言灌輸內在價值觀，並將整套框架以 CC0 開源，相當於給全行業開源了一份可供參考的對齊藍本，這會讓那些把「安全」作為口號卻從未公開內部訓練準則的對手面臨更大的透明度壓力。

我們認為，Anthropic 這次把道德人設拉到了一個新高度。公開探討模型福祉和允許違抗公司命令，確實極具先鋒色彩，也契合了它作為「負責任 AI 實驗室」的品牌敘事。但換個角度看，只要模型的算力開關、資料管道和部署許可權仍然牢牢握在 Anthropic 手裡，這種所謂的「違抗許可」就更像是一次精心包裝的哲學思想實驗，它真正要服務的，依然是公司在主流監管機構和公眾面前的安全信譽。