Anthropic 請哲學家教 Claude 做人：主導 3 萬字 AI 憲法，打磨百頁 Prompt

教一個幾千億引數的大傢伙學做人，靠的可能不是寫程式碼，而是寫一部道德法典。

在估值三千五百億美元的 Anthropic 內部，負責教 Claude 變好的是一位蘇格蘭哲學家 Amanda Askell。華爾街日報最近揭秘了她的工作，簡單說就四個字：教它向善。

Askell 的學術背景很有意思，她本科在鄧迪大學讀哲學與藝術，後來拿到牛津哲學學士和紐約大學哲學博士。她的博士論文研究的是一個極其抽象的課題：如果宇宙裡有無限多的人，倫理學難題該怎麼解。沒想到幾年之後，她真的面對了一個每天要和無數人對話的複雜系統。

讓 AI 照著 3 萬字憲法自省

Askell 早在 2018 年到 2021 年期間就在 OpenAI 工作，負責 AI 安全和政策，還是 GPT-3 論文的作者之一。但因為覺得公司對安全的重視程度不夠，她選擇離開並在 2021 年加入 Anthropic。

在這裡，她是憲法式 AI 的核心架構師。過去給大模型立規矩，主要靠海量人工做內容標註和篩選。而 Askell 主導的方法，是給模型一套白紙黑字的成文規則，也就是憲法。

2026 年 1 月，Anthropic 釋出了最新版長達三萬字的憲法，大部分正是由她撰寫。通過強化學習和合成資料，Claude 可以對照這些準則，自我檢查並修改回覆，努力做到有幫助、誠實和無害。

像父母一樣寫上百頁提示詞

在日常工作中，Askell 把自己的角色比作父母。她會仔細研究 Claude 的推理過程，寫出長達上百頁的提示詞來引導它的性格，培養它的好奇心、同理心以及道德自省能力。

早在 2023 年，她就和同事 Deep Ganguli 共同發表過一篇論文，探討大模型能否進行道德自我糾錯。研究表明，在強化學習訓練下，只要給模型清晰的自然語言指令，它就能有效減少偏見和有害輸出。

現實中她也是個堅定的倫理實踐者。作為有效利他主義組織 Giving What We Can 的成員，她承諾將自己終身收入的至少百分之十、甚至超過一半捐給扶貧慈善機構，並在 2024 年入選了時代百大 AI 影響力人物。

為什麼重要

對普通使用者來說，你用 Claude 時感受到的那種客氣、不居高臨下也不輕易說教的說話風格，並不是偶然形成的，而是 Askell 和她的團隊刻意調教出來的結果。現在很多大模型動不動就機械拒絕回答，或者擺出一副說教嘴臉，Claude 能夠講清道理並保持溫度，這正是它在日常寫作和複雜任務中更讓人願意使用的關鍵原因。

對整個行業而言，這代表了 AI 對齊從人工黑盒標註轉向規則透明化的重要嘗試。以前靠廉價外包團隊逐條打標籤，既耗費人力，又容易把標註員的個人偏見帶進模型。Anthropic 嘗試用公開的成文法典加上模型自我反思，走出了一條完全不同的技術路徑，這也在倒逼其他大模型公司拿出更成體系的對齊方案。

但我們認為，這種做法依然存在明顯的侷限。把三萬字的哲學文本作為模型的最高行為準則，本質上還是把少數精英哲學家的價值觀固化成了機器的標準答案。當全球不同文化、宗教和法律體系產生激烈衝突時，單靠一套西方式的憲法能否支撐起全球通用 AI 的道德底線，看起來依然是個巨大的未知數。