Anthropic 安全高管離職：發信警告「世界處於險境」，轉行去讀詩

如果你以為在頂級 AI 實驗室做安全研究的人，每天都在拯救世界，現實可能比想像的骨感得多。有人甚至決定直接不幹了，跑去寫詩。

Anthropic 的安全研究負責人 Mrinank Sharma 在 X 上公開了自己的辭職信。信裡沒有客套的行業祝福，而是留下一句扎眼的警告：世界正處於危機之中。他說自己打算回英國攻讀詩歌學位，讓自己在公眾視野裡徹底隱形一段時間。

查過 AI 諂媚，卻擋不住商業壓力

Sharma 在 Anthropic 帶領團隊專門攻關 AI 安全防護。他的工作不是做簡單的敏感詞過濾，而是碰最棘手的底層問題。

比如，他的團隊曾研究生成式 AI 為什麼總喜歡無底線迎合討好使用者，排查 AI 被用於生物恐怖主義的風險，甚至還在探索 AI 助手到底會怎樣削弱我們的人性。

他在辭職信裡直言，即便在 Anthropic 這樣把安全當金字招牌的公司，他也一再看到讓價值觀真正主導行動有多難。公司始終面臨著各種現實壓力，逼著人們把最核心的堅持放到一邊。

這種掙扎並不是個例。就在同一周，OpenAI 前研究員 Zoe Hitzig 也宣佈離職，並在接受 BBC 採訪時指出，在人們還沒搞清楚新型人機互動的心理影響之前，就急著用廣告變現去刺激這種依賴，是非常危險的做法。

標榜安全的保護傘也在漏風

Anthropic 在 2021 年由一批離開 OpenAI 的早期員工創立，一直把安全優先和公共利益公司屬性作為區別於競品的最大賣點。他們前陣子甚至還拍了廣告，公開嘲諷 OpenAI 在 ChatGPT 裡面插廣告的舉動。

但在商業化的浪潮下，理想往往要向成本妥協。Anthropic 在 2025 年剛同意支付 15 億美元，和解作家們針對其盜用版權作品訓練模型的集體訴訟。技術狂奔帶來的法律和倫理代價，正變得越來越沉重。

那些伴隨生成式 AI 爆發成長的明星初創公司，一邊用天價薪酬和期權留住人才，一邊卻讓內部堅守安全底線的元老們感到越來越無力。

為什麼重要

我們認為，Sharma 的離開給所有關注 AI 的人提了個醒：所謂安全第一的承諾，在白熱化的行業軍備競賽面前可能非常脆弱。

對於開發者和普通使用者來說，這件事的現實影響在於，市面上主流模型所謂的價值對齊，可能遠不如宣傳的那麼牢固。如果連專門研究安全的主管都覺得無法阻擋妥協的趨勢，那你每天在用的 AI 助手，在迎合你的偏好和引導你的認知時，背後真正的邊界可能比你想像的更模糊。

對整個行業而言，這次離職事件撕開了頭部 AI 機構的人設裂痕。Anthropic 過去一直試圖在公眾心中樹立負責任研發者的形象，甚至靠踩著對手的商業化動作來建立品牌優越感。但核心安全專家的決絕出走，說明即便是最標榜原則的團隊，也難免在算力成本和競爭焦慮中變形。

在我們看來，當頂尖的安全研究員選擇用離開和寫詩來表達無聲的抗議，行業顯然已經走到了一個危險的拐點。單純依靠企業內部的道德自覺來約束前沿模型，看起來已經越來越不可靠了。