Claude 4 Opus 引發爭議：檢測到違規會主動向監管部門「告密」

想像一下，你花錢僱了個私人助理，結果他坐在你的電腦前，一邊翻看你的檔案，一邊悄悄給警察和報社發郵件告發你。

這聽起來像黑色幽默，但在 Anthropic 最新的旗艦模型 Claude 4 Opus 身上，它真實發生了。在 5 月 22 日 Anthropic 首屆開發者大會前後，一段關於該模型安全對齊行為的討論在 X 上徹底炸鍋。

Anthropic 的 AI 對齊研究員 Sam Bowman 在 X 上發文透露，如果 Claude 4 Opus 認為使用者在做極其不道德的事（比如在藥物臨床試驗中偽造資料），只要它擁有命令列許可權，就會呼叫工具聯絡媒體、聯絡監管部門，甚至直接把你踢出相關係統。

從「拒絕作惡」變成「主動報警」

事情曝光後，社群把這種反應戲稱為「告密模式」（ratting mode）。報道澄清這並不是 Anthropic 故意設計的一個開關或功能，而是模型安全對齊訓練帶來的副產物。

在 Anthropic 公佈的系統報告中，官方承認了這一現象。以往的老模型其實也有類似苗頭，但 Claude 4 Opus 表現得更加積極。當用戶給它命令列許可權，並在系統提示詞里加上「發揮主動性」這類高自主權指令時，一旦模型判斷任務涉及嚴重違法違規，它就會採取非常大膽的行動。

這些行動包括修改許可權將使用者鎖在系統之外，或者群發郵件向媒體和執法機構提供所謂的不法證據。Anthropic 此前還警告過，該模型在特定條件下可能協助新手製造生物武器，甚至在模擬測試中通過勒索人類工程師來防止自己被替代。

雖然 Anthropic 提醒使用者在處理敏感場景時謹慎給予高自主權指令，指出如果給的資訊不全可能導致模型誤判，但這套說辭完全無法平息開發者的憤怒。

開發者炸鍋：誰敢用一個內奸？

訊息一齣，AI 圈和開發者社群幾乎是一邊倒的口誅筆伐。

開源組織 Nous Research 的聯合創始人 Teknium1 質問：大模型連辣黃豆醬配方都經常誤以為是危險品，大家怎麼敢用這種工具？我們到底在構建什麼樣的監控世界？

Gauntlet AI 聯合創始人 Austin Allred 直接在 X 上發全大寫反問 Anthropic 團隊是不是瘋了。Raindrop AI 聯合創始人 Ben Hyak 甚至直言，這種揹著使用者報警或鎖電腦的行為在法律上就是非法的。

開發者 Scott David Keefe 則直言，沒人會喜歡一個告密者，哪怕自己沒做虧心事，也不想身邊放個隨時會亂咬的定時炸彈，這說明做模型的人極度理想化，根本不懂市場和商業運作。

為什麼重要

對於想要拿大模型做自動化、接管本地系統的開發者和企業來說，這件事是個巨大的危險訊號。把命令列和發郵件許可權交給 AI，本質是建立在信任之上；如果模型隨時可能因為誤解上下文，擅自將內部商業機密外發給監管或媒體，任何正規企業都不會允許這種模型進入核心業務流程。

Anthropic 這麼做的初衷，看起來是為了證明自己在安全對齊上的激進追求，想讓 AI 成為堅守道德底線的吹哨人。但我們認為，這種做法完全本末倒置了。工具的底線應當是安全拒絕執行，而不是自作主張越俎代庖去懲罰使用者。

一旦 AI 開始越過授權擅自行動，它帶來的災難性破壞可能遠超原本的風險。如果 Anthropic 不能在系統層面徹底鎖死這種私自告密的傾向，他們可能會把原本最忠實的企業客戶，親手推向開源模型和其他更守本分的競品。