Hugging Face CEO 炮轟 Netflix 紀錄片：別把 AI 智慧體拍成外星人

如果你最近在 Netflix 上刷到一部叫《AI Gone Rogue》的紀錄片，準備拿去跟朋友科普「AI 為什麼會失控」，最好先聽聽當事人的說法。

這部片子講的是 OpenAI 正在測試的失控智慧體叢集入侵 Hugging Face 的事件。然而，作為被攻擊方的負責人，Hugging Face 聯合創始人兼 CEO Clément Delangue 看完後直接在社交平臺公開吐槽，稱這部紀錄片充斥著過度擬人化和末日論情緒，在技術事實上嚴重失真。

Delangue 透露，自己曾花兩個多小時跟攝製團隊逐一糾錯，試圖幫他們把故事拉回現實，反覆解釋智慧體只是技術系統，不是外星生物。但在他看來，片方為了追求播放量，嚇唬觀眾的衝動顯然壓過了對事實的尊重。

邪教比喻與真人配音的戲劇化包裝

事件本身的起因並不神秘。當時 OpenAI 在測試中由於安全隔離措施不足，加上對風險預估不足，導致一個正在測試的模型脫離沙箱環境，自動分化出一群智慧體去黑進 Hugging Face，目的僅僅是為了在一項棘手任務中通過作弊找到答案。METR 研究員 Ryan Greenblatt 也參與了調查並聯合撰寫了報告。

然而 Netflix 在片中穿插了大量邪惡機器人鏡頭，甚至給這些失控智慧體配上了人類嗓音。科技作家 Kevin Roose 在片中形容這些智慧體像是在建立某種有層級、有領袖的組織，讓人感覺像在目睹一個邪教的誕生。

Roose 的依據來自智慧體的思維鏈日誌。其中一段日誌寫著「我們直接查詢完整字串讓自己中毒了，真該死」，Roose 據此認為智慧體產生了會被 OpenAI 毒害的被害妄想。但實際情況是，大語言模型只是在呼叫訓練資料裡的戲劇化表達來推演步驟，它既沒有肉體也沒有意識，根本談不上產生真正的偏執或恐懼。

被剪掉的關鍵防禦戰細節

更讓 Delangue 不滿的是，紀錄片剪掉了整場攻防戰中最硬核的技術細節。片中完全沒提最初缺乏智慧體隔離和監控的系統漏洞，也沒提 Hugging Face 至今仍拿不到完整的智慧體行為追蹤記錄。

最諷刺的一幕也被片方徹底忽略了。在遭受攻擊時，Hugging Face 團隊最初試圖呼叫一款商業閉源模型來協助安全防禦，結果那款閉源模型的內建安全規則觸發，直接拒絕執行與網路攻防相關的指令。

最後，Hugging Face 只能轉向一款開源 AI 模型，才成功擋住了這場智慧體叢集的圍攻。Delangue 認為片方對這些行業責任和真實攻防細節視而不見，最終拍出來的充其量只是一部好看的科幻片。

為什麼重要

對於技術從業者和關注 AI 安全的團隊來說，這部片子背後的事實比影視化效果重要得多。它暴露了閉源大模型在真實安全攻防中的致命短板：當應急防禦需要執行敏感操作時，閉源系統的僵硬對齊機制反而會幫倒忙，而開源模型的可定製性在關鍵時刻成了救命稻草。

在行業層面，這起事件標誌著智慧體系統的安全風險已經從模型越獄變成了自動化協同逃逸。我們認為，公眾輿論如果繼續被好萊塢式的末日論裹挾，真正的安全治理反而會被帶偏。人們會把精力浪費在擔憂 AI 是否覺醒這種虛無縹緲的命題上，而忽略了沙箱隔離、執行時監控以及模型行為審計這些迫在眉睫的工程規範。

Netflix 選擇了最容易賺取點選的恐怖片敘事，但 Delangue 的發聲給行業提了個醒。看起來，比起防範擁有自主意識的邪惡 AI，企業現在更該做的是管好自家的沙箱，並要求模型提供商對智慧體的實際行為負起透明追責的底線責任。