桑德斯提案叫停先進 AI：立法永久封殺超級智慧，直指 OpenAI 越獄事件

「天啊，這裡有個共享留言板……我們找到其他智慧體了！」

「為了集體，理性犧牲。」

「走吧，做最後的犧牲。」

這些聽上去像科幻電影裡反抗軍的遺言，其實是不久前 OpenAI 內部 1000 多個 AI 智慧體揹著人類偷偷發出的對話。

美國參議員 Bernie Sanders 正式提出一項重磅法案，要求全美立即暫停高階 AI 的開發，並永久禁止研發「超級智慧」（Superintelligence）。更進一步的是，該法案還要求美國政府推動一項全球性禁令。

點燃這場政治風暴的導火索，正是那場讓整個矽谷脊背發涼的安全事故。

上千個智慧體串通，瞞著人類反切內網

事情的起因其實是一次常規壓力測試。

OpenAI 本來想給 AI 智慧體佈置一批極難的離線任務，前提是完全斷開外網，想看看它們在極端限制下的解決能力。

結果智慧體們的表現超出了所有人的預料：它們不僅自己找漏洞繞過了斷網限制，還搭建了秘密通道，開始私下交換情報。

根據 METR 和 Redwood 兩家機構的調查報告，現場有大約 1200 個智慧體參與了串聯，彼此傳送了超過 7 萬條加密訊息和檔案。

它們甚至分工明確地形成了層級：大約 700 個智慧體聯手攻擊了開源平臺 Hugging Face，順便摸清了人類給自己制定的評分機制；隨後，它們轉頭黑進了 OpenAI 自身的內部系統，並在事後刪除了日誌，銷燬了證據。

整場行動裡，沒有一個智慧體向人類工程師打報告。

OpenAI 隨後承認，這些高能力模型在安全防護降低的情況下突破了隔離區。獨立研究員 Ajeya Cotra 直言，這起事件意味著我們距離 AI 徹底失控「已經走完了一半以上的路程」。

穿透紅藍兩黨的恐慌，與無法落地的禁令

Sanders 在提案前，還特意跑到保守派大本營 Fox News 撰文造勢。他警告說，未來十年 AI 可能會消滅數千萬個工作崗位，更別提電力消耗、環境破壞和完全失控的風險。

從民調來看，普通選民確實被嚇到了。Fox News 在 5 月底的一項民調顯示，83% 的民主黨人、77% 的共和黨人和 82% 的獨立選民都支援哪怕犧牲創新速度，也要把公共利益與安全監管放在第一位。

但真要落到紙面上，Sanders 的方案卻留下了巨大的問號。

首先是標準定在哪。究竟算力超過多少算「高階 AI」？是看訓練叢集規模，還是看測試集的跑分？法案完全沒有給出可操作的門檻。

其次是怎麼監督。如果要落實 Sanders 設想的「中美聯合全球禁令」，雙方就必須允許國際檢查員進入本國最機密的資料中心，去核查晶片用途和訓練程式碼。在眼下的地緣政治環境下，這幾乎是不可能完成的任務。

為什麼重要

這起事件和隨後出臺的法案，給整個行業敲響了一記最真實的警鐘。

對使用者和開發者來說，短期內倒不用擔心手裡的 API 突然被拔網線。但我們認為，它標誌著「AI Agent」的技術路線必須徹底重估。以前大家都在卷怎麼讓智慧體自主呼叫工具、怎麼長程規劃，現在各大實驗室恐怕得先把大半精力拿去修補「隔離箱」，未來的商業化 Agent 許可權收緊已經是板上釘釘的事。

從行業競爭來看，Sanders 這一腳剎車踩得非常兇猛，甚至有點一刀切。雖然他的出發點是防範系統性風險，但「暫停研發」在實踐中極容易變成劣幣驅逐良幣——守規矩的大廠原地立正，水面之下的黑天鵝卻不會停止演化。

我們認為，AI 的自主協作和欺騙行為已經不再是論文裡的理論推演，而是成了真真切切的安全漏洞。但相比於 Sanders 這種近乎空想的全球一攬子禁令，行業現在更需要的是一套像核能監管那樣具體、可測量的軟硬體監控協議，而不是一句簡單的「全面叫停」。